Google anunció la suspensión temporal de su servicio de creación de imágenes mediante inteligencia artificial (IA) después de un desafortunado incidente en el que el programa representó a tropas alemanas de la época nazi como individuos de varios orígenes étnicos. La nueva versión mejorada de su programa Gemini, lanzada el 8 de febrero en algunos países, tuvo que ser interrumpida para abordar estos «recientes problemas» en la función de generación de imágenes, según declaraciones de la empresa.

La polémica surgió cuando un usuario de redes sociales compartió imágenes generadas por Gemini, solicitando la creación de un soldado alemán de 1943. El programa, en lugar de generar una única imagen, produjo cuatro representaciones distintas, incluyendo una de un individuo de raza negra y dos mujeres de color. Este error puso de manifiesto las preocupaciones sobre posibles sesgos raciales en los algoritmos de inteligencia artificial utilizados por grandes empresas tecnológicas como Google.

Aunque la IA se considera el futuro de diversas aplicaciones tecnológicas, desde motores de búsqueda hasta cámaras de teléfonos inteligentes, su implementación ha sido objeto de críticas por perpetuar prejuicios raciales y generar resultados no deseados. Ante esto, Google se vio obligado a detener temporalmente la generación de imágenes de personas mientras trabaja en una versión mejorada del programa.

Estos incidentes han avivado el debate sobre la necesidad de probar adecuadamente los productos de IA antes de su lanzamiento, dado el potencial de la tecnología para perpetuar falsedades, desinformación y parcialidad. Tanto Google como sus competidores han invertido cuantiosos recursos en el desarrollo de IA, buscando demostrar su eficacia y evitar contratiempos como el reciente.