En un giro inesperado, Google se ha visto obligado a pausar su función de generación de imágenes mediante inteligencia artificial (IA) tras una serie de críticas por sesgos discriminatorios en las representaciones.
La plataforma Gemini, anteriormente conocida como Bard, se encontraba en el centro de la controversia, ya que sus creaciones incluían representaciones históricas notablemente inexactas.
- También puedes leer: Una popular aplicación amenaza la seguridad de nuestros celulares
Google suspende creación de imágenes con IA por ser discriminatorias
La actualización Ultra 1.0 de Gemini, lanzada el 8 de febrero en algunos países, había generado expectativas de avances significativos en la IA generativa. Sin embargo, las críticas recientes han llevado a Google a reconocer la necesidad de abordar problemas emergentes en la función de generación de imágenes.
“Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”, anunció la empresa en un comunicado emitido a la agencia de noticias AFP.
Las críticas surgieron cuando usuarios como John L. en la plataforma X, antes conocida como Twitter, compartieron resultados problemáticos de las instrucciones dadas a Gemini. Por ejemplo, al solicitar una imagen de un soldado alemán de 1943, la IA produjo representaciones que incluían soldados de diversas etnias y géneros, incluyendo tropas alemanas de la época nazi representadas como personas de color.
Incluso Elon Musk, propietario de X, se sumó a las críticas, argumentando que la inclusión excesiva impulsada por ideologías políticas estaba afectando negativamente la calidad de los resultados de la búsqueda. Musk compartió una versión alterada de George Washington como parte de su crítica.
Estos incidentes resaltan los desafíos que enfrentan las empresas tecnológicas en el desarrollo de IA, especialmente en lo que respecta a la representación precisa y equitativa. Aunque la IA promete avances significativos en una variedad de campos, su implementación debe abordar cuidadosamente los sesgos y prejuicios que pueden perpetuar.
Google, junto con otros gigantes tecnológicos, continúa invirtiendo recursos significativos en el desarrollo de IA generativa. Se espera que una versión mejorada de Gemini se lance en el futuro cercano, con el objetivo de abordar los problemas de sesgo discriminatorio y mejorar la calidad de las representaciones generadas.
¿Què opinas de esta situación? Comenta en @IGEEK.NEWS
1 comment
Comments are closed.