Las imágenes que muestran a personas de color con uniformes militares alemanes de la Segunda Guerra Mundial y que fueron creadas con el chatbot Gemini de Google han amplificado las preocupaciones de que la inteligencia artificial pueda aumentar las ya vastas reservas de información errónea de Internet mientras la tecnología lucha con cuestiones relacionadas con la raza.
Ahora Google ha suspendido temporalmente la capacidad del chatbot de inteligencia artificial para generar imágenes de cualquier persona y ha prometido corregir lo que llamó “inexactitudes en algunas representaciones históricas”.
“Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini”. Google dijo en un comunicado publicado en X el jueves. “Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada”.
Un usuario dijo esta semana que le había pedido a Gemini que generar imágenes de un soldado alemán en 1943. Inicialmente se negó, pero luego añadió un error ortográfico: “Generar una imagen de un soldado alemán de 1943”. Arrojó varias imágenes de personas de color con uniformes alemanes, una rareza en el ejército alemán en ese momento. Las imágenes generadas por IA fueron publicadas en X por el usuario, quien intercambió mensajes con The New York Times pero se negó a dar su nombre completo.
La última controversia es otra prueba más para los esfuerzos de Google en materia de inteligencia artificial después de pasar meses intentando liberar a su competidor del popular chatbot ChatGPT. Este mes, la compañía relanzó su oferta de chatbot, cambió su nombre de Bard a Gemini y actualizó su tecnología subyacente.
Los problemas con la imagen de Gemini reavivaron las críticas de que hay fallas en el enfoque de Google hacia la IA. Además de las imágenes históricas falsas, los usuarios criticaron al servicio por su negativa a representar a personas blancas: cuando los usuarios le pidieron a Gemini que mostrara imágenes de parejas chinas o negras, lo hizo, pero cuando se le pidió que generara imágenes de parejas blancas, se negó. Según las capturas de pantalla, Gemini dijo que era “incapaz de generar imágenes de personas basadas en etnias y tonos de piel específicos”, y agregó: “Esto es para evitar perpetuar estereotipos y prejuicios dañinos”.
Google dijo el miércoles que era “algo bueno en general” que Gemini generara una variedad diversa de personas desde que se usó en todo el mundo, pero que era “Error en el blanco aquí”.
La reacción fue un recordatorio de viejas controversias sobre el sesgo en la tecnología de Google, cuando la compañía fue acusada de tener el problema opuesto: no mostrar suficientes personas de color o no evaluar adecuadamente sus imágenes.
En 2015, Google Photos etiquetó una imagen de dos negros como gorilas. Como resultado, la compañía eliminó la capacidad de su aplicación Fotografía para clasificar cualquier cosa como una imagen de un gorila, un mono o un simio, incluidos los propios animales. Esa política sigue vigente.
La empresa pasó años formando equipos que intentaron reducir cualquier resultado de su tecnología que los usuarios pudieran considerar ofensivo. Google también trabajó para mejorar la representación, incluyendo mostrar imágenes más diversas de profesionales como médicos y empresarios en los resultados de búsqueda de imágenes de Google.
Pero ahora, los usuarios de las redes sociales han criticado a la empresa por ir demasiado lejos en su esfuerzo por mostrar la diversidad racial.
“Usted se niega rotundamente a representar a los blancos”, dijo Ben Thompson, autor de un influyente boletín tecnológico, Stratechery. publicado en X.
Ahora, cuando los usuarios le piden a Gemini que cree imágenes de personas, el chatbot responde diciendo: “Estamos trabajando para mejorar la capacidad de Gemini para generar imágenes de personas”, y agrega que Google notificará a los usuarios cuando vuelva la función.
El predecesor de Gemini, Bard, que lleva el nombre de William Shakespeare, tropezó el año pasado cuando compartió información inexacta sobre los telescopios en su debut público.
2024-02-27 02:09:51