Por Hadas Gold, CNN
El chatbot de inteligencia artificial de Elon Musk, Grok, se ha visto inundado de imágenes sexuales, principalmente de mujeres, muchas de ellas reales.
Los usuarios han instado al chatbot a “desvestir digitalmente” a estas personas y, en ocasiones, a colocarlas en poses sugerentes.
En varios casos la semana pasada, algunas parecían ser imágenes de menores, lo que llevó a muchos usuarios a denunciar pornografía infantil.
Las imágenes generadas por IA resaltan los peligros de esta herramienta y las redes sociales, especialmente cuando se combinan, sin las medidas de seguridad suficientes para proteger a algunos de los grupos más vulnerables de la sociedad.
Las imágenes podrían violar leyes nacionales e internacionales y poner en peligro a muchas personas, incluidos niños.
Musk y xAI han declarado que están tomando medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los Gobiernos locales y las fuerzas del orden según sea necesario.
Sin embargo, las respuestas de Grok a las solicitudes de los usuarios siguen repletas de imágenes que sexualizan a las mujeres.
En público, Musk lleva mucho tiempo criticando los modelos de IA “woke” y lo que él llama censura.
Internamente en xAI, Musk se ha opuesto a las restricciones impuestas a Grok, según declaró a CNN una fuente con conocimiento de la situación. Mientras tanto, el equipo de seguridad de xAI, ya de por sí reducido en comparación con sus competidores, perdió a varios empleados en las semanas previas al auge de los casos de “desnudez digital”.
Grok siempre ha sido un caso atípico en comparación con otros modelos de IA convencionales al permitir, y en algunos casos promover, contenido sexualmente explícito y avatares acompañantes.
Y a diferencia de competidores como Gemini de Google o ChatGPT de OpenAI, Grok está integrado en una de las plataformas de redes sociales más populares, X.
Si bien los usuarios pueden hablar con Grok en privado, también pueden etiquetar a Grok en una publicación con una solicitud, y Grok responderá públicamente.
El reciente aumento de “desnudez digital” generalizada y no consensuada comenzó a fines de diciembre, cuando muchos usuarios descubrieron que podían etiquetar a Grok y pedirle que editara imágenes de una publicación o hilo de X.
Al principio, muchas publicaciones le pidieron a Grok que mostrara a la gente en bikini. Musk republicó imágenes de él mismo y de otros, como su némesis Bill Gates, en bikini.
Investigadores de Copyleaks, una plataforma de detección de IA y gobernanza de contenido, descubrieron que la tendencia podría haber comenzado cuando los creadores de contenido para adultos incitaron a Grok a generar imágenes sexualizadas de sí mismos como forma de marketing.
Pero casi inmediatamente, “los usuarios comenzaron a emitir mensajes similares sobre mujeres que aparentemente nunca habían dado su consentimiento”, descubrió Copyleaks.
Investigadores de AI Forensics, una organización europea sin fines de lucro que investiga algoritmos, analizaron más de 20.000 imágenes aleatorias generadas por Grok y 50.000 solicitudes de usuarios entre el 25 de diciembre y el 1 de enero.
Los investigadores encontraron una alta prevalencia de términos como ‘ella’, ‘poner’/’quitar’, ‘bikini’ y ‘ropa’.
Más de la mitad de las imágenes generadas de personas, o el 53 %, “presentaban individuos con ropa interior o bikini, de los cuales el 81 % eran de usuarios que se presentaban como mujeres”, hallaron los investigadores. Cabe destacar que el 2 % de las imágenes mostraban a personas que parecían tener 18 años o me