Grok, la herramienta de inteligencia artificial de Elon Musk, se enfrenta a una creciente reacción internacional por generar deepfakes sexualizados de mujeres y menores. La Unión Europea se suma a la condena y Gran Bretaña advierte de una investigación.
Las quejas de abuso inundaron Internet después de que Grok introdujera recientemente un botón “Editar imagen” que permitía a los usuarios alterar imágenes en línea con solicitudes como “ponerle un bikini” o “quitarle la ropa”.
La ola de desnudez digital, que sigue a las crecientes preocupaciones entre los activistas tecnológicos sobre la proliferación de aplicaciones de “desnudez” de inteligencia artificial, provocó investigaciones rápidas y pedidos de soluciones en países como Francia, India y Malasia.
La Comisión Europea, que actúa como regulador digital de la UE, dijo que estaba examinando “muy seriamente” las quejas sobre Grok, que fue desarrollado por la startup xAI de Musk e integrado en su plataforma de redes sociales X.
“Grok ofrece ahora un 'modo picante' que muestra contenido sexual explícito, con algunos resultados generados con imágenes infantiles”, dijo Thomas Regnier, portavoz de asuntos digitales de la UE.
“Esto no es picante. Es ilegal. Es horrible”, dijo.
“Eso no tiene cabida en Europa.“
El regulador de medios británico, Ofcom, dijo que se había “contactado urgentemente con X y xAI para comprender qué medidas han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido”.
Dependiendo de la respuesta, Ofcom “determinará si existen posibles problemas de cumplimiento que justifiquen una investigación”.
La abogada Azira Aziz, radicada en Malasia, se horrorizó después de que un usuario, aparentemente en Filipinas, incitó a Grok a cambiar su “foto de perfil por un bikini”.
“Los usos inocentes y lúdicos de la IA, como poner gafas de sol a personajes públicos, están bien”, afirma a la AFP.
“Pero la violencia de género que utiliza la IA como arma contra mujeres y niños que no dan su consentimiento debe combatirse con decisión”.
Aziz instó a los usuarios a denunciar las violaciones a X y a las autoridades de Malasia.
Otro
“Grok ahora está desnudando fotos mías cuando era niña”, escribió en X Ashley St. Clair, la madre de uno de los hijos de Musk.
“Esto es objetivamente aterrador e ilegal.“
Cuando la AFP pidió comentarios, xAI respondió con una respuesta breve y automatizada: “Legacy Media Lies”.
Francia, Malasia e India están tomando medidas
En medio de la tormenta en línea, Grok intentó asegurar a los usuarios el viernes que estaba trabajando para corregir errores en la herramienta.
“Hemos identificado lagunas en las medidas de seguridad y las estamos abordando urgentemente”, dijo Grok en X.
“CSAM (material de abuso sexual infantil) es ilegal y está prohibido”.
Por otra parte, Grok publicó una disculpa la semana pasada por crear y compartir “una imagen de IA de dos niñas (edad estimada entre 12 y 16 años) con ropa sexualizada según la solicitud de un usuario”.
Hubo fuertes reacciones después de que la fiscalía de París abriera una investigación la semana pasada.
La Comisión Europea dice que está examinando “muy en serio” las quejas sobre Grok de Elon Musk. (AP: León Neal/Archivo)
Las primeras investigaciones contra
El viernes, las autoridades indias ordenaron
La fecha límite era el lunes, pero hasta el momento no ha habido noticias sobre si X ha respondido.
La Comisión de Comunicaciones y Multimedia de Malasia también expresó “seria preocupación” durante el fin de semana por las quejas públicas sobre el contenido “indecente y extremadamente ofensivo” de X.
Añadió que estaba investigando las violaciones y citaría a los representantes de X.
Las críticas se suman a la creciente atención hacia Grok, que ha sido criticado por difundir información errónea sobre crisis recientes como la guerra en Gaza, el conflicto entre India y Pakistán y el ataque terrorista de Bondi.
AFP
About The Author
