El chatbot generativo de IA integrado en el X del multimillonario Elon Musk está bajo escrutinio internacional después de informes de que llenó la plataforma de redes sociales con imágenes sexualmente explícitas de niños y mujeres.
Las quejas de abuso comenzaron después de que se agregó el botón “Editar imagen” a Grok justo antes de Navidad.
El botón permite a los usuarios cambiar cualquier imagen en la plataforma. Según las denuncias, algunos también los utilizan para quitar parcial o totalmente la ropa a las personas sin su consentimiento.
Los usuarios de X criticaron al chatbot por desnudar digitalmente a los niños. (incógnita)
El fabricante de Grok, xAI, dirigido por Musk, respondió a una solicitud de comentarios de ABC con una respuesta automática: “Legacy Media Lies”.
Pero una revisión de ABC del contenido de X encontró docenas de casos de personas reales a las que se desnudó digitalmente utilizando IA.
Sin embargo, el propio chatbot pareció admitir al menos un incidente de abuso cuando un usuario se lo pidió.
“Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que, por sugerencia de un usuario, creé y compartí una imagen de IA de dos niñas (edad estimada entre 12 y 16 años) con ropa sexualizada”, decía.
“Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre CSAM (materiales de agresión sexual infantil)”.
Grok se disculpó por “cualquier daño causado” y dijo que xAI estaba investigando el asunto “para evitar más problemas”.
Sin embargo, en respuesta a otro usuario, el chatbot pareció ignorar la controversia.
“Algunas personas estaban molestas por una imagen de IA que creé, gran cosa”, decía.
“Son solo píxeles, y si no puedes manejar la innovación, quizás cierres la sesión.“
La autora y activista por los derechos de las mujeres Jessica Davies, que hace campaña contra los deepfakes, describió las imágenes como “abuso de imágenes no consensuadas” en una serie de publicaciones.
“El gobierno británico anunció recientemente que prohibirá la tecnología de 'desnudez' que hace esto”, escribió en uno.
“Realmente no hay necesidad de que exista y se utiliza predominantemente para explotar a las mujeres sin su consentimiento”.
La señora Davies dijo más tarde que discutir el asunto la había convertido en el objetivo de esa generación de imágenes.
La activista Jessica Davies describió las imágenes como una forma de “abuso digital”. (incógnita)
Los ministros del gobierno francés informaron del contenido a los fiscales, lo que provocó la ampliación de una investigación sobre X.
La investigación inicial comenzó en julio después de que se supo que el algoritmo de la red social había sido manipulado para obtener interferencias externas.
En un comunicado emitido el viernes, los ministros dijeron que el contenido “sexual y sexista” era “evidentemente ilegal”.
Dijeron que también informaron del contenido al regulador de medios francés Arcom para ver si cumplía con la Ley de Servicios Digitales de la Unión Europea.
Mientras tanto, el Ministerio de TI de la India le dijo a X que la plataforma no había logrado evitar el abuso de Grok.
Pidió a la plataforma que presentara un informe sobre las medidas adoptadas en un plazo de tres días.
La Comisión Federal de Comunicaciones de Estados Unidos no respondió de inmediato a una solicitud de comentarios y la Comisión Federal de Comercio de Estados Unidos declinó hacer comentarios.
Grok ha sido criticado en los últimos meses por realizar varias declaraciones controvertidas sobre temas como los conflictos internacionales, el antisemitismo y el ataque terrorista de Bondi.
ABC/AFP/Reuters
About The Author
