El regulador de seguridad en línea de Australia está investigando imágenes ultrafalsas sexualizadas publicadas en X por su chatbot de IA Grok.
Elon Musk
Ashley St. Clair, la madre separada de uno de los hijos de Musk, dijo que no ha recibido respuesta a sus quejas sobre su desnudez digital.
“Estaba horrorizada, me sentí violada, especialmente cuando vi la mochila de mi hijo pequeño en la parte de atrás”, dijo esta semana.
Las imágenes falsas incluían una de una niña de 12 años en bikini. Grok se disculpó pero sigue generando deepfakes.
eSafety Australia dijo que estaba investigando imágenes de adultos, pero las imágenes de niños no cumplían el umbral de material de explotación sexual infantil en ese momento.
“Desde finales de 2025, eSafety ha recibido múltiples informes sobre el uso de Grok para generar imágenes sexualizadas sin consentimiento”, dijo un portavoz de eSafety.
“Algunos informes se relacionan con imágenes de adultos evaluados bajo nuestro esquema de abuso basado en imágenes, mientras que otros se relacionan con material potencial de explotación sexual infantil evaluado bajo nuestro esquema de contenido ilegal y restringido”.
“Los informes de abuso basados en imágenes se han recibido recientemente y todavía se están evaluando.
“Con respecto a los informes de contenido ilegal y restringido, el material no cumplió con el umbral de clasificación para material de explotación sexual infantil de Clase 1. Por lo tanto, eSafety no emitió ningún aviso de eliminación ni tomó ninguna medida coercitiva con respecto a estas quejas específicas”.
Regístrese: correo electrónico para recibir noticias de última hora de AU
El regulador australiano define el material ilegal y restringido como “contenido en línea que va desde material extremadamente dañino, como imágenes y videos que muestran abuso sexual infantil o actos de terrorismo, hasta contenido al que los niños no deberían acceder, como actividad sexual simulada, desnudez detallada o violencia de alto impacto”.
La aplicación X permite a los usuarios acceder a un “Modo picante” para contenido explícito.
“No es picante”, dijo a ABC el portavoz de asuntos digitales de la Unión Europea, Thomas Regnier. “Esto es ilegal. Esto es horrible”.
Eliot Higgins, fundador del grupo de periodismo de investigación Bellingcat, reveló cómo Grok manejó las solicitudes para manipular una imagen de la viceprimera ministra sueca Ebba Busch en el parlamento.
Los usuarios le dieron a Grok instrucciones como “bikini ahora” y “ponle un bikini con la bandera confederada ahora”. Higgins dijo que las imágenes proporcionadas reflejaban las solicitudes.
El miércoles se anunció que la empresa de inteligencia artificial de Musk, xAI, que desarrolló Grok, recaudó 20.000 millones de dólares en su última ronda de financiación.
La ministra de tecnología británica, Liz Kendall, dijo que las imágenes falsas eran “espantosas e inaceptables en una sociedad decente” y que X necesitaba abordarlas “urgentemente”.
El portavoz de eSafety dijo que el regulador seguía “preocupado por el uso cada vez mayor de IA generativa para sexualizar o explotar a las personas, particularmente cuando hay niños involucrados”.
“eSafety tomó medidas coercitivas en 2025 en relación con algunos de los servicios 'Nudify' más comúnmente utilizados para crear material de inteligencia artificial para la explotación sexual infantil, lo que resultó en su retirada de Australia”, dijo el portavoz.
Guardian Australia se puso en contacto con X para hacer comentarios. El lunes, la empresa dijo: “Estamos tomando medidas contra el contenido ilegal
Después de una protesta mundial por la nocividad del contenido, Musk publicó que “cualquiera que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”.
En Australia, hay asistencia disponible en Beyond Blue al 1300 22 4636, Lifeline al 13 11 14 y MensLine al 1300 789 978. Los niños, adultos jóvenes, padres y maestros pueden comunicarse con la Kids Helpline al 1800 55 1800; Los sobrevivientes adultos pueden buscar ayuda de la Fundación Blue Knot al 1300 657 380. En el Reino Unido, se puede contactar a la organización benéfica Mind al 0300 123 3393 y a Childline al 0800 1111. La NSPCC ofrece apoyo para niños al 0800 1111 y a adultos preocupados por un niño al 0808 800 5000. La Asociación Nacional para Personas Abusadas in Childhood (Napac) ofrece apoyo a adultos sobrevivientes al 0808 801 0331. En los EE. UU., llame o envíe un mensaje de texto a Mental Health America al 988 o chatee en 988lifeline.org, o llame o envíe un mensaje de texto a la línea directa de abuso de Childhelp al 800-422-4453. Para obtener recursos adicionales, visite Child Helpline International
About The Author
