La comisionada de eSafety, Julie Inman Grant, dice que el enfoque regulatorio global en el X de Elon Musk ha alcanzado un “punto de inflexión” luego de una redada en las oficinas de la compañía en Francia esta semana.
La redada del martes fue parte de una investigación que incluyó presunta complicidad en la posesión y distribución organizada de imágenes de abuso infantil, violación de los derechos de imagen a través de deepfakes sexualizados y negación de crímenes contra la humanidad.
Varios otros países, incluidos el Reino Unido y Australia, así como la UE, han iniciado investigaciones sobre X en las últimas semanas después de que su chatbot de inteligencia artificial Grok fuera utilizado para producir en masa imágenes sexualizadas de mujeres y niños en respuesta a las solicitudes de los usuarios.
Inman Grant dijo a Guardian Australia: “Es bueno ya no ser solista sino parte de un coro.
“Hemos tenido muchas conversaciones productivas con otros reguladores de todo el mundo e investigadores que realizan un trabajo importante en esta área”, dijo.
“Creo que esto realmente representa un punto de inflexión. Es una condena global a una tecnología desarrollada descuidadamente que podría producir material de abuso sexual infantil e imágenes sexuales no consentidas a gran escala”.
Tras la protesta, X desactivó la generación de imágenes de Grok para todos los usuarios excepto los que pagan y prometió realizar cambios para evitar que los usuarios desnuden a personas reales.
Regístrese: correo electrónico para recibir noticias de última hora de AU
Los pasos contra
En julio de 2024, se enviaron avisos a Apple, Discord, Google, Meta, Microsoft, Skype y WhatsApp exigiendo actualizaciones semestrales de las plataformas. El Skype de Microsoft ya no existe.
Inman Grant dijo que las plataformas habían aportado algunas mejoras, incluida la detección de material conocido de abuso infantil y la prevención de la transmisión en vivo de abusos fuera de las aplicaciones de mensajería, pero que las plataformas aún eran inadecuadas.
Apple, que según Inman Grant consideraba que la privacidad y la seguridad eran mutuamente excluyentes, había llegado más lejos.
“(Apple es) realmente hacer una inversión… e incorporar, evolucionar y evolucionar sus capacidades de seguridad de las comunicaciones”.
En 2024, la compañía comenzó a implementar funciones que permitirían a los niños denunciar imágenes y vídeos de desnudos enviados directamente a Apple, que luego podría denunciar los mensajes a la policía.
Pero Inman Grant dijo que FaceTime todavía no detecta adecuadamente el abuso o la explotación infantil. Expresó críticas similares a Meta for Messenger, Google Meet, Snapchat, Microsoft Teams, WhatsApp y Discord.
Varios de los servicios no utilizan el análisis del habla para detectar proactivamente la extorsión sexual, dijo.
“Me sorprende que no se ocupen de los servicios religiosos, donde se causan los peores y más devastadores daños a los niños. Es como si no impermeabilizaran completamente toda la casa. Ponen masilla en las paredes y tal vez tapan las ventanas con cinta adhesiva, pero no arreglan el techo”.
“Para mí es interesante ver cuán irregularmente se utilizan estas tecnologías de seguridad”.
Mejoras incluidas: Microsoft detecta material conocido de abuso infantil en OneDrive y en archivos adjuntos de correo electrónico en Outlook; Snap reduce el tiempo para procesar informes de material de abuso infantil de 90 minutos a 11 minutos; y Google introduce advertencias de contenido sensible que difuminan las imágenes de desnudos antes de verlas.
Las empresas tienen que informar a eSafety dos veces más: en marzo y agosto de este año. Inman Grant dijo que los informes de transparencia abrieron la “caja negra” sobre lo que estaban haciendo las empresas y ayudarían en futuras investigaciones.
X no fue incluido en los avisos y cuestionó la emisión de un aviso similar por parte de eSafety en marzo de 2024 en un caso en curso.
About The Author
