Indonesia bloqueó temporalmente el sábado el chatbot Grok de Elon Musk debido a la amenaza de contenido pornográfico generado por IA, convirtiéndose en el primer país en negar el acceso a la herramienta de IA.
La medida se produce después de que gobiernos, investigadores y reguladores desde Europa hasta Asia condenaran el contenido sexualizado en la aplicación e iniciaran algunas investigaciones al respecto.
xAI, la startup detrás de Grok, anunció el jueves que está restringiendo la creación y edición de imágenes a los suscriptores de pago para abordar las vulnerabilidades de seguridad que habían permitido la producción sexualizada, incluidas representaciones de niños con poca ropa.
“El gobierno considera que la práctica de deepfakes sexuales no consentidos es una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, afirmó en un comunicado el ministro de Comunicaciones y Digital, Meutya Hafid.
El ministerio también ha convocado a funcionarios de X para discutir el asunto.
Musk dijo arriba
xAI respondió al correo electrónico de Reuters en busca de comentarios con lo que parecía ser una respuesta automática: “Legacy Media Lies”. X no respondió de inmediato a una solicitud de comentarios.
Indonesia tiene la población musulmana más grande del mundo y tiene reglas estrictas que prohíben compartir contenido considerado obsceno en línea.
El bloqueo de Indonesia se produce después de que Grok cerrara su función de creación de imágenes para la gran mayoría de usuarios el viernes después de protestas generalizadas por el uso de la función para crear imágenes sexualmente explícitas y violentas.
Musk también ha sido amenazado con multas, acciones regulatorias e informes de una posible prohibición de X en el Reino Unido.
La herramienta también se utilizó para manipular imágenes de mujeres para quitarles la ropa y colocarlas en posiciones sexualizadas. La función correspondiente ha sido deshabilitada excepto para los suscriptores de pago.
El primer ministro australiano, Anthony Albanese, también expresó su preocupación por el uso de inteligencia artificial en el chatbot Grok para permitir contenido sexual de explotación.
El primer ministro se unió el sábado a una lista cada vez mayor de líderes internacionales, incluido su homólogo británico Keir Starmer, que criticó la plataforma de redes sociales.
“Utilizar la IA generativa para explotar o sexualizar a las personas sin su consentimiento es abominable”, dijo a los periodistas en Canberra.
“En mi opinión, el hecho de que esta herramienta se utilizara de tal manera que la gente utilizara su función de creación de imágenes a través de Grok es completamente aborrecible.
“Es otro ejemplo más de cómo las redes sociales no logran demostrar responsabilidad social y los australianos y, de hecho, los ciudadanos del mundo merecen algo mejor”.
Si bien el número de informes recibidos por la Oficina de Seguridad Electrónica de Australia sigue siendo bajo, ha habido informes de un aumento reciente en el uso de Grok para crear imágenes sexualizadas o de explotación.
El regulador advirtió el viernes que utilizaría sus poderes, incluidos los avisos de eliminación, si dicho material cumplía los umbrales establecidos en la Ley de Seguridad en Línea.
“X, Grok y una variedad de otros servicios también están sujetos a obligaciones de seguridad sistémicas para detectar y eliminar material de explotación sexual infantil y otros materiales ilegales según los códigos y estándares industriales líderes en el mundo de Australia”, dijo.
Con Reuters y AAP
About The Author
