Malasia e Indonesia se han convertido en los primeros países en bloquear Grok, el chatbot de inteligencia artificial desarrollado por xAI de Elon Musk, después de que las autoridades dijeran que se estaba abusando de él para generar imágenes sexualmente explícitas y no consensuadas.
En ese momento, el regulador de medios del Reino Unido confirmó que había abierto una investigación sobre la plataforma para determinar si había violado las leyes del Reino Unido.
Las medidas reflejan una creciente preocupación global sobre las herramientas de IA generativa que pueden producir imágenes, sonidos y textos realistas, mientras que las protecciones existentes no logran evitar su uso indebido.
La Unión Europea, India y Francia también han expresado su preocupación por la plataforma.
El chatbot de Grok, al que se accede a través de la plataforma de redes sociales
Los reguladores de Malasia e Indonesia dijeron que los controles existentes no impiden la creación y distribución de contenido pornográfico falso, particularmente el que involucra a mujeres y menores.
Elon Musk describió anteriormente a Grok como una IA “anti-despertar”. (AP: León Neal/Archivo)
El gobierno de Indonesia bloqueó temporalmente el acceso a Grok el sábado, seguido por Malasia el domingo.
“El gobierno considera que los deepfakes sexuales no consentidos son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, dijo el sábado el ministro de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, en un comunicado.
El ministerio dijo que la medida tiene como objetivo proteger a las mujeres, los niños y la comunidad en general del contenido pornográfico falso generado mediante inteligencia artificial.
Los hallazgos iniciales mostraron que Grok carecía de protecciones efectivas para evitar que los usuarios crearan y distribuyeran contenido pornográfico basado en fotografías reales de residentes indonesios, dijo Alexander Sabar, director general de Digital Space Supervision, en una declaración separada.
Dijo que tales prácticas podrían violar la privacidad y los derechos de imagen si las fotos fueran manipuladas o compartidas sin consentimiento, lo que provocaría daños psicológicos, sociales y de reputación.
La británica Ofcom inicia una investigación sobre Grok
En Kuala Lumpur, la Comisión de Comunicaciones y Multimedia de Malasia ordenó el domingo una restricción temporal de Grok después de que la herramienta fuera presuntamente “utilizada indebidamente repetidamente” para producir imágenes manipuladas obscenas, sexualmente explícitas y no consensuadas, incluido contenido que involucraba a mujeres y menores.
El regulador dijo que las acciones vendidas este mes a X Corp. y las comunicaciones de xAI que pedían medidas de seguridad más estrictas dieron lugar a respuestas que se basaban principalmente en mecanismos de denuncia de los usuarios.
“La restricción se impone como medida preventiva y proporcionada mientras los procedimientos legales y administrativos están en curso”, dijo, añadiendo que el acceso permanecería bloqueado hasta que se adopten medidas de protección efectivas.
El regulador de medios británico Ofcom confirmó el lunes hora local que su investigación examinaría si la plataforma violó su deber de diligencia de proteger a las personas en el Reino Unido de contenidos potencialmente ilegales.
“Ha habido informes profundamente inquietantes de que la cuenta del chatbot de Grok AI estaba en
Si encuentra que
Cuando se le pidió un comentario el lunes sobre el inicio de la investigación formal,
“Cualquiera que utilice Grok o fomente la creación de contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”, dijo.
Grok se lanzó en 2023 y su uso es gratuito en X. Los usuarios pueden hacerle preguntas en la plataforma de redes sociales y marcar las publicaciones que han creado directamente o las respuestas a las publicaciones de otros usuarios.
El verano pasado, la compañía agregó una función de generación de imágenes llamada Grok Imagine, que incluía el llamado “Modo Picante” que puede generar contenido para adultos.
La semana pasada, Grok restringió la creación y edición de imágenes a usuarios de pago después de una reacción global por los deepfakes sexualizados de personas. Pero los críticos dicen que esto no ha resuelto completamente el problema.
AP/Reuters
About The Author
