El regulador de seguridad en línea de Australia está investigando un chatbot de IA respaldado por Elon Musk que permite a los usuarios solicitar imágenes explícitas de personas reales por generar material de explotación infantil.
Grok, el programa de inteligencia artificial que funciona con la plataforma de redes sociales
Algunos usuarios también se han quejado de que la herramienta crea imágenes de niños en posiciones comprometidas.
Grok ha recibido intensas críticas por permitir a los usuarios crear imágenes sexualizadas de personas. (FOTO DE LA EPA)
La comisionada de eSafety, Julie Inman Grant, dijo que su agencia tiene dos investigaciones en curso sobre el papel de la aplicación de inteligencia artificial en la creación de material de explotación infantil.
“Tenemos dos investigaciones, una contra X por proporcionar material de abuso sexual infantil”, dijo a los periodistas en Brisbane el viernes.
“El segundo, que publicamos ayer, se refiere a nuestro estándar de Internet establecido que evita que los servicios generativos de IA de alto impacto conduzcan al abuso sexual infantil”.
“Aceptamos y eliminamos contenido que muestre imágenes íntimas y no consensuadas de adultos.
“Pero creo que todos podemos estar de acuerdo en que la generación (de material de abuso sexual infantil) es aborrecible y esto debe examinarse más de cerca”, dijo Inman Grant.
X AI respondió a la solicitud de comentarios de la AAP con lo que parecía ser un correo electrónico generado automáticamente que decía: “Legacy Media Lies”.
La plataforma de redes sociales dice que ha tomado nuevas medidas para evitar que se creen imágenes de personas reales con ropa reveladora en la cuenta pública de Grok después de que países como el Reino Unido amenazaran con imponer leyes más estrictas.
X también ha restringido la creación de imágenes a suscriptores de pago.
La comisionada de eSafety, Julie Inman Grant, dice que su agencia tiene dos investigaciones en curso sobre Grok. (Mick Tsikas/FOTOS AAP)
Pero la AAP aún pudo crear imágenes casi desnudas de una persona real utilizando una cuenta gratuita conectada al sitio web independiente de Grok.
El gobierno federal ha prometido prohibir las aplicaciones que permiten a los usuarios crear imágenes de desnudos ultrafalsos, pero aún no ha aprobado una legislación al respecto.
Espera recibir asesoramiento de funcionarios del ministerio en los próximos meses y se ha reunido con Apple, Google y Microsoft para discutir formas de restringir el acceso a aplicaciones nudificadoras.
La ministra de Comunicaciones, Anika Wells, dijo que había hablado con la Comisión eSafety sobre el tema.
Dijo que la debida diligencia digital -una política separada que el gobierno quiere introducir- tomaría medidas enérgicas contra el comportamiento “aborrecible” en línea y que las herramientas de creación de imágenes proporcionadas actualmente por Grok serían una clara violación de las reglas propuestas.
“La debida diligencia digital requiere que los australianos tengan claro lo que estas plataformas nos deben y el deber de diligencia que nos deben cuando intentan realizar transacciones comerciales en las costas australianas”, dijo la Sra. Wells al programa Today de Nine el viernes.
La portavoz de comunicaciones de la oposición, Melissa McIntosh, dijo que el gobierno necesitaba actuar más rápido contra las aplicaciones nucleares.
“Es absolutamente inaceptable que se puedan crear imágenes de desnudos de cualquier persona, ya sea un niño, una mujer, cualquier persona… y todo debería dedicarse a este tema en particular”, afirmó la señora McIntosh.
About The Author
