Anthony Albanese ha expresado su indignación por las preocupaciones sobre el uso de inteligencia artificial en el X de Elon Musk para permitir contenido sexual de explotación.
Si bien el número de informes recibidos por la Oficina de eSafety de Australia sigue siendo bajo, ha habido informes de un aumento reciente en el uso del chatbot X Grok para crear imágenes sexualizadas o de explotación.
El regulador advirtió el viernes que utilizaría sus poderes, incluidos los avisos de eliminación, si dicho material cumplía los umbrales establecidos en la Ley de Seguridad en Línea.
Utilizar la IA “para explotar o sexualizar a las personas sin su consentimiento es abominable”, afirmó Anthony Albanese. (Lukas Coch/FOTOS AAP)
“X, Grok y una variedad de otros servicios también están sujetos a obligaciones de seguridad sistémicas para detectar y eliminar material de explotación sexual infantil y otro material ilegal según los códigos y estándares industriales líderes en el mundo de Australia”, dijo.
El primer ministro se unió el sábado a una lista cada vez mayor de líderes internacionales, incluido su homólogo británico Keir Starmer, que criticó la plataforma de redes sociales.
“Utilizar la IA generativa para explotar o sexualizar a las personas sin su consentimiento es abominable”, dijo a los periodistas en Canberra.
“En mi opinión, el hecho de que esta herramienta se haya utilizado de tal manera que la gente estuviera usando su función de creación de imágenes a través de Grok es completamente aborrecible”.
“Es otro ejemplo más de cómo las redes sociales no logran demostrar responsabilidad social y los australianos y, de hecho, los ciudadanos del mundo merecen algo mejor”.
Su crítica es parte de una reacción global contra el chatbot Grok, que llevó a X esta semana a restringir su uso de IA para crear o editar imágenes restringiendo la herramienta a suscriptores de pago.
El viernes, Grok respondió a las solicitudes de edición de imágenes con el mensaje: “La creación y edición de imágenes está actualmente limitada a suscriptores de pago. Puede suscribirse para desbloquear estas funciones”.
Las autoridades siguen preocupadas por el uso de la IA para la explotación, en particular de niños. (Dean Lewins/FOTOS de AAP)
Algunas de las quejas recibidas por la Oficina de eSafety estaban relacionadas con imágenes de adultos, mientras que otras involucraban material potencial de explotación sexual infantil, dijo un portavoz a la AAP.
“Los informes de abuso basado en imágenes se han recibido recientemente y todavía se están evaluando”, dijeron.
“En relación con los informes de contenido ilegal y restringido, el material no cumplió con el umbral de clasificación para material de explotación sexual infantil de Clase 1”.
Como resultado, eSafety no ha emitido ningún aviso de eliminación ni ha tomado ninguna medida coercitiva con respecto a estas quejas específicas.
Sin embargo, el portavoz dijo que persisten las preocupaciones sobre el creciente uso de la IA para la sexualización o explotación, particularmente cuando se trata de niños.
Los Códigos y Normas Australianos exigían que los servicios en línea implementaran sistemas y procesos para proteger a los australianos.
“Esto subraya la importancia de la seguridad desde el diseño, incluida la necesidad de que los productos de IA generativa cuenten con salvaguardas y barreras de seguridad adecuadas en cada etapa del ciclo de vida del producto para evitar el uso indebido y el uso de estas tecnologías como armas antes de que ocurran daños”, dijeron.
About The Author
