La Comisión Europea ha abierto una investigación contra la empresa tecnológica estadounidense X por su chatbot de inteligencia artificial Grok, después de que creara imágenes sexualizadas de mujeres y niños.
“Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de humillación”, dijo el lunes la vicepresidenta de la Comisión de la UE, Henna Virkkunen.
La investigación examinará si
Póngase al día con las novedades de la aplicación 7NEWS: descárguela hoy
“Esto incluye riesgos asociados con la distribución de contenido ilegal en la UE, como imágenes sexualmente explícitas manipuladas, incluido contenido que puede constituir material de abuso sexual infantil”, dijo.
“Estos riesgos parecen haberse materializado y están causando graves daños a los ciudadanos de la UE”.
La plataforma de redes sociales de Elon Musk ha sido objeto de fuertes críticas en las últimas semanas después de que Grok permitiera a los usuarios reemplazar digitalmente la ropa de las mujeres con bikinis y crear representaciones a veces sexualizadas de menores.
Después de una prolongada indignación internacional, X introdujo algunas restricciones a mediados de enero.
Estos incluyen impedir que Grok “permita la edición de imágenes de personas reales con ropa reveladora como bikinis” y limitar la función de creación de imágenes del chatbot de IA a suscriptores de pago, dijo X en un comunicado.
La Comisión subrayó que la apertura de una investigación no prejuzga su resultado.
El regulador británico de medios Ofcom también inició a principios de enero una investigación oficial sobre la plataforma online de Musk debido a las imágenes sexualizadas creadas por Grok.
El primer ministro británico, Keir Starmer, calificó las imágenes generadas por IA de “absolutamente repugnantes”.
Las autoridades francesas también investigan a Grok desde el año pasado.
La investigación original gira en torno a acusaciones de que se cambiaron los algoritmos de la red social para prestar más atención al contenido de extrema derecha. Desde entonces, han surgido nuevas acusaciones de negación del Holocausto y representaciones sexuales.
Grok ya ha sido prohibido en Indonesia y Malasia.
El lunes, Bruselas también anunció la ampliación de una investigación separada sobre X, que se inició en diciembre de 2023.
La comisión ha estado trabajando para evaluar si el sistema de recomendación de la plataforma, el algoritmo que sugiere contenido a los usuarios, “evaluó y mitigó adecuadamente cualquier riesgo sistémico” según la Ley de Servicios Digitales (DSA) de la Unión.
La investigación ahora también cubre “el impacto del cambio recientemente anunciado a un sistema de recomendación basado en Grok”, dijo la comisión.
About The Author
