Mientras el oscuro mundo de las aplicaciones de “desnudez” basadas en inteligencia artificial es objeto de un escrutinio cada vez mayor, Australia ha tomado medidas decisivas para frenar esta inquietante tendencia. El Comisionado de eSafety ha confirmado que uno de los servicios más utilizados del mundo dejará de operar localmente debido a medidas coercitivas.
Después de que la compañía recibiera una advertencia oficial en septiembre por permitir que sus servicios se utilizaran para crear material generado de explotación sexual infantil, uno de los sitios web de “desnudez” de IA más utilizados en Australia revocó el acceso.
eSafety dijo que la empresa con sede en el Reino Unido había violado los códigos y estándares obligatorios de Australia, que exigen que todos los miembros de la industria en línea “tomen medidas significativas para combatir el peor contenido en línea”.
La empresa recibió la asombrosa cifra de 100.000 visitas al mes de australianos, y eSafety dijo que incluso había aparecido en casos de alto perfil de explotación sexual de estudiantes en las escuelas.
La comisionada Julie Inman Grant cree que la medida tendrá un “impacto tangible” en el número de escolares que son víctimas de la pornografía infantil generada por IA.
“Tomamos medidas coercitivas en septiembre porque este proveedor no implementó salvaguardias para evitar que sus servicios se utilizaran para crear material de explotación sexual infantil”, dijo.
“(Había) incluso funciones de marketing como desnudar a 'cualquier chica' y opciones para generar imágenes de 'colegiala' y funciones como 'modo sexo'”.
Uno de los principales activistas del país en este ámbito revela la verdadera magnitud del daño que se está causando a puerta cerrada.
¿Cómo afectan las aplicaciones de desnudos a los niños australianos?
Caitlin Roper, del grupo de defensa Collective Shout, dijo a Yahoo News que las imágenes no sólo están siendo robadas de las redes sociales; Se adoptan en las calles, en las escuelas e incluso en los anuarios, lo que significa que no se requiere presencia digital para manipular una imagen en línea.
Roper lo sabe porque ella misma lo intentó cuando intentó exponer el repugnante mundo subterráneo de la pornografía falsa y su potencial para explotar a los niños australianos.
¿Tienes una historia? contacto sala de noticiasau@yahoonews.com
Caitlin reveló ejemplos de imágenes “despojadas”. Imagen: Reputación colectiva
Dijo que las mujeres en estas aplicaciones eran “rutinariamente sometidas a escenarios sexuales deshumanizantes”. Algunos de ellos son tan gráficos que Yahoo News ha decidido no compartirlos.
“En algunas fotografías parecían asustados o llorando; en otras parecía que estaban dando la bienvenida. Había moretones y signos evidentes de lesiones”, dijo Roper.
“Muchas mujeres y niñas muy jóvenes, contenido que creo que se consideraría material de abuso sexual infantil”.
Relacionado: Inquietante tendencia de la IA que asustaría a millones de australianos
Ciertas plataformas incluso alientan a los usuarios a subir sus creaciones a galerías públicas, que a menudo están llenas de contenido sexual violento y degradante.
Las imágenes muestran a menudo a mujeres de todas las edades humilladas, agredidas y torturadas por hombres.
Las indicaciones de texto utilizadas para generar estas imágenes incluyen términos como “abusada”, “llorando” y “colegiala”.
“No está completamente regulado. Lo que a menudo tenían era una pequeña casilla de verificación que decía: 'Certifico que tengo consentimiento, que no estoy usando niños o que no estoy violando las leyes locales'”, dijo.
Los sitios de alojamiento advirtieron sobre multas de 50 millones de dólares
Mientras tanto, eSafety reveló que otra importante “plataforma de alojamiento”, Hugging Face, esencialmente un guardián de la distribución de potentes modelos de IA, similar a una tienda de aplicaciones tradicional, ha tomado medidas para cumplir con la ley australiana.
Después de conversaciones con eSafety sobre inquietudes de cumplimiento, Hugging Face actualizó sus términos de servicio.
Según los cambios, todos los titulares de cuentas ahora deben tomar medidas activas para minimizar los riesgos asociados con los modelos que suben, en particular para evitar su uso indebido en la creación de material de explotación sexual infantil o contenido proterrorista.
Caitlin Roper, del grupo de defensa Collective Shout, está haciendo sonar la alarma sobre las llamadas aplicaciones “nudizantes”. Fuente: Suministrado
A partir de ahora, si la empresa descubre a través de informes de usuarios o de sus propias auditorías de seguridad que se han violado sus términos y condiciones actualizados, deberá tomar medidas.
Si Hugging Face no toma las medidas adecuadas, eSafety puede intervenir. Según la Ley de Seguridad en Línea, el regulador tiene una variedad de poderes de aplicación, incluidas multas de hasta 49,5 millones de dólares para las empresas que no cumplan con los códigos o estándares de la industria.
“Al abordar tanto las herramientas de consumo, los modelos subyacentes que las impulsan y las plataformas que las albergan, abordamos los daños en múltiples niveles de la pila tecnológica”, dijo Inman Grant.
“También estamos trabajando con el gobierno en reformas para restringir el acceso a estas herramientas de 'desnudez'”.
Si usted o alguien que conoce se ve afectado por abuso o explotación sexual infantil, incluido el abuso sexual infantil histórico o la explotación sexual infantil en línea, existen servicios de apoyo a los que puede acceder. el sitio web del Centro Australiano para Contrarrestar la Explotación Infantil.
Estos apoyos están disponibles para ayudar, escuchar y creer.
Si cree que un niño está en peligro inmediato, llame a Triple Zero (000), Crimestoppers al 1800 333 000 o a la policía local. Los lectores que busquen apoyo e información sobre la prevención del suicidio pueden comunicarse con Beyond Blue al 1300 22 4636, Lifeline al 13 11 14 o Suicide Call Back Service al 1300 659 467.
¿Tienes algún consejo sobre la historia? Correo electrónico: sala de noticiasau@yahoonews.com.
También puedes seguir siguiéndonos. Facebook, Instagram, tiktok, Gorjeo Y YouTube.
About The Author
