Por qué el plan de este grupo australiano para abordar el problema “extremo” de las redes sociales podría estar funcionando

Este artículo contiene referencias a autolesiones y trastornos alimentarios.

Dos ex primeros ministros australianos respaldaron una campaña que pide al gobierno que dé a los usuarios de las redes sociales más control sobre el contenido que ven.

Malcolm Turnbull respaldó una carta abierta del grupo Teach Us Consent al primer ministro Anthony Albanese pidiendo al gobierno que “arregle nuestras transmisiones” exigiendo que las plataformas ofrezcan una función de suscripción voluntaria que permita a los australianos activar y desactivar algoritmos.

“Los algoritmos que seleccionan nuestros feeds están diseñados para mantenernos desplazándonos”, decía la carta.

“Da prioridad al contenido que provoca las respuestas emocionales más fuertes; la indignación, la validación, el miedo, la excitación y la ira impulsan las publicaciones 'exitosas'. A su vez, nuestros feeds se han convertido en un terreno fértil para contenido extremo y misógino”.

Mientras tanto, Julia Gillard dijo en su propia publicación en las redes sociales en apoyo de la campaña que ha sido “una firme creyente desde hace mucho tiempo en la regulación de las redes sociales”.

“Con demasiada frecuencia, los espacios en línea son inseguros y están plagados de abusos, especialmente para las mujeres”, escribió.

El grupo señala las cámaras de resonancia de contenido sexista y de odio y su papel en la radicalización de niños y jóvenes, diciendo que la intervención propuesta ayudaría a prevenir “la violencia de género y la incorporación de la misoginia radicalizada”.

También apoyaría a quienes son vulnerables a los trastornos alimentarios y las autolesiones, al tiempo que limitaría la exposición al racismo, la homofobia, la información falsa y otros contenidos nocivos.

“O podría ser simplemente una herramienta para las personas que quieran pasar menos tiempo en las redes sociales”, dice la carta.

Los firmantes incluyen a Turnbull, las parlamentarias independientes Allegra Spender, Zali Steggall, Sophie Scamps, Helen Haines y Monique Ryan; La senadora de los Verdes Sarah Hanson-Young, la autora Zoë Foster Blake y la personalidad de los medios Abbie Chatfield, junto con líderes de grupos de defensa, académicos universitarios y activistas.

Estamos recuperando el control de nuestros feeds.

Joanne Orlando es investigadora de bienestar digital en la Western Sydney University cuyo trabajo se centra en los impactos sociales y educativos de la tecnología en niños, jóvenes y adultos.

“Creo que una fuente de redes sociales sin un algoritmo sería aquella en la que uno elige el contenido y donde las cosas no son sensacionalistas”, dijo Orlando a SBS News.

Según el concepto propuesto, un feed podría contener muchos menos anuncios, contenido violento, material de influencia y “cualquier tipo de contenido que realmente no hayamos pedido”.

“Nos da más control sobre lo que vemos y con qué nos relacionamos”, dijo.

Tama Leaver, profesora de estudios de Internet en la Universidad de Curtin, dijo que sin una curación algorítmica sólida, las redes sociales podrían aparecer como una simple fuente del contenido publicado más recientemente por las personas y cuentas que sigue un usuario.

Las nuevas leyes de Australia han provocado un debate global sobre el uso de las redes sociales. Fuente: AAP / Yui Mok/PA/Alamy

“Los algoritmos son el problema”

Orlando argumentó que desactivar los algoritmos conduciría a una experiencia más saludable en las redes sociales.

“Ellos son todo el problema”, dijo.

“Creo que es realmente bueno que podamos descubrir nuevos intereses en línea. Podemos aprender cosas en línea. Podemos conectarnos con otras personas y otras ideas. Eso es algo realmente bueno”.

“Creo que el acceso a muchas ideas es fantástico, pero el algoritmo sólo impulsa contenidos extremos y de mentalidad estrecha. Eso es un gran problema”, dijo Orlando.

Leaver, quien también se desempeña como investigador principal en el Centro de Excelencia ARC para el Niño Digital, dijo que parte del problema es el hecho de que las plataformas no pueden decir si usted tuvo una reacción positiva o negativa a un clip que vio, pero aún así le brindan más contenido.

El papel de las redes sociales en la formación de los hombres jóvenes

El año pasado, una investigación realizada por el Comisionado de eSafety de Australia encontró que, si bien Internet brindaba a los hombres jóvenes oportunidades para expresarse y explorar conexiones, también creaba ideas peligrosas y estereotipadas sobre el género y la masculinidad que podrían convertirse en un factor central en la configuración de las identidades de los hombres jóvenes.

Un estudio de 2024 de la Universidad de la Ciudad de Dublín examinó el contenido recomendado a cuentas experimentales de YouTube y TikTok y encontró que todas las cuentas identificadas como hombres fueron alimentadas casi de inmediato con “contenido masculinista, antifeminista y otros extremistas”, incluso si previamente no habían buscado activamente dicho contenido.

En este contexto, Teach Us Consent encontró un aumento del 10 por ciento en las agresiones sexuales denunciadas en Australia el año pasado, el nivel más alto jamás registrado.

“No toda falta de respeto hacia las mujeres conduce a la violencia contra las mujeres, pero toda violencia contra las mujeres comienza con una falta de respeto hacia las mujeres”, escribió Turnbull en LinkedIn mientras pedía a sus seguidores que firmaran la carta abierta.

“Todos necesitamos estar protegidos”

Hoy es el primer día no oficial de la primera prohibición de las redes sociales para niños menores de 16 años en Australia.

Si bien la ley entrará oficialmente en vigor el 10 de diciembre, Meta ha comenzado a bloquear el acceso a cuentas de Instagram, Threads y Facebook.

“Si bien estamos trabajando arduamente para eliminar a todos los usuarios que sabemos que son menores de 16 años antes del 10 de diciembre, el cumplimiento de la ley será un proceso continuo y multifacético”, dijo un portavoz de Meta.

Según Orlando, no sólo los adolescentes necesitan ser protegidos de los daños de los algoritmos adictivos.

“Todos necesitamos estar protegidos, todos”, dijo Orlando. “Sabes, cuando cumples 16 años no aprendes milagrosamente a navegar por los algoritmos de las redes sociales”.

Dijo que un bloqueador de algoritmos podría ser más efectivo que una prohibición general de las redes sociales para adolescentes, que ha sido criticada por sus innumerables lagunas potenciales.

“Si tuviéramos más control sobre nuestros algoritmos, eso ayudaría a controlar lo que ven los jóvenes y creo que eso resolvería muchos de los problemas que causaron la prohibición en primer lugar”, dijo.

¿Qué tan realista es la propuesta?

Leaver estuvo de acuerdo en que desactivar los algoritmos personalizados podría ser más efectivo que una prohibición general de las redes sociales para los jóvenes, pero reconoció que, al igual que la prohibición, sería complejo de implementar y cubrir todas las plataformas de redes sociales.

Sin embargo, desde una perspectiva técnica para las empresas, dijo que “debería ser algo que se pueda lograr”.

Cuando se le pidió un comentario sobre la propuesta de participación, una portavoz de la ministra de Comunicaciones, Anika Wells, dijo que la consulta de SBS News estaba abierta a la legislación sobre el deber de cuidado digital y “agradecemos sugerencias sobre cómo podemos hacer que los entornos en línea sean más seguros para los niños”.

Leaver descubrió que las plataformas se mostraban reacias a comprometerse con tales cambios.

“Tiendes a permanecer en la plataforma porque las cosas provocan una reacción, y se ha trabajado mucho para demostrar que si sólo tienes… la información cronológica, en realidad pasas menos tiempo en esa plataforma en particular”.

Los lectores que busquen apoyo en situaciones de crisis pueden llamar a Lifeline al 13 11 14 o enviar un mensaje de texto al 0477 13 11 14, al Suicide Call Back Service al 1300 659 467 y a la Kids Helpline al 1800 55 1800 (para jóvenes de hasta 25 años). Para obtener más información y apoyo sobre salud mental, visite más allá de blue.org.au y al 1300 22 4636.

Los lectores que busquen ayuda con trastornos alimentarios o problemas de imagen corporal pueden llamar a la línea de ayuda nacional Butterfly al 1800 ED HOPE (1800 33 4673) o visitar www.butterfly.org.au