La propietaria de una panadería dice que está devastada porque la cuenta de redes sociales de la empresa fue cerrada después de que fuera denunciada falsamente por abuso infantil.
El perfil de Instagram de Forbes Bakehouse en el centro oeste de Nueva Gales del Sur, que publica principalmente fotos de comida y personal, fue suspendido a finales de noviembre.
La página de redes sociales de Forbes Bakehouse presenta principalmente fotografías de comida y personal. (Entregado: Giselle Taunton )
La gerente Giselle Taunton dijo que la suspensión fue “desgarradora”.
“Si lo pienso demasiado, podría llorar”, dijo.
Unas semanas más tarde, los propietarios también perdieron el acceso a su cuenta de Facebook, aunque siguió siendo pública.
“Todo pasa por tu mente porque todo nuestro negocio depende de estas plataformas para todo”, dijo Taunton.
“Todavía no puedo imaginar que nuestra empresa dependiera en un 1.000 por ciento de una plataforma (de redes sociales)”.
La gerente de la panadería dijo que acababa de publicar una foto de un batido cuando vio la notificación de que la cuenta estaba suspendida.
“Pensé: 'Esto va a ser bueno. Lo tendremos de nuevo mañana'”.
Taunton dijo que la suspensión de la cuenta fue “desgarradora”. (Entregado: Giselle Taunton )
“Sin error humano evidente” en las suspensiones
El Defensor del Pueblo de las Pequeñas y Familiares de Australia (ASBFEO), Bruce Billson, dijo en un comunicado que cada vez más pequeñas empresas notaban que sus cuentas habían sido suspendidas por la plataforma anfitriona.
Billson dijo que las suspensiones parecían haber ocurrido “sin aparente supervisión humana”.
Este año, la ASBFEO ayudó a 482 pequeñas empresas en disputas con empresas de redes sociales.
Dijo que podría tener un impacto “devastador” en el tiempo y los recursos de una pequeña empresa, costándole miles de dólares.
“En algunos casos, es posible que una pequeña empresa nunca pueda recuperar la información almacenada en una plataforma digital”, dijo Billson.
Taunton dijo que la página de Instagram de la panadería tenía alrededor de 2.500 seguidores.
“Me tomó mucho tiempo entender eso”, dijo.
La IA es común con moderación
Kerrie Hodder y su familia dirigen Forbes Bakehouse. (Proporcionado: Facebook )
Rahat Masood, profesor de la Facultad de Ingeniería y Ciencias de la Computación de la Universidad de Nueva Gales del Sur, dijo que había varias formas de eliminar cuentas, incluso si la cuenta era denunciada.
“Presionar ese botón de informe puede arruinar una empresa”, dijo el Dr. Masood.
Dijo que la IA también es parte del proceso de toma de decisiones de varias empresas de redes sociales e incluso con modelos de IA altamente precisos, pueden ocurrir prohibiciones falsas.
El Dr. Masood dijo que entrenar la IA funciona de manera similar a entrenar el cerebro humano.
Al repetir palabras o imágenes asociadas con contenido inapropiado, como discursos de odio o desnudez, la IA aprende a identificar contenido similar en otra publicación.
“Cuanta más información ven, más educados se vuelven”, Dr. Masood.
Explicó que podrían ocurrir errores si el sistema de inteligencia artificial reconociera palabras clave asociadas con la explotación infantil, como usar “niño” y “gratis” en la misma oración.
Luchar para levantar la prohibición
Poco después de que Taunton descubriera que las cuentas habían sido bloqueadas, inició un proceso de apelación que podría tardar hasta 180 días.
A las 24 horas de que ABC Meta solicitara comentarios, la Sra. Taunton recibió un correo electrónico de la compañía informándole que su cuenta había sido restablecida.
La Forbes Bakehouse, de gestión familiar, celebró este año su 35º aniversario. (Entregado: Giselle Taunton )
No se confirmó cómo se produjo la suspensión.
Un portavoz de Meta dijo en una declaración a ABC: “Tomamos medidas sobre las cuentas que infringen nuestras políticas y la gente puede apelar si creen que hemos cometido un error”.“.
ABC entiende que Meta depende de una combinación de inteligencia artificial e informes para hacer cumplir las políticas.
El Defensor del Pueblo pide una mejor supervisión
El defensor del pueblo dijo que el gobierno federal necesita monitorear mejor el bloqueo de cuentas por parte de empresas de redes sociales.
“Existe claramente una necesidad de una gobernanza adecuada y una supervisión de la plataforma cuando la tecnología determina qué cuentas deben cerrarse por supuestamente no cumplir con los estándares de la comunidad, lo que resulta en que a una pequeña empresa se le niegue la capacidad de operar en una plataforma digital”, dijo Billson.
El gobierno federal planeaba desarrollar requisitos de resolución de disputas para las empresas de redes sociales, pero no estaba claro cuándo serían definitivos.
En un comunicado, el Ministerio Federal de Comunicaciones dijo: “Las empresas deben garantizar que sus procesos sean justos y que, en caso de cometer errores, existan procedimientos adecuados para que los usuarios tomen medidas contra las cuentas bloqueadas”.
Taunton apoyó los pedidos de un mayor control sobre las suspensiones de cuentas.
“Las empresas que tienen control sobre la vida y los medios de subsistencia de las personas y pueden arrebatárselos deberían asumir mucha más responsabilidad”.
About The Author
