El gigante australiano del hardware Bunnings ha ganado su batalla para monitorear a sus clientes utilizando tecnología de reconocimiento facial de inteligencia artificial para combatir los delitos minoristas y reducir el abuso de los empleados.
La comisionada de privacidad australiana, Carly Kind, descubrió en 2024 que Bunnings violó las leyes de privacidad al escanear cientos de miles de rostros de clientes sin su consentimiento adecuado.
Una revisión de esta decisión por parte del Tribunal de Revisión Administrativa de Australia ha llegado a la conclusión de lo contrario.
Bunnings ha librado una batalla de dos años contra una decisión del comisionado de privacidad de que la empresa violó la ley al utilizar la tecnología de reconocimiento facial. (Imágenes falsas: Daniel Pockett)
El minorista no violó la ley al escanear las identidades de los clientes, pero debe mejorar sus políticas de privacidad e informar a los clientes sobre el uso de la tecnología de reconocimiento facial basada en inteligencia artificial, según el fallo.
“Damos la bienvenida a la decisión del Tribunal de Revisión Administrativa con respecto al ensayo anterior de tecnología de reconocimiento facial de Bunnings”, dijo el director ejecutivo de Bunnings, Mike Schneider, en un comunicado.
“Al probar esta tecnología, queríamos ayudar a proteger a las personas de la violencia, el abuso, los delitos graves y el crimen minorista organizado.
“El tribunal reconoció la necesidad de medidas prácticas y de sentido común para mantener a las personas seguras. También identificó áreas en las que no hicimos todo bien, incluida la señalización, la información del cliente, los procesos y nuestras políticas de privacidad, y aceptamos esta retroalimentación”.
La decisión podría proporcionar el marco legal para que otros minoristas sigan a Bunnings y adopten el uso de IA para reducir el riesgo de delitos en sus tiendas.
Cómo Bunnings utilizó la IA para registrar las identidades de los clientes
La tecnología de reconocimiento facial de Bunnings se utilizó por primera vez en una de sus tiendas en noviembre de 2018 durante una prueba de dos meses.
Entre enero de 2019 y noviembre de 2021, el uso de tecnología de inteligencia artificial se amplió a 62 tiendas adicionales en Nueva Gales del Sur y Victoria.
La tecnología fue desarrollada por la empresa japonesa Hitachi y suministrada a Bunnings a través de un tercero, según la decisión del tribunal de arbitraje.
El minorista era el único responsable de operar una “base de datos de registro” que contenía marcadores biométricos de los rostros de los clientes, que se escaneaban en fotografías tomadas por las cámaras CCTV de la tienda.
La base de datos de imágenes se almacenó en un disco duro en un servidor central en un edificio de Bunnings en Sydney y se almacenaron copias de las imágenes en el servidor local de cada tienda, según el fallo judicial.
Los escaneos faciales se compararon con una lista de “individuos registrados” que, según el minorista, habían cometido o eran sospechosos de haber cometido robo o fraude de reembolso, o amenazar al personal de la tienda u otros miembros del público.
Según la decisión del tribunal de arbitraje, el número de personas incluidas en esta lista ascendía en ocasiones a centenares.
En 2024, Kind reveló que una investigación de dos años sobre el uso de la tecnología de inteligencia artificial había descubierto que los clientes probablemente no sabían que sus identidades estaban siendo monitoreadas.
En ese momento, Bunnings dijo a los investigadores que si no se hacía una coincidencia entre el rostro de una persona y una “persona registrada”, los datos del cliente se capturaban y eliminaban automáticamente en un promedio de 4,17 milisegundos.
Carga…
Schneider también dijo en 2024 que alrededor del 70 por ciento de los incidentes en las tiendas Bunnings fueron causados por infractores reincidentes, lo que justifica el uso de tecnología de inteligencia artificial.
La Oficina del Comisionado de Información de Australia (OAIC) se dio cuenta de la práctica cuando el grupo de defensa del consumidor Choice reveló en 2022 que Bunnings, Kmart y The Good Guys estaban utilizando tecnología de reconocimiento facial.
Las tres tiendas suspendieron la práctica después del informe de Choice.
“Hemos descubierto que durante el período relevante, Bunnings tenía derecho a utilizar (la tecnología de reconocimiento facial) sólo con el propósito limitado de combatir delitos minoristas muy graves y proteger a sus empleados y clientes de la violencia, el abuso y la intimidación en sus tiendas”, dijo la decisión del tribunal el miércoles.
“Los factores importantes en nuestra decisión fueron, en primer lugar, el nivel de delitos minoristas que enfrentan los empleados y clientes de Bunnings y, en segundo lugar, las características tecnológicas del sistema (tecnología de reconocimiento facial), que minimiza la invasión de la privacidad al eliminar permanentemente la información confidencial capturada y limita la vulnerabilidad a los ataques cibernéticos”.
“La tecnología avanzada del sistema (tecnología de reconocimiento facial) limitó el impacto en la privacidad, por lo que no es desproporcionada con respecto a los beneficios de un entorno más seguro para el personal y los clientes en las tiendas Bunnings”.
La OAIC dijo que la decisión del tribunal demostraba que Bunnings no había hecho lo suficiente para gestionar adecuadamente la información personal de los clientes, incluidos aquellos que no figuran como “individuos registrados”, o para hacerles saber que estaban siendo monitoreados.
“(La) decisión confirma que la Ley de Protección de Datos contiene fuertes protecciones para la privacidad individual que son aplicables en el contexto de las nuevas tecnologías”, dijo un comunicado de la OAIC.
“Acogemos con especial satisfacción que la decisión haya reafirmado una serie de posiciones interpretativas importantes de la OAIC, incluido el hecho de que incluso la recopilación temporal de datos personales a través de herramientas digitales avanzadas constituye una recopilación en virtud de la Ley de Protección de Datos”.
“La comunidad australiana sigue preocupándose profundamente por su privacidad y está cada vez más preocupada por los desafíos que supone proteger su información personal”.
“Prevaleció el sentido común”: comentarios de expertos en comercio
Gary Mortimer, profesor de comercio minorista y comportamiento del consumidor en la Universidad Tecnológica de Queensland, dijo que apoyaba la decisión del tribunal administrativo.
“Corresponde a los minoristas garantizar la seguridad no sólo de sus empleados sino también de otros clientes y proteger su inventario contra pérdidas y robos”, dijo.
“Deberían buscar formas alternativas de hacer esto, y el uso de tecnología innovadora y de alta tecnología, visión por computadora (y) sistemas de inteligencia artificial es el camino del futuro”.
Carga…
El profesor Mortimer también dijo que esperaba que otros minoristas australianos importantes siguieran el ejemplo de Bunnings e implementaran tecnología de reconocimiento facial en sus tiendas para aumentar la seguridad e identificar rápidamente posibles riesgos criminales.
“Este tipo de tecnología se convertirá en algo común”, afirmó.
“También tiene implicaciones más amplias más allá del comercio minorista. Pienso en los trabajadores gubernamentales en puestos de servicios que están constantemente expuestos a comportamientos agresivos. Pienso en los conductores de tranvías, trenes y autobuses que están expuestos a abusos”.
El fallo del tribunal podría llevar a que otros minoristas importantes utilicen tecnología de reconocimiento facial, afirma Gary Mortimer. (Cuatro esquinas: Nick Wiggins)
La inteligencia artificial también ofrece a los minoristas un nivel de comodidad a la hora de reducir la delincuencia potencial, dijo Mortimer.
“Una persona no tiene que sentarse ahí y esperar a que suceda algo”, dijo.
“El sistema de IA detecta si alguien está cerca de un área de baños, el sistema de IA detecta si alguien se ha metido algo en el bolsillo o ha escondido un producto”.
“Es razonable que sea necesario publicar carteles más claros, y eso puede ser algo que se pasó por alto en la implementación original (de Bunnings) de esta tecnología”.
“Después de un cierto período de tiempo, las imágenes se eliminan; las imágenes ya no son revisadas por un humano. Simplemente creo que es necesario que haya mayor claridad y comunicación en torno a la tecnología”.
About The Author
