Woolworths ha anunciado una asociación con Google para integrar inteligencia artificial agente en su chatbot Olive, que se lanzará en Australia a finales de este año.
Hasta ahora, Olive ha respondido principalmente preguntas, resuelto problemas y dirigido a los clientes hacia la información.
Pronto Olive podrá hacer más: planificar comidas, interpretar recetas escritas a mano, aplicar descuentos por fidelidad y agregar artículos sugeridos directamente al carrito de compras en línea de un cliente.
Woolworths dijo que Olive no completará las compras automáticamente y que los clientes aún deberán aprobar y pagar los pedidos.
Esta distinción es importante, pero corre el riesgo de no comprender qué está cambiando realmente. Cuando un comprador llega a la caja, es posible que el sistema ya haya tomado muchas de las decisiones de compra clave.
De ayudante a tomador de decisiones
El cambio más significativo para los compradores es cómo se toman las decisiones durante el proceso de compra y quién las toma.
Google describe su nuevo sistema como un “conserje digital proactivo” que comprende la intención del cliente, razona a través de tareas de varios pasos y ejecuta acciones.
Los principales minoristas de Estados Unidos, incluidos Walmart, Kroger y Lowe's, están adoptando la misma tecnología. La medida es parte de una estrategia más amplia de Google para promover el comercio basado en agentes en el sector minorista.
En la práctica: si los compradores de Woolworths dan su consentimiento, la nueva versión de Google Gemini de Olive preparará sus cestas de la compra de forma cada vez más autónoma.
Por ejemplo, un cliente que sube una foto de una receta escrita a mano podría recibir una lista completa de ingredientes que refleje la disponibilidad y los descuentos del producto.
Alternativamente, un cliente que solicite un plan de alimentación podría recibir una canasta ya preparada basada en preferencias pasadas, promociones actuales e inventario local.
Esto cambia fundamentalmente el papel del comprador.
En lugar de seleccionar activamente productos navegando y comparando, los compradores revisarán y aprobarán cada vez más las selecciones realizadas para ellos. La toma de decisiones está pasando del individuo al sistema.
Esta delegación puede parecer menor cuando se la considera de forma aislada. Sin embargo, con el tiempo, la delegación repetida moldea hábitos, preferencias y patrones de gasto. Por lo tanto, este nuevo cambio merece una cuidadosa consideración.
Empujando a propósito
Woolworths presenta el papel ampliado de Olive como una comodidad práctica que ahorra tiempo y esfuerzo al tiempo que aumenta la personalización. Estas afirmaciones no son falsas, pero oscurecen un punto importante.
Los sistemas de compra basados en agentes están diseñados para estimular el comportamiento de una manera significativamente diferente a la publicidad tradicional.
Cuando Olive destaca productos con descuento u ofertas especiales a un comprador, no se basa en criterios neutrales. Más bien, sus prioridades reflejan estrategias de precios, prioridades publicitarias y relaciones comerciales, no una evaluación objetiva de los intereses de los consumidores.
Una vez que esos juicios se integran en un sistema de inteligencia artificial que impulsa las decisiones de compra, el empujón se convierte en parte de la estructura de elección en lugar de una capa visible en la parte superior.
Un comprador utiliza una bolsa de plástico reutilizable de Woolworths en la caja de un supermercado. (Suministrado: Grupo Woolworths)
Esta es una forma de influencia particularmente poderosa. La publicidad tradicional es reconocible. Los compradores saben cuándo los están persuadiendo y pueden descartarlo o ignorarlo.
Por el contrario, el empujón algorítmico se produce en sentido ascendente. Da forma a las opciones que se muestran, combinan u omiten antes de que el comprador las note. Con el tiempo, esta influencia se vuelve rutinaria y difícil de detectar.
Las compras basadas en agentes también significan que la IA navega, compara precios y sopesa las alternativas por nosotros. A los compradores se les presentan cada vez más resultados seleccionados que invitan a la aceptación en lugar de la consideración.
A medida que se hacen visibles menos opciones y se hacen explícitas menos compensaciones, la conveniencia comienza a reemplazar la elección informada.
Por estas razones, sería erróneo considerar que la compra de LED por agentes tiene un valor neutral. No se debe suponer automáticamente que los sistemas diseñados para aumentar la lealtad y las ventas actúan en el mejor interés de los consumidores, incluso si brindan una verdadera conveniencia.
Preguntas abiertas sobre protección de datos
La protección de datos es una preocupación aún mayor.
Las compras en el supermercado revelan mucho más que solo preferencias de marca. La planificación de las comidas puede revelar condiciones de salud, restricciones dietéticas, prácticas culturales, costumbres religiosas, composición familiar y limitaciones financieras. Cuando un sistema de inteligencia artificial se hace cargo de estas tareas, la vida hogareña se vuelve legible para la plataforma que la respalda.
Google ha declarado que los datos de los clientes utilizados en su sistema no se utilizan para entrenar modelos y que tiene estrictos estándares de seguridad.
Estas garantías son importantes, pero no abordan todas las preocupaciones. Aún no está claro durante cuánto tiempo se almacenarán los datos de los hogares, cómo se agregarán o cómo se utilizarán los conocimientos de dichos datos en otros lugares.
El consentimiento ofrece sólo una protección limitada en este contexto. Por lo general, se otorga una vez mientras la creación de perfiles y la optimización continúan en el tiempo. Incluso sin un intercambio directo de datos, las conclusiones extraídas del comportamiento de los hogares pueden influir en el rendimiento y el diseño del sistema.
Estos riesgos de privacidad no dependen del uso indebido o de violaciones de datos. Surgen de la creciente intimidad de los datos utilizados para moldear el comportamiento en lugar de simplemente registrarlo.
La conveniencia no debe terminar la conversación.
Para muchos hogares, las funciones avanzadas de Olive ahorrarán tiempo, reducirán la fricción y mejorarán la experiencia de compra.
Pero a medida que la IA pasa del apoyo a la acción, cambia la forma en que se toman las decisiones y el grado de agencia que las personas renuncian.
Este cambio debería provocar un debate más amplio sobre dónde termina la comodidad y comienza la autonomía del consumidor. A medida que los sistemas de IA toman decisiones cotidianas, debemos preguntarnos si los consumidores conservan un control significativo sobre sus decisiones.
La transparencia sobre cómo se generan las recomendaciones, los límites a los incentivos comerciales que influyen en el comportamiento de los agentes y los límites al uso de datos de los hogares deben tratarse como expectativas fundamentales y no como protecciones opcionales.
Sin ese control, las compras impulsadas por agentes corren el riesgo de reconfigurar silenciosamente el comportamiento del consumidor de maneras que son difíciles de detectar y aún más difíciles de revertir.
Uri Gal es profesor de Sistemas de Información en la Universidad de Sydney. Esta pieza apareció por primera vez en la conversacion.
About The Author
