Los estadounidenses dedican una cantidad de tiempo considerable a las compras, más que a la educación, el voluntariado o incluso a hablar por teléfono. Sin embargo, su forma de comprar está cambiando drásticamente, ya que las principales plataformas y minoristas compiten por automatizar la toma de decisiones comerciales.
Los agentes de inteligencia artificial ya pueden buscar productos, recomendar opciones e incluso completar compras en nombre del consumidor. Aun así, muchos compradores siguen mostrándose reacios a ceder el control. Si bien muchos consumidores afirman utilizar algún tipo de asistencia por IA, la mayoría declara que no desearía que un agente de IA completara una transacción de compra de forma autónoma, de acuerdo con una encuesta reciente de la consultora Bain & Company.
Como investigadores que estudian la intersección entre el derecho y la tecnología, hemos observado la rápida expansión del comercio asistido por IA. Nuestra investigación revela que, sin medidas legales actualizadas, este cambio hacia el comercio automatizado podría erosionar silenciosamente los beneficios económicos, psicológicos y sociales que las personas obtienen al comprar según sus propios términos.
¡Cuidado con lo que compras!
Parte de la reticencia de los compradores se debe a la privacidad. Muchos no están dispuestos a compartir información personal o financiera sensible con plataformas de IA. Pero, más profundamente, la gente quiere sentir que tiene el control de sus decisiones de compra. Cuando los usuarios no comprenden el razonamiento detrás de las recomendaciones de productos basadas en IA, su confianza y satisfacción disminuyen.
Los compradores también se resisten a renunciar a su autonomía. En un estudio con personas que reservaban viajes, los participantes eligieron deliberadamente opciones de viaje que no coincidían con sus preferencias declaradas una vez que se les informó que sus elecciones podían predecirse, una forma de reafirmar su independencia.
Otros experimentos confirman que cuanto más perciben los clientes que se les arrebata el control de sus decisiones de compra, más reacios son a aceptar la asistencia de la IA en sus compras.
Si bien se espera que la tecnología mejore, se han reportado algunos errores sonados en los medios financieros y tecnológicos. El Wall Street Journal publicó un artículo sobre una máquina expendedora con IA que perdió dinero y se abasteció con un pez vivo. La publicación tecnológica Wired catalogó fallos de diseño, como un agente de IA que tardaba 45 segundos en añadir huevos al carrito de compra de un cliente.
Te interesa: Inteligencia artificial y compras en línea: cómo Shein, Temu y otras te logran enganchar
El argumento comercial a favor de las compras con IA
Los consumidores tienen buenas razones para ser cautelosos. Los agentes de IA no solo están diseñados para ayudar, sino también para influir. Las investigaciones demuestran que estos sistemas pueden moldear las preferencias, orientar las decisiones, aumentar el gasto e incluso reducir la probabilidad de que los consumidores devuelvan productos.
Y las empresas están promocionando estas capacidades. La plataforma empresarial Salesforce promociona agentes de IA que pueden “aumentar las ventas sin esfuerzo”, mientras que el gigante de los pagos Mastercard informa que su asistente de IA, Shopping Muse, genera tasas de conversión entre un 15 y un 20% superiores a las de la búsqueda tradicional, es decir, impulsa a los compradores desde la simple navegación hasta la finalización de la compra.
Para las empresas, el atractivo es evidente. Desde la aplicación Rufus de Amazon y el servicio de atención al cliente de Walmart hasta los carritos de compra con IA, las empresas están integrando rápidamente estas herramientas en la experiencia de compra.
Asistentes con nombres como Sparky y Ralph se promocionan como el futuro del comercio minorista, mientras que los expertos en tecnología instan a las empresas a preparar sus marcas para la era de las compras con IA.
La verdadera preocupación no es que estos sistemas puedan fallar, sino que puedan tener demasiado éxito.
El lado humano de las compras
Los asistentes de compras con IA ofrecen considerables ventajas.
Por ejemplo, pueden escanear numerosos productos en segundos, comparar precios entre vendedores, hacer un seguimiento de los descuentos a lo largo del tiempo, analizar miles de reseñas de productos y personalizar las recomendaciones según las preferencias y necesidades del usuario. Incluso pueden leer los términos de servicio y las políticas de privacidad, lo que ayuda a los consumidores a detectar cláusulas desfavorables.
Pero hay más en juego que estas consideraciones.
Si bien los consumidores tienen motivos para centrarse en la privacidad y el control, los asistentes de compras con IA conllevan algunos riesgos emocionales que a menudo se pasan por alto, como la pérdida de la ilusión de la anticipación. Los psicólogos han demostrado que el periodo entre la elección de una compra y su recepción genera una felicidad sustancial, a veces incluso mayor que la del propio producto o la experiencia.
Soñamos despiertos con las vacaciones que reservamos, la ropa que pedimos, la comida que planeamos. La compra automatizada amenaza con agotar este placer anticipatorio.
Esta anticipación se conecta con otro valor: un sentido de autoría personal y ética. Incluso las decisiones de compra más cotidianas permiten a las personas ejercer su derecho a elegir y expresar su criterio. Muchos consumidores compran deliberadamente café de comercio justo, cosméticos libres de crueldad animal o productos respetuosos con el medio ambiente.
Las marcas y los productos que elegimos, desde Patagonia y Harley-Davidson hasta una camiseta de la gira de Taylor Swift, contribuyen a definir nuestra identidad.
Además, ir de compras tiene una dimensión social. Recorremos tiendas con amigos, charlamos con los vendedores y compramos regalos para nuestros seres queridos. Estas interacciones cotidianas contribuyen considerablemente a nuestro bienestar.
Lo mismo ocurre al regalar. Elegir un regalo implica anticipar las preferencias de la otra persona, dedicar tiempo a la búsqueda y reconocer que el gesto es tan importante como el objeto en sí. Cuando este proceso se delega a un sistema autónomo, el regalo corre el riesgo de convertirse en una simple entrega en lugar de un gesto significativo de atención y cariño.
Te recomendamos: Walmart se asocia con OpenAI para función de compras a través de ChatGPT
Preservando la autonomía humana
Es probable que los agentes de compras con IA se integren en la vida cotidiana, y el debate regulatorio comienza a ponerse al día, aunque de forma desigual.
La transparencia se ha convertido en una preocupación fundamental. La experiencia previa con los sistemas de recomendación demuestra que los conflictos de interés no revelados representan un riesgo real. La Unión Europea propuso un marco de divulgación para la toma de decisiones automatizada, si bien su implementación se ha retrasado recientemente. En el Congreso, los legisladores estadounidenses están considerando proyectos de ley para exigir a las empresas que revelen cómo se entrenaron sus modelos de IA.
Hasta ahora, los consumidores parecen querer elegir su propio nivel de interacción, lo que indica que, para muchas personas, comprar es más que la simple satisfacción eficiente de sus preferencias. Quizás la pregunta más compleja, pero a la vez la más crucial, es si las herramientas de compra con IA se diseñarán y regularán para servir a los intereses de los usuarios y al bienestar humano, o si, como tantas otras herramientas digitales, se optimizarán principalmente para el beneficio empresarial.
*Mark Bartholomew es catedrático de Derecho en la Universidad de Buffalo; Samuel Becher es catedrático de Derecho en Te Herenga Waka en la Universidad Victoria de Wellington.
