El algoritmo que elige por ti: cuando la IA se convirtió en tu personal shopper invisible

La tiranía de la respuesta única

Hubo un tiempo en que buscar una silla de oficina en internet era como entrar en un mercado persa. Caos absoluto, pero tu caos. Abrías doce pestañas, leías las reseñas de desconocidos que discutían con una pasión inversamente proporcional a su importancia, comparabas precios, sospechabas de los ratings con demasiadas estrellas y, al final, tomabas una decisión que era tuya. Imperfecta, quizás equivocada, pero ejecutada con tu propio criterio. Eras el juez.

Ahora escribes una frase en un chatbot y en segundos aparece una silla. Una sola. Con tres razones perfectamente redactadas explicando por qué es la correcta. Sin pestañas, sin discusiones, sin esa ansiedad de fondo que susurra que quizás la opción perfecta está en la página dos. El algoritmo ya ha deliberado por ti. Ha pesado las opciones en una balanza que no puedes ver y te ha devuelto el veredicto envuelto en papel de regalo.

La pregunta que nadie hace en voz alta mientras agradece la comodidad es esta: ¿qué perdemos exactamente cuando dejamos de elegir?

Del buscador-biblioteca al oráculo-juez

Durante años, Google fue una biblioteca. Una biblioteca enorme, caótica y con el sistema de catalogación más opaco del mundo, pero una biblioteca al fin: te daba opciones y tú decidías cuál consultar. La arquitectura de la búsqueda clásica —esa lista de diez azules con sus URLs— era, fundamentalmente, democrática en su presentación. Todo lo que aparecía en pantalla era candidato. Tú hacías la selección final.

Lo que está ocurriendo con la irrupción de la IA en el proceso de compra es cualitativamente diferente. No estamos ante una mejora del buscador; estamos ante un cambio de rol. El sistema ha pasado de ser bibliotecario a ser oráculo. Y los oráculos, como nos enseñó Delfos, nunca explican del todo su metodología.

Cuando una IA te recomienda un producto, no te está mostrando lo que existe. Te está mostrando lo que su modelo, entrenado con datos que no controlas, ponderado con criterios que no conoces, ha decidido que deberías querer.

Hay algo profundamente arquitectónico en este cambio. Es como si un urbanista, en lugar de darte un mapa de la ciudad, te dijera directamente “ve al restaurante italiano de la calle Mayor”. Puede que sea una recomendación excelente. Pero el mapa ya no está en tus manos. Y sin mapa, no sabes lo que no estás viendo.

La comodidad como transferencia de poder

Seamos honestos: la experiencia es deliciosa. La fricción del proceso de compra tradicional online era real, costosa en tiempo y genuinamente estresante. Si una IA puede ahorrarme cuarenta minutos de comparativas de aspiradoras, hay una parte de mí que dice gracias y punto.

Pero hay un concepto en economía del comportamiento llamado choice architecture —arquitectura de la elección— que lleva décadas advirtiéndonos de que el cómo se presentan las opciones determina tanto la decisión como la información en sí misma. Los supermercados lo saben. Las webs de viajes lo saben. Amazon lo lleva explotando desde los 90 con el carrusel de “clientes que compraron esto también compraron…”

La IA no ha inventado la manipulación del contexto de elección. La ha perfeccionado hasta hacerla invisible. Antes veías el carrusel y sabías que alguien lo había colocado ahí. Ahora recibes una respuesta en lenguaje natural, con tono amigable y estructura de argumentos sólidos, y tu cerebro la procesa como si viniera de un amigo bien informado. El sesgo es el mismo; la percepción, radicalmente distinta.

¿Quién audita al personal shopper?

Aquí está el núcleo duro del problema. Cuando tu amigo sommelier te recomienda un vino, puedes preguntarle por qué. Puedes cuestionar si tiene acciones en la bodega. Puedes decirle que la última vez que te fió te trajo vinagre caro. Hay un contrato social, una historia compartida, una posibilidad de rendición de cuentas.

La IA que te recomienda la silla de oficina opera dentro de una caja negra. No sabes si el modelo fue entrenado con reseñas manipuladas. No sabes si ciertos fabricantes tienen acuerdos comerciales con la plataforma. No sabes qué peso se le da al precio frente a la durabilidad frente al margen de beneficio para el intermediario. No sabes, en definitiva, si el sistema está optimizando para ti o para otro.

Y lo más inquietante: tampoco lo sabe el sistema. Los modelos de lenguaje no tienen consciencia de sus propios sesgos de entrenamiento. Recomiendan con una confianza que no está respaldada por la certeza que su tono sugiere.

El músculo atrofiado del criterio propio

Hay una película de Pixar que predijo esto con más precisión que cualquier paper académico. En WALL·E, los humanos del futuro flotan en sillas reclinables, consumen contenido a demanda y han delegado absolutamente todas las decisiones a sistemas automatizados. Es una distopía, pero una distopía cómoda. Y la comodidad es, precisamente, su trampa.

El proceso de comparar, dudar y elegir no es solo ineficiente. Es también el ejercicio mediante el cual construimos preferencias, desarrollamos criterio y, en última instancia, nos conocemos a nosotros mismos como consumidores y como personas. Cuando delegamos esa deliberación a un sistema externo de forma sistemática, no solo ahorramos tiempo: atrofiamos un músculo.

No estoy romantizando la parálisis de las doce pestañas. Pero hay una diferencia enorme entre usar la IA como punto de partida —”dame tres opciones con sus pros y contras y yo decido”— y usarla como punto de llegada —”dime qué comprar”—. La primera es una herramienta. La segunda es una abdicación.

Lo que el diseño UX tiene que responder

Los diseñadores de experiencia de usuario tienen aquí una responsabilidad que va más allá de hacer interfaces bonitas. Si el futuro del comercio digital pasa por asistentes de IA que recomiendan productos, la pregunta de diseño más urgente no es cómo hacer la recomendación más fluida. Es cómo hacer visible la lógica detrás de esa recomendación sin destruir la usabilidad.

¿Puede un sistema explicar sus criterios de forma comprensible? ¿Puede ofrecer transparencia sobre posibles conflictos de interés? ¿Puede invitar al usuario a ajustar los parámetros de la recomendación en lugar de recibirla como un mandato divino? Estas no son preguntas técnicas; son preguntas éticas con respuesta de diseño.

La IA como personal shopper no va a desaparecer. Es demasiado cómoda, demasiado eficiente y demasiado lucrativa para quienes la despliegan. Pero entre aceptarla como una caja negra opaca o exigir que funcione como un sistema con rendición de cuentas, hay un camino que vale la pena recorrer. Aunque requiera abrir alguna pestaña más.

Fuente original: “A shortlist of one: how AI became our shopping adviser“, publicado en UX Collective.