La IA ya elige por ti: bienvenido a la era del veredicto sin juicio
Hubo un tiempo en que comprar una silla de oficina era casi un acto heroico. Abrías doce pestañas, leías foros donde desconocidos se peleaban con una pasión inversamente proporcional a su importancia, te preguntabas si las reseñas de cinco estrellas eran reales o el producto de alguna granja de Bangladesh, y al final, con la resignación del que elige en un menú que no entiende del todo, hacías clic en “añadir al carrito”. La decisión era tuya. Torpe, ansiosa, imperfecta. Pero tuya.
Eso se acabó. O al menos, está acabándose.
Hoy abres un chatbot, escribes “necesito una silla ergonómica para trabajar ocho horas” y recibes, en cuestión de segundos, una respuesta. No una lista. No diez opciones con sus pros y contras. Una. Con tres razones ordenadas y convincentes, redactadas con una seguridad que ni el mejor vendedor de El Corte Inglés se atrevería a proyectar. El trabajo de comparar ha ocurrido en algún lugar que no puedes ver, ejecutado por algo que no puedes interrogar, y te ha sido devuelto como si fuera la verdad objetiva del universo.
Del supermercado al oráculo: cómo cambiamos de metáfora sin darnos cuenta
Durante décadas, la promesa de internet fue la abundancia. Google era el supermercado infinito de la información: podías recorrer todos los pasillos, comparar precios, leer las etiquetas, volver atrás. Era caótico, agotador y profundamente democrático en su desorden. La paradoja de la elección —ese fenómeno que el psicólogo Barry Schwartz documentó hasta el hartazgo— era el precio que pagábamos por la libertad de elegir.
La IA ha decidido que ese precio es demasiado alto. Y nos ha ofrecido algo diferente: el oráculo. Ya no navegas por un supermercado. Consultas a un sistema que ya ha navegado por ti y te trae la respuesta en bandeja. Como si Delfos hubiera abierto una startup.
El problema con los oráculos, como saben bien los griegos y cualquiera que haya leído a Sófocles en bachillerato, es que sus respuestas siempre están condicionadas por algo que el consultante no puede ver. La Pitia no explicaba sus fuentes. El chatbot tampoco.
Una sola silla en una habitación vacía
Lo que está pasando en el comercio electrónico con la irrupción de la IA como consejero de compras no es solo un cambio de interfaz. Es un cambio epistemológico. Antes, la búsqueda te devolvía un espacio de posibilidades. Ahora te devuelve un veredicto. Y esa diferencia, que parece cosmética, lo cambia todo.
Cuando ves diez sillas, tú eres el sujeto que elige. Cuando ves una silla, tú eres el sujeto que acepta o rechaza. Es un matiz brutal. El sistema ha preseleccionado, ha jerarquizado, ha descartado. Y tú llegas al final del proceso, cuando las decisiones importantes ya están tomadas, a ratificar o disentir. Pero disentir requiere esfuerzo, requiere abrir esas doce pestañas de antes. Y la mayoría de nosotros, seamos honestos, no lo hará.
La comodidad es el mecanismo de rendición más efectivo que existe. No nos someten por la fuerza; nos convencen de que el esfuerzo no merece la pena.
Esto tiene un nombre en teoría del diseño: default effect. La opción predeterminada siempre gana. Siempre. Lo sabemos desde los estudios sobre donación de órganos, desde los planes de pensiones, desde la configuración de privacidad de cualquier red social. Si el sistema te pone una opción delante y tienes que trabajar para cambiarla, la mayoría elige quedarse con lo que hay. La IA no ha inventado este sesgo. Ha construido una autopista hacia él.
¿Quién entrena al consejero?
Aquí viene la pregunta incómoda, la que nadie hace porque arruina la experiencia de usuario: ¿en función de qué criterios decide la IA qué silla te recomienda?
En teoría: calidad, reseñas verificadas, relación calidad-precio, compatibilidad con tus necesidades expresadas. En la práctica: también márgenes de beneficio, acuerdos comerciales, datos de comportamiento de millones de usuarios anteriores, optimizaciones que no están documentadas en ningún lugar público. No estamos diciendo que el sistema sea corrupto. Estamos diciendo que es opaco. Y la opacidad, en un sistema que toma decisiones por ti, debería ponerte nervioso.
Los buscadores tradicionales también tenían sus sesgos, claro. El SEO es, en parte, la historia de cómo las marcas aprenden a hablarle al algoritmo en lugar de al usuario. Pero al menos existía una ilusión —a veces real— de que podías perforar esa capa con suficiente esfuerzo. Podías ir a la página dos. Podías filtrar. Podías cuestionar.
Con la respuesta única de la IA, el debate se ha cerrado antes de empezar. Es como si en lugar de un tribunal con jurado te dieran directamente la sentencia, sin juicio, sin proceso, sin posibilidad de apelación visible.
La transferencia silenciosa del criterio
Hay una escena en Her, la película de Spike Jonze, que ahora adquiere nuevas resonancias. Theodore —el protagonista— no solo usa a Samantha como asistente. La usa como espejo emocional, como criterio, como brújula. Y en algún momento de la película, sin que nadie lo declare explícitamente, Theodore ha dejado de ser el agente de su propia vida.
No estamos comprando sillas con Samantha. Pero el mecanismo es análogo. Cada vez que aceptamos sin cuestionar la recomendación de un sistema que no podemos inspeccionar, estamos delegando un fragmento de nuestro juicio. Un fragmento pequeño. Casi imperceptible. Pero los fragmentos se acumulan.
El diseño UX lleva décadas hablando de autonomía del usuario como un valor fundamental. La paradoja es que los sistemas más exitosos de la historia reciente —las plataformas de streaming, las redes sociales, y ahora los asistentes de IA— son precisamente los que más eficazmente erosionan esa autonomía. Te dan control aparente mientras deciden por ti en las capas que importan.
No es tecnofobia. Es higiene cognitiva.
Que conste: esto no es un alegato contra la IA como herramienta de compra. Es un alegato contra la ingenuidad con la que la estamos integrando en nuestras vidas. Una recomendación de IA puede ser útil, puede ahorrarte tiempo, puede incluso ser mejor que tu propio juicio desinformado. Pero solo si sabes lo que estás usando y lo que estás cediendo a cambio.
La clave no está en rechazar el veredicto. Está en no olvidar que es un veredicto. En mantener activo el músculo del escepticismo. En preguntarte, al menos ocasionalmente, qué quedó fuera del shortlist de uno. Qué silla no te mostraron. Y por qué.
Porque el criterio propio, como los músculos lumbares que tanto te preocupaban al buscar esa silla, se atrofia si no lo usas.
Artículo basado en el análisis original de UX Collective: “A shortlist of one: how AI became our shopping adviser”, publicado en UX Collective.