El dial de la autonomía: ¿quién manda realmente cuando diseñas con IA?

Este artículo está basado en The autonomy dial: a pattern toolkit for designing human control over AI, publicado originalmente en UX Collective.

El termostato más importante del siglo XXI

Hay un momento en cualquier relación de poder en el que alguien tiene que decidir cuánto mando cede. En el matrimonio. En la empresa. En la política. Y ahora, inevitablemente, en el diseño de interfaces con inteligencia artificial. La diferencia es que aquí no hay negociación: tú, como diseñador o producto manager, giras ese dial antes de que el usuario llegue. Y esa decisión, que parece técnica, es profundamente política.

El concepto del “dial de autonomía” que propone UX Collective no es metáfora nueva —llevamos años hablando de “human in the loop”— pero sí es la primera vez que alguien se sienta a construir un toolkit de patrones concretos para gestionarlo. Y eso, en un sector que lleva dos años corriendo como pollo sin cabeza detrás de cada lanzamiento de OpenAI, merece atención.

La premisa es deceptivamente simple: no toda IA debería tener el mismo nivel de autonomía. Un asistente que te sugiere un emoji no necesita el mismo escrutinio humano que uno que redacta contratos legales o gestiona campañas de paid media con presupuestos de seis cifras. El problema es que muchos equipos de producto no están tomando esa decisión de forma consciente. La están tomando por defecto, que es la peor manera de tomarla.

De HAL 9000 al copiloto que pide permiso

Durante décadas, la ciencia ficción nos vendió dos arquetipos de IA: la que obedece ciegamente (el robot esclavo) y la que se rebela (HAL 9000, Skynet, la lista sigue). La realidad del diseño de producto en 2025 es bastante más mundana y, a la vez, más interesante: estamos en el territorio del copiloto. Una IA que puede hacer mucho, pero que necesita que alguien decida cuánto le dejamos hacer.

El framework del dial de autonomía plantea un espectro. En un extremo, la IA no hace nada sin aprobación explícita —cada acción requiere un “sí” humano—. En el otro extremo, actúa con total independencia y solo informa después. Entre medias, hay zonas de gradación que cualquier equipo de diseño debería mapear conscientemente antes de lanzar una feature basada en IA.

Lo que me parece brillante del enfoque es que no propone una posición correcta en ese dial. Propone que la decisión sea deliberada. Que no llegues a producción con autonomía total simplemente porque era la configuración por defecto de la API que estás usando.

Seis patrones para no perder el control sin saberlo

El toolkit identifica seis patrones de control que los diseñadores pueden implementar para mantener la supervisión humana en distintos niveles del producto. No son conceptos abstractos: son decisiones de interfaz.

1. Confirmación previa. La IA propone, el humano aprueba. El clásico “¿estás seguro?”, pero bien implementado. No como fricción molesta sino como checkpoint de valor. Funciona cuando el error tiene coste alto: borrar datos, enviar comunicaciones masivas, ejecutar transacciones.

2. Vista previa con edición. La IA genera, el humano ajusta antes de que ocurra algo real. Es el patrón que usan bien los mejores editores de email con IA: te muestran el resultado, tú lo tunas. La autonomía es alta en la generación, pero el humano conserva el veto editorial.

3. Intervención en tiempo real. La IA actúa, pero puedes interrumpirla. Como el botón de parada de emergencia en una cinta transportadora. Requiere que la interfaz haga visible que algo está ocurriendo —nada de procesos en segundo plano sin indicadores— y que detenerlo sea siempre posible.

4. Revisión post-acción. La IA actúa y después informa. Solo es aceptable cuando el coste del error es bajo y la velocidad importa. Si tu IA está clasificando automáticamente tickets de soporte en categorías internas, quizás esté bien. Si está respondiendo a clientes directamente, probablemente no.

5. Configuración de límites. El usuario decide de antemano hasta dónde puede llegar la IA. Es el patrón más empoderador y también el más exigente en términos de UX: requiere que el usuario entienda qué está configurando. Mal ejecutado, es un formulario de settings que nadie lee. Bien ejecutado, es agencia real.

6. Explicabilidad activa. La IA no solo actúa, sino que muestra su razonamiento. No el log técnico que nadie entiende, sino una narrativa legible: “He priorizado este lead porque tiene tres interacciones en los últimos siete días y un cargo directivo.” Esto no frena a la IA, pero permite que el humano corrija el criterio cuando está equivocado.

El problema no es la IA. Somos nosotros.

Aquí viene la parte incómoda. La mayoría de los equipos de producto no tienen conversaciones explícitas sobre el dial de autonomía porque esa conversación incomoda. Reconocer que estás cediendo control a un sistema implica asumir responsabilidad sobre qué pasa cuando ese sistema falla. Y en un sector que aún celebra el “move fast and break things” como virtud, esa responsabilidad no siempre es bienvenida.

Diseñar el nivel de autonomía de una IA no es una decisión técnica. Es una decisión ética que se expresa en decisiones técnicas.

Los reguladores europeos ya lo están entendiendo así. El AI Act de la UE clasifica los sistemas de IA por nivel de riesgo y exige, para los de alto impacto, precisamente lo que este toolkit propone: supervisión humana significativa, no simbólica. El “meaningful human control” no es un checkbox legal: es un patrón de diseño.

¿Y si el usuario no quiere controlar nada?

Hay una trampa en todo esto que el artículo original roza pero no desarrolla del todo: la autonomía que los usuarios dicen querer versus la que realmente les conviene. Hay una demanda real de automatización total. La gente quiere que la IA haga cosas sin molestarles. El problema es que esa preferencia declarada choca frontalmente con lo que ocurre cuando la IA se equivoca: de repente, todos quieren haber tenido el control.

El diseño honesto no le da al usuario lo que dice que quiere. Le da lo que necesita para que, cuando algo salga mal, tenga capacidad de entender qué ocurrió y corregirlo. Eso a veces significa añadir fricción donde el usuario pediría fluidez. Es una de las tensiones más interesantes —y más poco glamurosas— del diseño de producto con IA hoy.

Gira el dial, pero con los ojos abiertos

El dial de autonomía es, en última instancia, una herramienta para forzar una conversación que muchos equipos están evitando. No te dice dónde poner el dial. Te dice que tienes que decidir conscientemente dónde ponerlo, con qué criterios, y cómo comunicárselo al usuario.

En un momento en que la IA se está integrando en absolutamente todo —CRMs, editores de contenido, plataformas de analítica, herramientas de diseño— la pregunta ya no es si vamos a delegar decisiones en algoritmos. Ya lo estamos haciendo. La pregunta es si lo estamos haciendo con intención o por abandono.

La hipertensión mental de esta semana tiene nombre: responsabilidad de diseño. Y no, no hay pastilla para eso.