La contrapartida: consecuencias de la delegación

La delegación es una herramienta extremadamente potente. Cuarenta páginas de condiciones reducidas a la única cláusula que le afecta. Un campo del que no sabe nada reducido a tres párrafos que son, hasta donde usted puede juzgar, exactos. Once opciones de vuelo que nunca tuvo que mirar. Es lo más inmediatamente útil que hacen los agentes, funciona hoy y funciona bien.

Pero es más que una herramienta: es un cambio de paradigma. Antes hacíamos las cosas nosotros mismos. Ahora enviamos a un agente a recorrer los clics y la complejidad por nosotros. Por liberadora que sea esta tecnología, también produce, de forma mecánica, consecuencias negativas. Este capítulo traza la contrapartida: lo que ganamos y lo que perdemos. No para criticarla, sino para cartografiarla.

#Resumir es decidir

Un resumen no es una versión más corta de algo. Es una versión en la que alguien ya ha decidido qué importaba. Mientras usted leía por su cuenta, decidir y leer eran el mismo gesto: hojeaba, y hojear era un juicio, mal hecho, rápido, pero suyo. La delegación separa ambas cosas. El juicio sigue ocurriendo. Ocurre antes, en otro lugar y una sola vez.

Ahí es donde está el verdadero riesgo: el agente no se limita a ejecutar sus decisiones. Construye el conjunto de opciones entre las que usted va a elegir.

Cuando aparecen tres opciones en su pantalla, ya se ha hecho un trabajo. El agente decidió qué fuentes consultar y cuáles omitir. Decidió que siete candidatos no merecían mostrarse. Decidió el orden. Escribió el resumen de una línea de cada opción, y ese resumen es ahora, para usted, la opción: no va a leer las cuarenta páginas que hay detrás. La elección que usted vive como libre es una elección entre los supervivientes de un proceso que no presenció.

Sería un error tratarlo como algo nuevo. Todo conjunto de opciones al que se han enfrentado los humanos ya estaba construido por algo: la disposición de una estantería, el ranking de un buscador, la recomendación de un amigo, los límites de su propia atención un martes cansado. Nadie ha elegido nunca entre el conjunto completo de posibilidades. El menú sin filtrar es una ficción.

Lo que cambia con los agentes es la escala, la opacidad y la correlación.

La escala, porque el filtrado funciona ahora de forma continua en la mayoría de los ámbitos de la vida cotidiana, y no ocasionalmente en unos pocos. La opacidad, porque la reconstrucción ocurre en lenguaje —un lenguaje fluido, seguro, plausible— y la fluidez es muy buena ocultando las costuras. Y la correlación, porque un pequeño número de sistemas realizará esta reconstrucción para un número muy grande de personas. Cuando un millón de filtros individuales convergen en respuestas parecidas, el resultado ya no es un punto ciego personal. Es un horizonte compartido.

#Una página tenía bordes

Hay una propiedad concreta del arreglo anterior que desaparece.

Una página tenía bordes. Una lista ordenada parecía una lista ordenada: se veía que algo había sido ordenado, que había una segunda página, que existían cuatrocientos anuncios más debajo de los diez mostrados. Normalmente no se miraba. Pero se veía el tamaño de lo que no se estaba mirando, y ese resto visible es lo que mantenía un ranking lo bastante honesto como para discutirlo.

Una síntesis no tiene resto. Tres párrafos de buena prosa no indican si representan nueve fuentes o novecientas, si dos de esas fuentes discrepaban o si se dejó fuera toda una rama de la pregunta porque ninguna fuente barata la cubría. La fluidez no tiene barra de desplazamiento. Una lista ordenada anuncia que es una selección. Un párrafo bien escrito que explica que esas son las tres opciones realistas parece la verdad.

#Serendipia

Lo otro que desaparece es el desvío equivocado. La búsqueda mal escrita, la estantería equivocada, el libro junto al que uno había ido a buscar, la pestaña abierta por leer mal un título. La serendipia.

La serendipia nunca fue una funcionalidad. Es lo que produce un sistema demasiado impreciso para darle solo lo que pidió. La búsqueda por palabras clave la daba como subproducto. Un agente que entiende perfectamente la pregunta elimina el subproducto sin haberlo decidido nunca.

#Delegación cognitiva y dependencia excesiva

Al principio, recurrimos a la IA para informar nuestras decisiones: busca, lee, compara y resume, y nosotros decidimos. Pero sus respuestas son pertinentes, y llegan en veinte minutos cuando el mismo trabajo antes llevaba días. Así que la frontera se desplaza. Quienes dirigen a todos los niveles, en empresas, administraciones y hogares, delegarán muy pronto no solo la investigación, sino la propia capa cognitiva: la ponderación, la comparación, el primer borrador del juicio. ¿Por qué pasar días buscando, leyendo y recopilando cuando la máquina lo hace en veinte minutos?

Dentro de poco, una gran parte del razonamiento cotidiano, profesional y personal, se hará así. La ganancia es real, y es grande. El coste es más difícil de ver, porque el juicio no es una reserva que espera a que uno vuelva a ella. Es una capacidad, y se debilita cuando no se ejerce. Cada delegación, por separado, es razonable. Juntas, nos hacen, individual y colectivamente, dependientes de la IA para casi cualquier decisión, y un mundo recorrido a través de agentes puede parecer más fluido a la vez que se vuelve más difícil de examinar desde dentro.

Y lo incómodo es que el control de calidad exige aquí justo aquello que el agente debía ahorrarle. Para juzgar si tres párrafos sobre un campo valen algo, hay que conocer el campo. Donde usted conoce el tema, nota cuándo un resumen se queda corto. Donde no lo conoce, ese mismo resumen es indistinguible de uno bueno, y llega en la misma prosa segura en ambos casos. La pregunta deja de ser ¿entiendo esto? y pasa a ser ¿estoy en condiciones de saber si esto vale algo?

Así es como la dependencia se profundiza por sí sola. Cuanto menos se ejerce el juicio, menos se puede verificar al agente, y cuanto menos se le puede verificar, más hay que confiar en él.