Le compromis : conséquences de la délégation

La délégation est un outil extrêmement puissant. Quarante pages de conditions réduites à la seule clause qui vous concerne. Un domaine dont vous ne savez rien réduit à trois paragraphes qui sont, pour autant que vous puissiez en juger, exacts. Onze options de vol que vous n'avez jamais eu à regarder. C'est la chose la plus immédiatement utile que font les agents, cela fonctionne aujourd'hui, et cela fonctionne bien.

Mais c'est plus qu'un outil : c'est un changement de paradigme. Avant, nous faisions les choses nous-mêmes. Désormais, nous envoyons un agent se charger des clics et de la complexité à notre place. Aussi libératrice que soit cette technologie, elle produit aussi, mécaniquement, des conséquences négatives. Ce chapitre cartographie le compromis, ce que l'on gagne et ce que l'on perd. Non pour le critiquer, mais pour en dresser la carte.

#Résumer, c'est décider

Un résumé n'est pas une version plus courte de quelque chose. C'est une version dans laquelle quelqu'un a déjà décidé de ce qui comptait. Tant que vous lisiez vous-même, décider et lire étaient le même geste : vous survoliez, et survoler était un jugement, mal fait, vite fait, mais le vôtre. La délégation sépare les deux. Le jugement a toujours lieu. Il a lieu plus tôt, ailleurs, et une seule fois.

C'est là que se loge le vrai risque : l'agent ne se contente pas d'exécuter vos choix. Il construit l'ensemble des choses entre lesquelles vous allez choisir.

Quand trois options s'affichent sur votre écran, un travail a déjà eu lieu. L'agent a décidé quelles sources consulter et lesquelles ignorer. Il a décidé que sept autres options ne méritaient pas d'être montrées. Il a décidé de l'ordre. Il a rédigé le résumé d'une ligne de chaque option, et ce résumé est désormais l'option, en ce qui vous concerne : vous ne lirez pas les quarante pages qui se trouvent derrière. Le choix que vous vivez comme libre est un choix parmi les rescapés d'un processus auquel vous n'avez pas assisté.

Il serait faux de traiter cela comme nouveau. Chaque ensemble d'options auquel les humains ont été confrontés était déjà construit par quelque chose : l'agencement d'un rayon, un classement de moteur de recherche, la recommandation d'un ami, les limites de votre attention un mardi de fatigue. Personne n'a jamais choisi dans l'ensemble complet des possibles. Le menu non filtré est une fiction.

Ce qui change avec les agents, c'est l'échelle, l'opacité et la corrélation.

L'échelle, parce que le filtrage s'exerce désormais en continu dans la plupart des domaines de la vie ordinaire, et non plus de temps en temps dans quelques-uns. L'opacité, parce que la reconstruction se fait dans la langue — une langue fluide, assurée, plausible — et que la fluidité excelle à masquer les coutures. Et la corrélation, parce qu'un petit nombre de systèmes vont opérer cette reconstruction pour un très grand nombre de personnes. Quand un million de filtres individuels convergent vers des réponses semblables, le résultat n'est plus un angle mort personnel. C'est un horizon partagé.

#Une page avait des bords

Il y a une propriété précise de l'ancien dispositif qui disparaît.

Une page avait des bords. Une liste classée ressemblait à une liste classée : on voyait que quelque chose avait été ordonné, qu'il y avait une page deux, que quatre cents autres annonces existaient sous les dix affichées. En général, on ne regardait pas. Mais on voyait la taille de ce qu'on ne regardait pas, et ce reste visible est ce qui gardait un classement assez honnête pour qu'on puisse le contester.

Une synthèse n'a pas de reste. Trois paragraphes de bonne prose n'indiquent pas s'ils tiennent lieu de neuf sources ou de neuf cents, si deux de ces sources étaient en désaccord, ou si une branche entière de la question a été laissée de côté parce qu'aucune source bon marché ne la couvrait. La fluidité n'a pas de barre de défilement. Une liste classée annonce qu'elle est une sélection. Un paragraphe bien écrit expliquant que ce sont là les trois options réalistes ressemble à la vérité.

#La sérendipité

L'autre chose qui disparaît, c'est le mauvais détour. La requête mal tapée, le mauvais rayon, le livre à côté de celui qu'on était venu chercher, l'onglet ouvert parce qu'on avait mal lu un titre. La sérendipité.

La sérendipité n'a jamais été une fonctionnalité. C'est ce que produit un système trop imprécis pour ne vous donner que ce que vous avez demandé. La recherche par mots-clés la livrait comme un sous-produit. Un agent qui comprend parfaitement la question supprime ce sous-produit sans jamais l'avoir décidé.

#Délégation cognitive et dépendance excessive

Au début, nous nous appuyons sur l'IA pour éclairer nos décisions : elle cherche, lit, compare et résume, et nous décidons. Mais ses réponses sont pertinentes, et elles arrivent en vingt minutes là où le même travail prenait des jours. Alors la frontière se déplace. Celles et ceux qui dirigent, à tous les niveaux, dans les entreprises, les administrations et les foyers, vont très vite déléguer non seulement la recherche mais la couche cognitive elle-même : la mise en balance, la comparaison, la première ébauche du jugement. Pourquoi passer des jours à chercher, lire et compiler quand la machine le fait en vingt minutes ?

Bientôt, une grande part du raisonnement ordinaire, professionnel comme personnel, se fera de cette manière. Le gain est réel, et il est considérable. Le coût est plus difficile à voir, parce que le jugement n'est pas un stock qui attend qu'on y revienne. C'est une capacité, et elle s'affaiblit quand on ne l'exerce pas. Chaque délégation, prise isolément, est raisonnable. Ensemble, elles nous placent, individuellement et collectivement, en situation de dépendance à l'IA pour à peu près n'importe quelle décision, et un monde parcouru à travers des agents peut sembler plus fluide tout en devenant plus difficile à examiner de l'intérieur.

Et le plus inconfortable, c'est qu'ici le contrôle de la qualité exige précisément ce que l'agent était censé vous épargner. Pour juger si trois paragraphes sur un domaine valent quelque chose, il faut connaître le domaine. Quand vous connaissez le sujet, vous sentez un résumé s'appauvrir. Quand vous ne le connaissez pas, le même résumé ne se distingue pas d'un bon, et il arrive de toute façon dans la même prose assurée. La question cesse d'être est-ce que je comprends cela et devient suis-je en mesure de juger si cela vaut quelque chose.

C'est ainsi que la dépendance se creuse d'elle-même. Moins le jugement s'exerce, moins l'agent peut être vérifié, et moins il peut être vérifié, plus il faut lui faire confiance.