L’inquiétude est passée d’un murmure à une clameur, toutes variations sur le même thème inquiétant : « Votre cerveau sur ChatGPT ». "L'IA vous rend plus stupide." "L'IA tue la pensée critique." Autrefois, on craignait une intelligence galopante qui nous anéantirait, peut-être en transformant la planète en une usine à trombones. Maintenant que les chatbots suivent la voie de Google – passant du miraculeux au tenu pour acquis – l’anxiété est également passée de l’apocalypse à l’atrophie. Les enseignants, en particulier, disent qu’ils commencent à voir la pourriture. Le terme utilisé pour désigner ce phénomène n’est pas beau, mais il n’est pas inapproprié : déqualification.
L’inquiétude est loin d’être fantaisiste. Les enfants qui se tournent vers les Gémeaux pour résumer Twelfth Night n'apprendront peut-être jamais à lutter seuls avec Shakespeare. Les aspirants avocats qui utilisent Harvey AI à des fins d’analyse juridique risquent de ne pas parvenir à développer la force d’interprétation que leurs prédécesseurs tenaient pour acquise. Dans une étude récente, plusieurs centaines de participants britanniques ont passé un test standard de pensée critique et ont été interrogés sur leur utilisation de l’IA pour trouver des informations ou prendre des décisions. Les utilisateurs plus jeunes se sont davantage appuyés sur la technologie et ont obtenu de moins bons résultats au test. Utilisez-le ou perdez-le était le point à retenir de base. Une autre étude a porté sur des médecins pratiquant des coloscopies : après trois mois d’utilisation d’un système d’IA pour aider à repérer les polypes, ils sont devenus moins aptes à les repérer sans aide.
Mais le véritable casse-tête n’est pas de savoir si la déqualification existe – c’est clairement le cas – mais plutôt de quel genre de chose il s’agit. Toutes les formes de déqualification sont-elles corrosives ? Ou existe-t-il des types avec lesquels nous pouvons vivre, et qui pourraient même être les bienvenus ? La déqualification est un terme fourre-tout désignant des pertes de types très différents : certaines coûteuses, d’autres insignifiantes, d’autres étrangement génératrices. Pour comprendre les enjeux, nous devons examiner de près la manière dont les compétences s’effilochent, s’estompent ou muter lorsque de nouvelles technologies arrivent.
Nos chatbots sont nouveaux : l'architecture « transformateur » sur laquelle ils s'appuient a été inventée en 2017, et ChatGPT a fait ses débuts publics cinq ans plus tard seulement. Mais la crainte qu’une nouvelle technologie puisse émousser l’esprit est ancienne. Dans le Phèdre, qui date du IVe siècle avant notre ère, Socrate raconte un mythe dans lequel le dieu égyptien Thot offre au roi Thamus le don d’écrire – « une recette de mémoire et de sagesse ». Thamus reste impassible. Écrire, prévient-il, aura l’effet inverse : cela engendrera l’oubli, permettant aux gens d’échanger le travail de mémorisation contre des marques sur le papyrus, confondant l’apparence de la compréhension avec la chose elle-même. Socrate se range du côté de Thamus. Les mots écrits, se plaint-il, ne répondent jamais à vos questions particulières ; répondez à tout le monde de la même manière, sages et insensés ; et sont impuissants lorsqu’ils sont mal compris.
Bien sûr, la raison pour laquelle nous savons tout cela – la raison pour laquelle cet épisode revient sans cesse dans les histoires whiggish de la technologie – est que Platon l’a écrit. Pourtant, les critiques de l’écriture n’avaient pas entièrement tort. Dans les cultures orales, les bardes portaient des épopées dans leur tête ; les griots pouvaient dérouler des siècles de généalogie à la demande. L’écriture rendait de telles prouesses inutiles. Vous pouvez désormais intégrer des idées sans vous battre avec elles. Le dialogue exige des réponses : clarification, objection, révision. (Parfois, « Très vrai, Socrate » faisait l'affaire, mais quand même.) La lecture, en revanche, vous permet de profiter de l'éclat d'autrui, en hochant la tête sans jamais vous tester.
Ce qui ressemble à une perte sous un certain angle peut cependant ressembler à un gain sous un autre. L'écriture a ouvert de nouveaux territoires mentaux : commentaire, jurisprudence, histoire fiable, science. Walter J. Ong, spécialiste de l’oralité et de l’alphabétisation, l’a exprimé clairement : « L’écriture est une technologie qui restructure la pensée. » Le modèle est familier. Lorsque les marins ont commencé à utiliser des sextants, ils ont laissé derrière eux le vaisseau spatial du marin, la lecture détaillée des étoiles qui les ramenait autrefois en toute sécurité chez eux. Plus tard, la navigation par satellite a mis fin aux compétences en sextant. Posséder un modèle T signifiait autrefois travailler au noir en tant que mécanicien – savoir comment réparer les tubes, régler le calage de l'allumage à l'oreille, redonner vie au moteur de la voiture après un décrochage. Les moteurs très fiables d’aujourd’hui cachent leurs secrets. Les règles à calcul ont cédé la place aux calculatrices, les calculatrices aux ordinateurs. À chaque fois, la virtuosité individuelle diminuait, mais la performance globale progressait.
C’est un schéma rassurant : quelque chose de lâcher prise, quelque chose d’autre d’acquis. Mais certains gains s’accompagnent de coûts plus importants. Ils perturbent non seulement ce que les gens peuvent faire, mais aussi ce qu’ils se sentent.
Dans les années 1980, la psychologue sociale Shoshana Zuboff a travaillé dans des usines de pâte à papier du sud des États-Unis alors qu'elles passaient du contrôle manuel au contrôle informatisé. Les opérateurs qui avaient autrefois jugé la pâte au toucher (« Est-ce lisse ? Est-ce collant ? ») sont désormais assis dans des salles climatisées à regarder les chiffres défiler sur les écrans, leurs anciennes compétences n'étant ni exercées ni valorisées. "Faire mon travail via l'ordinateur, c'est différent", a déclaré l'un d'eux à Zuboff. "C'est comme...
[Courte citation de 8% de l'article original]