«Si l’apprentissage se bornait à une simple réception, le résultat n’en serait guère meilleur que si nous écrivions des phrases sur l’eau ; car ce n’est pas la réception, mais l’auto-activité par laquelle on se saisit de quelque chose, et la faculté d’utiliser, à nouveau, une connaissance, qui, seules, en font notre propriété.»
Georg Wilhelm Friedrich Hegel
En 1969, Philip K. Dick publie Ubik, devenu depuis l’un des grands romans incontournables de la science-fiction.
Le pitch: Joe Chip travaille pour une entreprise qui protège ses clients contre l’espionnage télépathique. Après une explosion sur la Lune, il regagne la Terre avec ses collègues et assiste à une étrange dégradation du monde. Le lait tourne, les cigarettes sèchent et tombent en poussière, les annuaires ne sont plus à jour. Les appareils récents sont progressivement remplacés par des modèles plus anciens. Au fil du récit, les ascenseurs, les téléphones et les automobiles remontent le cours de leur propre histoire.
Joe reconnaît encore ces objets. Il sait à quelle époque ils appartiennent. Mais il ne sait plus vivre parmi eux. Cette régression technique forme l’une des intuitions les plus troublantes du roman: un retour au monde d’avant ne nous ramènerait pas simplement quelques années en arrière, il nous placerait dans un environnement dont nous avons perdu une partie des codes et des usages.
Qui connaît encore le numéro de téléphone de ses proches? Nous ne l’avons pas vraiment oublié, nous avons cessé de l’apprendre. Le téléphone s’en souvient pour nous.
Nous parlons volontiers du progrès comme d’une accumulation. Chaque invention ajouterait une possibilité nouvelle sans rien supprimer. Le GPS faciliterait nos déplacements tout en laissant intact notre sens de l’orientation. Le téléphone conserverait les numéros sans modifier notre mémoire. Les moteurs de recherche nous donneraient accès à davantage d’informations sans changer notre manière de les connaître.
Les anciennes techniques ne disparaissent pas toujours. Mais celles qui les remplacent nous dispensent de certains gestes et de certains efforts. Qui connaît encore le numéro de téléphone de ses proches? Nous ne l’avons pas vraiment oublié, nous avons cessé de l’apprendre. Le téléphone s’en souvient pour nous.
Le GPS nous conduit à destination sans que nous ayons besoin de connaître l’espace traversé ni de retenir le chemin parcouru. Les documents confiés au cloud ne sont plus rangés avec la même attention que celle requise par le travail de tri et de classement. Quelques mots suffisent pour les retrouver. Les photographies ne sont plus classées dans des albums. Un logiciel les ordonne par dates, par lieux et par visages.
Moins l’utilisateur dispose de mots et de connaissances pour interroger l’intelligence artificielle, plus celle-ci lui paraît puissante car il lui manque précisément les moyens d’en mesurer les limites.
L’intelligence artificielle pousse cette délégation encore plus loin. Elle ne conserve plus seulement des informations. Elle intervient dans les opérations qui permettent de les comprendre et de les exprimer. Elle cherche, résume, traduit, compare, reformule et rédige. Elle peut trouver un plan ou produire une synthèse à partir de documents que son utilisateur n’a même pas lus. Le gain de temps est évident. Les effets sur nos aptitudes le sont beaucoup moins.
Nous ne pouvons demander à une machine que ce que notre langue nous permet de formuler, ni juger sa réponse au-delà de ce que nous sommes capables de comprendre. La richesse du vocabulaire ne sert donc pas seulement à mieux s’exprimer. Elle permet de distinguer, de préciser et d’apercevoir ce qu’une réponse simplifie ou laisse de côté. Moins l’utilisateur dispose de mots et de connaissances pour interroger l’intelligence artificielle, plus celle-ci lui paraît puissante car il lui manque précisément les moyens d’en mesurer les limites.
Écrire aide pourtant à découvrir ce que l’on pense. Une idée apparemment claire résiste au moment de trouver les mots. Une contradiction apparaît entre deux paragraphes. Une phrase impossible à terminer révèle un problème que l’on n’avait pas aperçu. La première version d’un texte sert aussi à comprendre son propre sujet et le cheminement de sa pensée.
Le même phénomène concerne la recherche. Trouver une information exigeait de formuler une question, de choisir des sources, d’écarter des pistes et de comparer des réponses. Une IA peut désormais livrer directement une synthèse cohérente. Entre la question et la réponse, le chemin a disparu. Ce dernier semblait constitué de lenteurs et d’obstacles, pourtant c’est bien lui qui formait le jugement.
On dit souvent que ce qui se conçoit bien s’énonce clairement. L’inverse est encore plus vrai: ce qui parvient à s’énoncer finit par mieux se concevoir.
Dans le Phèdre, Socrate raconte l’invention de l’écriture. Le dieu Theuth la présente au roi Thamous comme un remède pour la mémoire et le savoir. Thamous lui répond qu’elle produira au contraire l’oubli: les hommes cesseront d’exercer leur mémoire et chercheront leurs souvenirs dans les textes plutôt qu’en eux-mêmes.
Socrate avait vu juste sur un point: l’écriture allait modifier notre manière de nous souvenir. Mais elle a aussi donné à la pensée une durée, une architecture et une capacité d’examen que l’oralité seule ne permettait pas. Certaines aptitudes ont disparu, d’autres sont apparues.
On dit souvent que ce qui se conçoit bien s’énonce clairement. L’inverse est encore plus vrai: ce qui parvient à s’énoncer finit par mieux se concevoir. Dès lors, le travail de formulation ou d’écriture est indissociable de celui de la compréhension. L’intelligence artificielle peut formuler une idée avant que son auteur l’ait entièrement comprise. Le texte gagne certainement en fluidité. Mais l’effort d’écriture qu’elle nous épargne était aussi un travail de pensée.
L’intelligence artificielle opère une nouvelle transformation. L’écriture déposait la pensée sur un support; encore fallait-il lire, interpréter, relier et répondre. L’IA peut prendre en charge une partie de ces opérations. Elle ne conserve plus seulement la trace du raisonnement. Elle en propose directement le résultat.
Chez Philip K. Dick, les objets du passé réapparaissent, mais les gestes, les connaissances et l’organisation qui leur donnaient un usage ne reviennent pas avec eux. Joe Chip reconnaît le monde ancien sans savoir comment l’habiter.
Nous pourrions un jour considérer nos souvenirs, nos connaissances et nos propres textes avec un étonnement similaire. Non parce qu’ils auraient disparu, mais parce que nous ne saurions plus très bien par quelles opérations de mémoire et de pensée nous étions parvenus à les retenir, à les relier et à les écrire.
Ils seraient encore accessibles, nous les reconnaîtrions peut-être. Mais ne seraient plus tout à fait nôtres et nous ne saurions plus les produire.
