La littérature d’anticipation et la science-fiction ont souvent eu quelques longueurs d’avance sur la philosophie. Je le dis avec d’autant plus de liberté que je suis philosophe de formation et que j’ai passé une bonne partie de ma vie à fréquenter ceux qui prétendaient nous aider à comprendre le monde. Il faut pourtant reconnaître que les romanciers et les cinéastes ont parfois fait preuve d’une imagination autrement plus féconde lorsqu’il s’agissait d’en pressentir les transformations.
Il suffit de relire Le Meilleur des mondes d’Aldous Huxley, publié en 1932, pour mesurer à quel point certaines de ses intuitions nous sont devenues familières. Huxley avait compris que les sociétés modernes pourraient obtenir l’adhésion des individus autrement que par la contrainte, en faisant du bonheur lui-même un instrument de gouvernance. Orwell, quelques années plus tard, explorait dans 1984 une autre possibilité, celle d’une société de surveillance dans laquelle le pouvoir s’exerce jusque dans l’intimité des individus. L’appauvrissement méthodique du langage, avec l’invention de la novlangue, devait progressivement rendre certaines pensées impossibles à formuler. Quant à la réécriture permanente de l’histoire, elle permettait au pouvoir de modifier le passé au gré de ses intérêts. Difficile de ne pas penser à notre époque, où chacun transporte dans sa poche un smartphone capable de suivre ses déplacements et d’enregistrer une quantité considérable d’informations sur son existence. Orwell avait imaginé des télécrans imposés par le pouvoir. Nous achetons les nôtres, et nous les emportons partout avec nous.
Pendant ce temps, les philosophes continuaient de s’interroger sur le sens de l’être. Heidegger avait même consacré à cette question son ouvrage monumental, Être et Temps, publié en 1927, quelques années avant que l’Europe ne s’engage dans l’une des plus grandes catastrophes de son histoire. Ce qui ne l’empêcha d’ailleurs pas, lui qui avait tant médité sur l’authenticité de l’existence, de se compromettre avec le national-socialisme. Il y aurait certainement matière à réfléchir sur les rapports entre la profondeur philosophique et la clairvoyance politique.
Je force évidemment un peu le trait. Les philosophes n’ont pas attendu les romanciers pour réfléchir aux bouleversements de leur époque. Mais la fiction possède sur la philosophie un avantage considérable: elle n’a pas besoin de démontrer ce qu’elle imagine. Elle peut se permettre d’avoir raison trop tôt, quitte à passer pendant quelques décennies pour une extravagance.
Dans un monde où l’homme et la machine se ressemblent suffisamment pour être confondus, il devient nécessaire d’inventer des procédures permettant de les distinguer.
Le cinéma n’est pas en reste, avec quelques réussites assez spectaculaires. En 1968, Stanley Kubrick portait à l’écran 2001, l’Odyssée de l’espace, conçu avec Arthur C. Clarke, l’un des grands maîtres de la littérature de science-fiction. Qui a oublié cette scène glaçante où HAL 9000, l’ordinateur de bord devenu maître du vaisseau, refuse d’ouvrir les portes à l’astronaute Dave Bowman? Leur face-à-face, avec cette voix parfaitement calme qui annonce à l’homme qu’elle ne peut lui obéir, est entré dans l’histoire du cinéma et dans notre imaginaire collectif. Quelques années plus tard, Rollerball, de Norman Jewison, décrivait une société dominée par de grandes corporations, où la violence sportive servait de divertissement aux masses. On pourrait encore évoquer Soleil vert, ses inquiétudes écologiques, ou The Truman Show, qui imaginait dès 1998 une existence entièrement transformée en spectacle.
Pourtant, à mesure que se multiplient les controverses autour de l’intelligence artificielle, je me demande si le film le plus visionnaire de tous n’est pas Blade Runner, réalisé par Ridley Scott en 1982, d’après le roman de Philip K. Dick, Les androïdes rêvent-ils de moutons électriques ? Le film imaginait un Los Angeles de 2019, plongé dans une nuit perpétuelle, où des êtres artificiels, les réplicants, étaient devenus pratiquement indiscernables des humains. Fabriqués pour travailler dans les colonies extraterrestres, ils avaient acquis des capacités supérieures à celles de leurs concepteurs. Leur présence sur Terre étant interdite, des policiers spécialisés, les Blade Runners, étaient chargés de les identifier et de les éliminer.
Dans le film de Ridley Scott, le plus inquiétant n’est peut-être pas que les réplicants puissent passer pour des humains. C’est que les hommes chargés de les identifier aient fini par confier à une machine le soin de leur dire qui ils ont devant eux.
Ce qui m’intéresse aujourd’hui dans ce film n’est pas tellement la sophistication de ces créatures, ni même la possibilité qu’une intelligence artificielle finisse un jour par éprouver des émotions. C’est cette difficulté nouvelle: dans un monde où l’homme et la machine se ressemblent suffisamment pour être confondus, il devient nécessaire d’inventer des procédures permettant de les distinguer.
Dans Blade Runner, cette procédure porte un nom: le test de Voight-Kampff. Il consiste à soumettre un individu à une série de questions destinées à provoquer des réactions émotionnelles involontaires. Un appareil mesure notamment les mouvements de la pupille et certaines manifestations physiologiques censées révéler l’empathie. Le principe est que les réplicants, malgré leur ressemblance avec les humains, ne réagissent pas exactement de la même manière à certaines situations. Encore faut-il que le test soit suffisamment élaboré pour déceler ces différences.
Depuis quelques mois, les controverses se multiplient dans le monde de l’édition et de la création artistique. On soupçonne des écrivains d’avoir eu recours à l’intelligence artificielle, on cherche à déterminer si certaines illustrations ont été produites par des logiciels génératifs. Les établissements scolaires et universitaires sont confrontés au même problème. Un devoir particulièrement bien écrit peut désormais éveiller les soupçons de son correcteur, qui se retrouve dans la situation assez inconfortable de devoir déterminer si la qualité du travail constitue une preuve de compétence ou un indice de fraude.
Pendant des siècles, l’éducation a consisté, entre autres choses, à apprendre aux élèves à produire des textes conformes à certaines exigences de raisonnement et de composition. Aujourd’hui, lorsqu’un texte satisfait trop parfaitement ces exigences, il peut devenir suspect. Les logiciels de détection, dont la fiabilité demeure très contestée, prétendent résoudre cette difficulté en analysant des régularités statistiques. Il arrive pourtant qu’ils attribuent à une machine des textes parfaitement humains. Nous voilà donc dans une situation que Philip K. Dick aurait probablement appréciée : un individu peut se voir demander de prouver qu’il est bien l’auteur de ce qu’il a écrit, sur la foi d’un instrument incapable d’en apporter lui-même la certitude.
Cette obsession de l’authenticité soulève une difficulté que Blade Runner avait remarquablement mise en scène. Le test de Voight-Kampff repose sur l’idée qu’il existe des propriétés spécifiquement humaines que les machines ne peuvent reproduire. Or, à mesure que les réplicants deviennent plus sophistiqués, cette frontière devient incertaine. Le personnage de Rachel, convaincue d’être humaine parce qu’elle possède des souvenirs d’enfance, découvre que ceux-ci lui ont été implantés. Ses souvenirs sont artificiels, mais les émotions qu’ils provoquent n’en paraissent pas moins réelles. Quant à Roy Batty, le réplicant interprété par Rutger Hauer, sa célèbre tirade finale sur les souvenirs qui disparaîtront « comme des larmes dans la pluie » est peut-être l’un des moments les plus véritablement humains du film.
Un devoir particulièrement bien écrit peut désormais éveiller les soupçons de son correcteur, qui se retrouve dans la situation assez inconfortable de devoir déterminer si la qualité du travail constitue une preuve de compétence ou un indice de fraude.
Cette difficulté rejoint une vieille interrogation philosophique. Descartes imaginait déjà des automates si ressemblants aux hommes qu’il devenait nécessaire de trouver des critères pour les distinguer, tout en considérant qu’elles ne pourraient jamais faire un usage véritablement universel du langage et de la raison. Trois siècles plus tard, en 1950, Alan Turing reprenait cette interrogation sous un autre angle. Avec son célèbre test, il proposait de déterminer si une machine pouvait converser avec un être humain sans que celui-ci parvienne à la distinguer d’un interlocuteur humain. Nous avons fini par retourner ce raisonnement contre nous-mêmes. Le test de Turing cherchait à déterminer si une machine pouvait passer pour un homme. Nos nouveaux tests cherchent à déterminer si un homme n’est pas, en réalité, une machine. Ou plus exactement si ses productions ne sont pas celles d’une machine.
Lorsqu’un roman ou une photographie nous plaît, que change exactement la découverte de son origine artificielle ? Il existe d’excellentes raisons de vouloir connaître les conditions de production d’une œuvre, particulièrement lorsqu’il s’agit de rémunérer des auteurs ou de sanctionner une tromperie. Mais il arrive aussi que le jugement porté sur l’œuvre soit entièrement modifié par cette seule information. Ce que nous admirions devient soudain médiocre, voire indigne d’intérêt, dès lors que nous apprenons qu’une machine est intervenue dans sa fabrication.
Un individu peut se voir demander de prouver qu’il est bien l’auteur de ce qu’il a écrit, sur la foi d’un instrument incapable d’en apporter lui-même la certitude.
Je ne prétends pas que cette réaction soit nécessairement injustifiée. La création artistique ne se réduit pas à son résultat matériel. Nous pouvons légitimement admirer dans une œuvre le travail ou l’expérience de celui qui l’a produite. Mais encore faudrait-il distinguer ce qui relève du jugement esthétique de ce qui relève de l’authentification. Une peinture peut être remarquable sans être de Rembrandt. Et l’attribution d’une œuvre à Rembrandt ne dispense pas d’en examiner les qualités. L’histoire de l’art connaît depuis longtemps ces difficultés, notamment à travers les faux et les problèmes d’attribution. L’intelligence artificielle leur donne une ampleur nouvelle.
Avec le recul, Blade Runner me paraît encore plus troublant qu’à l’époque où je l’ai découvert. Je l’avais longtemps regardé comme une méditation sur la conscience artificielle et la mortalité. On peut y voir aujourd’hui une réflexion sur la manière dont une société organise le soupçon lorsqu’elle ne parvient plus à reconnaître avec certitude ce qu’elle a elle-même fabriqué.
Désormais, à la lecture d’un texte ou devant une photographie, nous nous demandons systématiquement si une intelligence artificielle est intervenue dans sa création. Et nous nous habituons progressivement à cette idée qu’une production humaine devrait pouvoir être accompagnée de sa preuve d’humanité. Dans le film de Ridley Scott, le plus inquiétant n’est peut-être pas que les réplicants puissent passer pour des humains. C’est que les hommes chargés de les identifier aient fini par confier à une machine le soin de leur dire qui ils ont devant eux.
