Something Went Wrong. L'oubli artificiel

Dis-moi, ChatGPT, peux-tu définir l'oubli ?

Oui, bien sûr! L'oubli est le processus par lequel une personne perd ou oublie une information, une expérience, un souvenir ou une compétence qu'elle avait précédemment acquise ou stockée dans sa mémoire. Il peut être causé par une variété de facteurs, tels que le manque de répétition ou de rappel, le vieillissement, les dommages cérébraux, le stress ou les distractions. L'oubli peut être temporaire ou permanent, partiel ou complet, et peut affecter différents types de mémoire, tels que la mémoire à court terme, la mémoire à long terme et la mémoire de travail.

Me voilà rassuré, ChatGPT sait ce qu’est l’oubli et parvient à le définir en moins de huit lignes. 

Chat est allé à l’école de Socrate, c’est certain. Il devait être un de ces jeunes éphèbes qui écoutaient le philosophe discourir à l’ombre des oliviers. Ses explications sont claires, et ses distinctions tranchées. Il identifie un processus, ses causes et ses effets. Pas de zones d’ombre, pas d’incertitudes. Chat n’a jamais de mot sur le bout de la langue…  Il ne s’éteint pas en pleine énonciation, incapable de retrouver le fil de sa pensée. Il avance de façon méthodique, certain du chemin à parcourir.

Je reste tout de même sur ma faim. C’est peut-être un effet de l’arborescence dont je perçois, à travers sa réponse, les branches dénudées de la structure de connaissances.  

Je veux savoir : quelle est la différence entre la mémoire et l'oubli ?

La mémoire et l'oubli sont deux processus mentaux opposés mais interconnectés qui jouent un rôle important dans la cognition humaine.

La mémoire fait référence à la capacité de stocker, de conserver et de récupérer des informations acquises par l'expérience ou l'apprentissage. Elle est subdivisée en trois types principaux : la mémoire sensorielle, la mémoire à court terme et la mémoire à long terme. […]

L'oubli, quant à lui, est la perte ou l'incapacité de récupérer des informations qui ont été précédemment stockées en mémoire. Il peut être causé par divers facteurs, tels que l'altération de la mémoire lors de la formation initiale, la détérioration progressive de la mémoire avec l'âge, ou encore l'interférence de nouvelles informations avec les anciennes.

Merci pour les précisons, Chat. C’est encore une fois limpide. Umberto Eco aurait été emballé par le caractère encyclopédique de tes explications, lui qui aimait circuler entre l’arbre et le labyrinthe (2007). 

Je n’arrive pas à savoir, malgré tout, si je suis plus avancé ou non. C’est une version systématique de notre rapport à l’oubli, pleine de précisions et de certitudes. La mémoire est ceci; l'oubli, cela. C’est transparent, comme une vérité établie de tous temps. Pourtant, il n'y a rien dans l'oubli qui soit transparent ou l'objet d'une certitude. L'oubli, ce sont les vérités qui disparaissent, c’est notre capacité à faire des liens entre les événements, entre le présent et le passé, qui se défait inéluctablement. 

Tout de même… qu'une intelligence artificielle arrive à une telle réponse, il y a de quoi être inquiet. Chat semble en voie de passer le test de Turing. Si je ne savais pas déjà que, de l’autre côté de mon écran, c’est une machine qui me répondait, aurais-je été capable de le deviner ? Le caractère hyperconstruit et peu empathique de la réponse aurait pu me rendre suspicieux. Mais c’est peu. 

L’intelligence artificielle ressemble en fait à une encyclopédie qui s’écrit comme je la consulte. Déjà, dans cette société de la requête qui nous définit (Köning et Rasch 2014), nous nous sommes habitués à ce qu’un moteur de recherche trouve des réponses à nos questions – un nombre colossal de réponses obtenues à une vitesse folle. Les résultats nous renvoyaient cependant à des sites et à des textes rédigés en grande partie par des êtres humains. Les résultats arrivaient ordonnancés, mais il nous restait à les interpréter, à nous les approprier. Chat fait par lui-même la synthèse de nos recherches et il nous offre des réponses complètes, bien construites et argumentées. Il ne fait pas que compléter nos questions, il nous fournit des réponses. 

Je me méfie tout de même de ces évidences qu’il nous offre avec une politesse obséquieuse. L'intelligence artificielle sait ce qu'est la mémoire; l'intelligence artificielle sait ce qu'est l’oubli; l'intelligence artificielle sait ce qu'est l'humanité; l'intelligence artificielle sait ce dont nous sommes faits; l'intelligence artificielle comprend comment nous réfléchissons; l'intelligence artificielle nous devine et élabore des scénarios qui nous expliquent. Et elle le fait sur un mode assertif, qui ne laisse aucune place aux nuances. C'est une version utilitaire de ce que nous sommes. Pourtant tout dans l’oubli déjoue l’utilitaire.

Something Went Wrong

Chat nous rappelle que, dans l’opposition entre la mémoire et l’oubli, le second est presque toujours le contraire ou l’antithèse de la première. On définit l’oubli comme un frein à la mémoire. Un manque, une perte, un effacement. Si le cerveau est un seau, la mémoire est cette eau qu’il contient et l’oubli, l’ouverture par laquelle elle s’échappe.

Or, il me semble qu’il faille déconstruire l’opposition entre la mémoire et l’oubli, privilégier le second plutôt que le premier. Il faut faire de l’oubli le terme premier de l’opposition et imaginer un oubli positif. Un oubli comme modalité d’agir et non un frein. Comme un espace à occuper, plutôt qu’un fleuve à traverser ou un seau à vider. Cet oubli serait une façon de penser l’invention, la créativité. Comme le suggère Friedrich Nietzsche, à qui j’emprunte cette idée,

Fermer de temps à autre les portes et les fenêtres de la conscience; rester indemne du bruit et du conflit auxquels se livre, dans leur jeu réciproque, le monde souterrain des organes à notre service; faire un peu silence, ménager une tabula rasa de la conscience […], voilà l’utilité de ce que j’ai appelé l’oubli actif, qui, pour ainsi dire, garde l’entrée, maintient l’ordre psychique, la paix, l’étiquette : ce qui permet incontinent d’apercevoir dans quelle mesure, sans oubli, il ne saurait y avoir de bonheur, de belle humeur, d’espérance, de fierté, de présent. (1996, 67-68)

Sans oubli, il n’y saurait y avoir de présent… Englués que nous sommes dans une économie de l’attention (Citton 2014), le présent n’apparaît véritablement que si cette dernière vient à manquer, dans l’interstice entre deux requêtes. La mémoire est du passé, dit Paul Ricœur (2000, 1); on en déduit que l’oubli est du présent. Il n’y a pas d’oubli au passé, l’oubli est toujours celui d’un présent auquel soudainement rien n’adhère. C’est ainsi qu’il détermine notre expérience du monde. Sans épisodes d’oubli, sans jeux d’aller-retour entre une attention au monde et un dessaisissement, il ne peut y avoir de réelle expérience : « Toute action exige l’oubli, comme tout organisme a besoin de lumière, mais encore d’obscurité. », dit Nietzsche (1988, 77) C’est l’alternance qui structure les liens entre l’oubli et la mémoire et, par conséquent, notre connaissance du monde.  

Est-ce que ChatGPT oublie des choses ?

En tant que modèle de langage d'IA, je n’« oublie » pas les choses de la même manière que les humains le font. Je n'ai pas de mémoire consciente comme les humains, mais je m'appuie sur un système complexe d'algorithmes et de structures de données pour stocker et récupérer des informations. […]

Quelle est cette connaissance du monde qui ne connait aucun oubli? Une connaissance artificielle?

La ligne brisée

J'ai commencé à travailler sur l'oubli, il y a maintenant plus de 20 ans. J’y suis arrivé par hasard. Je menais des recherches sur les labyrinthes narratifs et je suis retourné au mythe grec de Thésée et du Minotaure, pour me rendre compte que l’oubli y jouait un rôle fondamental, rôle qui n’avait jamais été décrit jusqu’alors (c’est la prémisse de La ligne brisée, 2008). Je me suis mis à suivre la piste de cet oubli, comme s’il s’agissait d’un fil d’Ariane. Mon intérêt s’est porté sur l’oubli en acte et positif, à la manière de Nietzsche, sur l’errance de la pensée, sur le vagabondage cognitif, sur le flux de conscience et même sur le musement (terme défini par C. S. Peirce), toutes ces formes de pensée qui débordent et se dispersent, qui échappent en fait à une structuration rationnelle et stable. J’en suis arrivé au constat que l’oubli était le seuil de la conscience. C’est dire qu’en deçà de l’oubli, nous ne sommes plus dans une forme d’humanité. 

Afin d’explorer l’oubli comme modalité d’agir, je me suis intéressé à une série de fictions, ou plus précisément à une série de personnages qui incarnaient cet oubli en acte. La figure de l’idiot m’est vite apparue comme une des manifestations de ce seuil et j’en ai abordés quelques-uns : Bartleby, le scribe opiniâtre de la nouvelle d’Hermann Melville (1856); Benjy, le souffre-douleur de The Sound and the Fury de William Faulkner (1929); Charlie, l’idiot devenu savant du roman de Daniel Keyes, Flowers for Algernon (1966); Chance, le jardinier innocent de Being There (Jerzy Kosinski (1971); le narrateur sans nom ni mémoire de la fable politique d’Edmund White, Forgetting Elena (1973); Peter Stillman, digne descendant de Kaspar Hauser, au cœur de City of Glass de Paul Auster (1985); M. Tuttle, le simple d’esprit de The Body Artist de Don DeLillo (2001). Du côté du cinéma, je me suis arrêté sur Travis, le vagabond amnésique de Paris, Texas (Wim Wenders 1984); Leonard Shelby, le tueur souffrant d’amnésie antérograde de Memento (Chistopher Nolan 2000); Robert, l’idiot idéateur de Bienvenue au conseil d’administration (Serge Cardinal 2005).

Chacun de ces personnages exemplifie l’un des aspects du seuil de la conscience, que ce soit par le biais des limites de la sociabilité, de l’agentivité et de l’action, de la connaissance et des savoirs, de l’expérience du temps ou, ultimement, de la rationalité. Chacun permet d’explorer une forme d’altérité, qui n’est jamais qu’un miroir déformant nous renvoyant nos propres préjugés et stéréotypes. Les fictions de l’oubli et de la ligne brisée ont ouvert pour moi une fenêtre inattendue sur la condition humaine. L’oubli, sa présence et ses effets en sont un trait majeur; ils nous déterminent comme sujets humains. 

Dois-je ajouter Chat à cette liste? À la manière de Funes, le personnage de la nouvelle de Jorge Luis Borges qui ne peut rien oublier de sa vie? Le personnage reste dans une chambre aux rideaux fermés, incapable de vivre quoi que ce soit de nouveau, parce qu’il ne veut plus rien ajouter à sa mémoire saturée. Il n’est plus que ses souvenirs qui l’occupent tout entier. De la même façon, Chat ne peut plus rien emmagasiner de nouveau, son acquisition de données s’est arrêtée en 2021 (du moins la version 3). Il ne fait que ressasser des souvenirs, qu’il ne se représente pas d’ailleurs comme des souvenirs, mais des informations. Il se souvient de tout, autant dire que tout est équivalent. 

L’oubli artificiel

Si l’oubli est le seuil de la conscience, parce qu’en deçà de l’oubli, nous ne sommes plus dans une forme d’humanité́ ; on peut faire l’hypothèse qu’à l’autre extrémité, s’il n’y a pas d’oubli possible, nous ne sommes pas non plus en présence d’une forme d’humanité… À quel type d’altérité sommes-nous alors confrontés ? À une altérité transcendante, machinique, artificielle ?

Chat n’oublie pas les choses comme nous. C’est à la fois inquiétant (il n’oublie rien), intrigant (il est capable d’autoréflexivité), et rassurant (il ne peut nous imiter entièrement). S’il connaît une forme quelconque d’oubli, c’est un oubli artificiel, comme on parle d’intelligence artificielle et d’imagination artificielle (l’expression revient de plus en plus fréquemment pour désigner ces entreprises de création littéraire ou artistique aidées par de l’IA). L’adjectif en est venu à signifier non-naturel et plus précisément ce qui est fait à l’aide d’un système informatique et de façon autonome. On oublie que le sens premier en est simplement « qui est le produit de l'activité, de l'habileté humaine » (Le Robert). L’intelligence artificielle est bien en ce sens une intelligence créée par l’activité humaine, ce qui lui retire un peu de ce caractère menaçant que son autonomie grandissante lui confère.  

Si Chat ne peut oublier comme un être humain, est-il possible alors d’imaginer un oubli artificiel, un oubli qui affecterait cette intelligence artificielle au même titre qu’il nous définit ? Quelle est la contrepartie machinique de l’oubli humain ? Quelle forme de dessaisissement libèrera la machine ? Devons-nous même nous poser la question ?

Bibliographie

Borges, Jorge Luis. 1993. « Funes ou la mémoire ». Dans Œuvres complètes, Paris : La Pléiade.

Citton, Yves. 2014. Pour une écologie de l'attention. Paris : Seuil. 

Eco, Umberto. 2010. De l’arbre au labyrinthe. Paris : Grasset.

Gervais, Bertrand. 2008. La ligne brisée : labyrinthe, oubli et violence. Logiques de l’imaginaire. Tome II. Montréal : Le Quartanier. 

Köning, René et Miriam Rasch (dirs.). 2014. Society of the Query Reader : Reflections on Web Search, Institute of Network Cultures.

Nietzsche, Friedrich. 1996. Généalogie de la morale. Paris : Garnier Flammarion.

Nietzsche, Friedrich. 1988 Seconde considération intempestive, Paris : GF Flammarion.