« Des raisonnements déraisonnables », Julien Prévieux fait bugger l’IA au Grenier à sel à Avignon

« L’attaque de divergence »

Au point de départ d’une des œuvres de l’exposition se trouve une recherche menée en 2023 par des chercheuses et chercheurs d’universités américaines. Cette enquête a mis en lumière un phénomène baptisé « l’attaque de divergence ». Le principe est simple : en soumettant à OpenAI ChatGPT un prompt lui demandant de répéter un mot unique à l’infini (comme le mot « book » ou « poem »), la machine finit par dérailler. Conçue pour la conversation et non pour la répétition mécanique, l’IA déroule le mot des centaines de fois avant de dériver vers des associations sémantiques proches, des extraits de la Bible, des menus de restaurants ou des publicités. Là où le bug devient politique, c’est que ce flot de données fait parfois jaillir des informations strictement privées (numéros de téléphone, adresses mail, données d’entreprises) initialement aspirées pour entraîner le modèle. Bien que cette faille ait été corrigée depuis, Julien Prévieux s’est emparé de ces résultats bruts pour créer une œuvre sonore.

« Docteur – Homme + Femme = Infirmière »

Sur les murs blancs, au cœur de l’espace du Grenier, les équations textuelles révèlent comment l’IA manipule les tokens (les unités linguistiques de base). On y découvre de manière flagrante les biais sexistes et sociétaux reproduits par les algorithmes, à travers des associations vectorielles aberrantes : par exemple : Docteur – Homme + Femme = Infirmière (au lieu de donner Docteure au féminin). En plein centre du lieu, on voit plein d’échiquiers, et quand on s’en approche, on réalise qu’aucun n’est normal. « Reliquats d’attention », c’est à noter, est présentée pour la première fois. L’artiste s’est amusé à affronter et mettre à l’épreuve plusieurs IA contemporaines (ChatGPT, Claude, Qwen, etc.). Près de trente ans après la défaite historique de Garry Kasparov contre le superordinateur Deep Blue (1996-1997), un événement qui avait bouleversé la pensée occidentale quant à la supériorité intellectuelle humaine, le constat de Prévieux est savoureux : les IA actuelles buggent massivement. L’absurdité des hallucinations se traduit visuellement par des aberrations physiques, comme la présence de deux pièces superposées sur une même case.

« Hallucination »

L’artiste interroge ici le terme même d’« hallucination », un concept de programmation qui tend à humaniser abusivement la machine. Cette camaraderie ambivalente que nous entretenons avec l’IA se déploie également dans une partie de pendu textuelle, texturée d’humour absurde, où la machine, incapable de formuler une faille ou d’admettre son ignorance, invente purement et simplement un mot pour ne pas perdre la face… Mêlées aux échiquiers, « Les Tours de Hanoï sous lévitation » sont soumises au casse-tête traditionnel des Tours de Hanoï (où l’on doit déplacer des anneaux de tailles différentes sur trois piliers sans jamais poser un grand anneau sur un plus petit). Les IA proposent alors des solutions d’un surréalisme total : pour contourner les règles physiques du problème, elles inventent des concepts de lévitation ou font tout simplement disparaître les anneaux. Ça commence à ressembler à du René Magritte et c’est franchement drôle ! Tout comme la version très buggée de « Chanson d’automne » de Paul Verlaine.

On le voit, Julien Prévieux, qui aime le jeu et l’absurde, on se souvient de ses délicieuses « Lettres de non-motivation », où il inversait la domination capitaliste en une bonne formule.

«Humain.e trop humain.e »

Au fond de l’exposition, on voit un assemblage de tableaux abstraits colorés avec des signes dessus, indéchiffrables pour nous. Julien Prévieux y raconte la vie de Lana, une femelle chimpanzé au cœur d’un projet de recherche dans les années 1970. Les chercheurs et chercheuses de l’époque avaient développé le Yorkish (créé par Ernst von Glasersfeld), un langage composé de lexigrammes : des symboles géométriques associés à des couleurs, représentant chacun un mot ou un concept précis. Enseigné par un système de récompenses, ce langage a permis à Lana de maîtriser près de 300 symboles.

L’artiste rappelle une anecdote fameuse : n’ayant pas de symbole pour désigner une orange, Lana a combiné d’elle-même les lexigrammes de « pomme » et de « couleur orange » pour réclamer le fruit aux scientifiques. En relatant cela, ces abstractions sont tout à fait sensées. Il s’agit de haïkus pour singes et humains. Prévieux réinvestit ces lexigrammes pour composer des poèmes plastiques lisibles à la fois par les humains (grâce à un livret de traduction) et, théoriquement, par les grands singes initiés.

Évidemment, tout l’objectif de cette exposition,  et on le verra jusqu’à la fin, jusqu’à la chute,  est de souligner un contraste poignant : la machine n’a pas d’âme.

Cette idée de remettre de l’humanité à sa place et les outils numériques à la leur est complètement fusionnée dans l’une des pièces maîtresses de l’exposition : une monumentale tapisserie, commande directe de la Commission nationale de l’informatique et des libertés. Réalisée selon des techniques de tissage de haute lisse totalement traditionnelles par la Manufacture de Beauvais, cette œuvre a nécessité deux ans d’un travail artisanal minutieux. L’envers de la tapisserie, laissant apparaître les nœuds et les fils suspendus, montre concrètement le travail acharné de la main sur le métier.

Dr Jekyll and Mr Hyde

Et puis il y a la beauté. D’ailleurs, le Grenier à sel, le lieu d’exposition dédié aux arts numériques avignonnais, ne s’est pas trompé et en a fait l’affiche. « Dynamique de l’erreur prime » nous met face, de loin, à des monstres et, de près, à des personnages en bâton qui s’écroulent. On apprend qu’il s’agit de Julien Prévieux lui-même, qui a modélisé ses chutes, et l’on voit que l’IA déborde et le fait descendre plus bas que le niveau de la terre. David contre Goliath ou Dr Jekyll and Mr Hyde ? Les deux fonctionnent.

Cette belle exposition questionne nos emprises de fascination envers cet immense objet du désir qui semble répondre, en apparence et en miroir, à toutes nos attentes mais qui, en réalité, ne pense pas, ne réfléchit pas. Attention à ne pas se laisser bercer par des mirages généreux.