L'IA, les conséquences culturelles d'une catastrophe annoncée.
Texte optimisé grâce à l’intelligence artificielle, rédigé et piloté par Nicolas Dondina
L’intelligence artificielle (IA) continue de transformer tous les aspects de notre quotidien ainsi que nos outils professionnels. Certains comparent l'importance actuelle de l'intelligence artificielle à celle du Bitcoin à ses débuts, la présentant comme un moteur clé de la croissance industrielle.
Cependant, au-delà des promesses de profit, peu de réflexion est accordée aux conséquences culturelles, déjà perceptibles ou à venir, qui pourraient impacter notre futur proche.
En tant que curateurs de galerie d’art et producteurs d’œuvres et de contenus, nous considérons essentiel de traiter la question de l’intelligence artificielle afin de comprendre ses enjeux et d’anticiper ses répercussions.
La galerie 54 Dunkerque revendique la première exposition française dédiée à la création iconographique par IA en octobre 2023 et a renouvelé cette expérience avec une exposition de grands tirages en septembre 2024. Face au public, lorsqu’il s’agit d’exposer des œuvres générées par l’IA, des discussions nécessaires émergent souvent pour recontextualiser les œuvres. Les visiteurs sont fréquemment surpris par la qualité des grands formats et l'impact visuel des images, ce qui suscite des remarques, des questions et des réflexions sur ce sujet complexe. Cinq points méritent d’être soulignés.
Préserver l'excellence créative face à la démocratisation des applications génratives
L’IA permet à chacun de créer des images percutantes, des designs innovants et des retouches facilement accessibles. Par conséquent, l’accès à la création devient presque universel. Cependant, cette « démocratisation du faire » risque de compliquer l’émergence de talents authentiques, pour lesquels l’approche physique et artisanale, sans l’assistance de la machine, demeure plus laborieuse.
L’IA imite le monde, mais dépourvue de l’âme et de la sensibilité temporelle qui nous lient au réel, elle ne peut générer de nouveaux mouvements artistiques. En saturant les médias de contenus variés, elle pourrait ainsi freiner l’émergence de créations novatrices, semblables à celles que les artistes ont portées à travers les siècles.
Valeur, Propriété et Unicité de l'Iconographie en IA
L’iconographie IA soulève non seulement la question de la propriété des contenus, mais aussi celle de leur valeur commerciale. “En photographie, ce sont les 50 premières années qui sont les plus difficiles, après ça va tout seul !“ (R. Doisneau).
Le médium a vu émerger de nombreux créateurs animés par l'ambition de se faire un nom. Toutefois, les démarches basées sur l’exploitation du monde réel se distinguent profondément de celles qui reposent sur la génération d’images à partir de simples prompts. L'auteur utilisant l'IA ne peut être considéré comme un photographe au sens traditionnel, et rien ne garantit que les images produites soient des œuvres à tirage limité ou que leur sujet soit directement attribuable à l’artiste. En cas de plagiat, un créateur d'images générées par IA pourrait rencontrer des obstacles à revendiquer ses droits sur une iconographie dont il ne possède pas les droits initiaux. Les investissements fondés principalement sur la confiance s’avèrent fragiles, et agir par opportunisme ne garantit pas à ce jour une valorisation durable.
La déportation des savoirs : quand le cerveau s’efface devant le serveur
La déportation des savoirs vers des serveurs progresse inexorablement. Les machines stockent des milliards de téraoctets de données et nous les restituent d’un simple clic. Souvent, ces informations sont faussées, mais globalement, elles sont fiables. Les machines savent écrire, réfléchir, et il devient systématique de faire appel à l'IA pour nous accompagner, voire nous remplacer dans nos réflexions. La machine devient alors un substitut à la connaissance, et les industries, des régulateurs de nos pensées. Nos comportements sont intrinsèquement liés à nos paroles, qui elles-mêmes sont induites par nos pensées, en harmonie avec nos connaissances. Ne plus savoir, c’est ne plus pouvoir transmettre, et cela revient à confier notre intégrité à d’autres. Pire encore, cela peut conduire à une domination des industries culturelles appauvrie, orchestrées par des algorithmes et, par extension, par l’IA.
Pollution culturelle : quand le numérique réécrit l’histoire
Boris Vian, qui prédisait que les « idées neuves » seraient remplacées par « les mauvaises idées », semblait pressentir l’émergence de phénomènes comme les deepfakes, les canulars générés par IA, les deep audio et autres contenus trompeurs cf.Lexique. Ces éléments inondent aujourd'hui notre patrimoine culturel, rendant presque impossible de distinguer le vrai du faux. Les contenus, injectés sans filtre sur les médias numériques, prennent vie de manière incontrôlable, rendant difficile toute contestation de leur paternité. L'usurpation se substitue à l'œuvre originale, transformant celle-ci en simple point de départ, un élément de forme utilisé par d'autres pour recréer des contenus faussement attribués. Les plateformes de streaming deviennent ainsi des outils permettant de générer des écoutes, avec des créations prétendument liées à des artistes, mais réalisées sans leur consentement, afin que les auteurs de ces manipulations en tirent un profit financier.
La perte de l'anonymat
Qui aurait imaginé qu'un jour, des outils d'IA seraient capables de faire ressurgir tout ce que nous avons laissé, sciemment ou à notre insu, sur Internet ? L'IA peut désormais cataloguer les individus, recouper les informations et faire remonter leurs recherches sur les moteurs de recherche. Ces données intimes, que nous avions oubliées ou rendues publiques, risquent ainsi d’effacer toute notion d’anonymat. L’IA s'affranchit de toute valeur morale, car l'outil lui-même n'a pas de conscience, ou en a autant que les créateurs d'applications qui utilisent cette technologie pour diffuser savoir et connaissance. Dans ce contexte, l'anarchie prend tout son sens.
Cette époque et les décennies à venir s'annoncent complexes et inquiétantes, non pas à cause des nouvelles technologies en elles-mêmes, mais en raison du manque de régulation de ces sujets. Chacun des points mentionnés ci-dessus mériterait une réflexion de fond, des lois et des avertissements pour arrêter et limiter les dérives déjà en cours. N'oublions pas qu'en confiant nos savoirs à ces outils, nous les livrons à des industries dont le seul objectif est de capter l'attention des masses pour mieux les exploiter. Ne permettons pas que notre liberté fondamentale — celle de penser — soit conditionnée par des algorithmes. Espérons qu’au cours de la décennie à venir, la raison s'unisse aux gouvernements pour instaurer des lois qui fassent de chaque média un acteur responsable des conséquences culturelles qu'il engendre. Nous risquons de perdre en une décennie ce que les artistes ont mis des siècles à construire. Souhaitons que la culture, l'art et le savoir restent l'apanage du travail et de la connaissance.
Lexique : "Deep audio" : Utilisation de l'IA pour générer des enregistrements vocaux réalistes mais fictifs, souvent utilisés pour tromper ou manipuler.
"AI-generated propaganda" : Propagande produite par des algorithmes d'IA, souvent dans le but d'influencer l'opinion publique.
"Synthetic media" : Médias créés entièrement par l'IA, pouvant inclure des images, des vidéos, ou des articles qui ne sont pas réels.
"Machine-manipulated visuals" : Images ou vidéos manipulées par des intelligences artificielles pour déformer la réalité.
"Synthetic identity fraud" : Création d'identités fictives par IA, utilisées à des fins frauduleuses.
"AI-generated hoaxes" : Canulars ou mensonges générés par des intelligences artificielles, souvent diffusés comme des vérités.
"Faux profils IA" : Profils d’utilisateurs créés artificiellement par des IA pour influencer les réseaux sociaux ou autres plateformes en ligne.
"Algorithmic misinformation" : Désinformation produite par des algorithmes d’IA, souvent diffusée via des plateformes numériques.
"Bot-driven disinformation" : Désinformation propagée par des bots alimentés par l’IA, souvent utilisée pour manipuler les discussions en ligne.
"AI-crafted rumors" : Rumeurs fabriquées par des intelligences artificielles et diffusées sur Internet.
Le slogan actuel de Google est : "Do the right thing." Ce slogan reflète l'engagement de Google envers l'éthique et l'impact positif dans ses pratiques commerciales et technologiques. Il a remplacé l'ancien mantra emblématique : "Don't be evil."
Texte optimisé grâce à l’intelligence artificielle, rédigé et piloté par Nicolas Dondina