L’irruption des IAs génératives ces dernières années initie probablement un changement sociétal d’une ampleur au moins comparable à l’arrivée d’Internet ou celle des smartphones. Qu’on les aime ou qu’on les déteste, nous croyons que les IAs sont là pour durer et qu’elles constituent un facteur de disruption majeur. Dès lors, l’enjeu devient selon nous : quelles conséquences et comment les réguler (le peut-on) ? Puis : comment anticiper, se préparer et s’adapter aux changements à venir ?

Un petit peu de contexte

Sans remonter à la préhistoire numérique (le Golem de Prague ou l’automate joueur d’échecs du XVIIIè siècle), les concepts autour de l’IA commencent à apparaître au milieu du XXè siècle. D’abord dans la fiction, plutôt autour des robots d’ailleurs : R.U.R. (Rossum’s Universal Robots) de Karel Čapek en 1920, puis les trois lois de la robotique d’Asimov en 1942. La science s’en empare ensuite, avec Alan Turing et son fameux test (1950), puis la conférence de Dartmouth en 1956, qui utilise le terme d’« intelligence artificielle ».

Mais les espoirs sont vite douchés : la technologie de l’époque est trop limitée, en particulier la puissance de calcul — même si beaucoup des concepts utilisés ensuite datent de cette période, notamment les premiers réseaux de neurones. L’IA refait surface au début des années 1980 avec les systèmes experts, avant un nouveau creux, puis un retour des réseaux de neurones et, dans les années 2010, l’explosion de l’analyse de données massives (big data). Plusieurs dates visibles du grand public marquent cette montée en puissance : 1997, avec la victoire de Deep Blue sur Kasparov aux échecs ; 2012, avec la percée d’AlexNet sur la recon-naissance d’images, qui relance concrètement le deep learning ; et 2016, avec la victoire d’AlphaGo sur Lee Sedol au jeu de go.

Durant toute cette période, la puissance de calcul et de traitement de données ne cesse de croître, mais dans une démarche qui reste analytique et supervisée : des modèles statistiques entraînés et guidés par l’humain pour améliorer une tâche précise. C’est l’IA des modèles météo, de l’analyse d’image, de la vidéosurveillance, des jeux vidéo — et elle restera sans doute encore longtemps la plus importante en termes de business. Elle est performante, mais elle reste améliorative plutôt que disruptive.

La rupture intervient de façon explosive en 2022 avec l’IA générative des LLM (Large Language Models), et l’ouverture gratuite (pour combien de temps ?) au grand public d’outils comme ChatGPT et Midjourney. Les promesses (et les craintes) suscitées sont phénoménales, touchant quasiment tous les secteurs de la société. Et les progrès réalisés depuis (portés par des investissements pharaoniques) sont sidérants quant à ce que pourra être leur impact sur l’humanité à court et moyen terme.

Pour la suite de ce texte, quand on utilisera le terme d’IA, on parlera en général d’IA générative, type LLM.

Notre approche

On peut reprocher beaucoup de choses à ce qui est en train de se produire, et il faut le faire. Ces IAs ont été construites sans aucun respect de la propriété intellectuelle, dans une démarche exclusive d’accumula-tion capitalistique, sans prise en compte de l’environnement, et hors toute régulation. Surtout, la course à la performance, menée par les quel-ques entreprises étatsuniennes capables d’investir en centaines de mil-liards de dollars, fait que les règles de précautions ne sont pas appliquées (sauf occasionnellement dans ce qui ressemble plus à un effet de comm). Problème qui se combine avec la rivalité exacerbée US-Chine, qui pousse les US à tout faire pour garder leur avance (on parle souvent de 6-9 mois – une paille à l’échelle de l’humanité). Il est remarquable (et inquiétant) de constater que les acteurs du domaine alertent régulièrement eux-mêmes, affolés par le pouvoir de leur création, sans que rien ne soit fait pour freiner le mouvement. À aucun mécanisme n’existe pour répondre au niveau planétaire à la question : « est-ce qu’on en veut ou non ? »

Certains espèrent que la « bulle de l’IA » (survalorisation financière des entreprises) éclate provoquant sa fin. Elle le fera peut-être. Mais même si cela se produit, il est possible alors que certaines entreprises disparaissent, sans que cela ne supprime au passage les technologies, les outils, les data centers, … Ils seront juste repris par d’autres (qui auront au passage fait une bonne affaire). Les bénéfices apportés par les IAs sont trop importants pour que les acteurs y renoncent. C’est par exemple le modèle du rail en Angleterre au XIXè, ou celui de la bulle Internet de 2001.

Les IAs sont là pour durer et elles vont bouleverser notre monde.

Essayons donc d’observer, de comprendre, et peut-être d’anticiper.

Nous avons essayé de lister et regrouper les enjeux pour l’humanité de l’irruption des IAs. Liste non triée par importance. Dans la plupart des cas, l’impact est significatif, voire majeur, avec des niveaux de risque, variables selon les populations, entre graves et extrêmes. Rentrer dans le détail de chacun demanderait un livre entier. Ce sera l’un des enjeux de la Convention, la Yéti Con-27, d’en reprendre certains !

Les principaux enjeux

Une humanité organisée s’occuperait de réfléchir et réguler tous ces secteurs. Mais ce ne serait sans doute pas l’humanité que nous connaissons, qui ne l’a jamais fait pour aucune rupture technologique… La plus grande particularité de celle-ci, c’est qu’elle se produit à une vitesse complètement dingue. D’une année à l’autre, les paradigmes changent.

1. Enjeux économiques :

  • Automatisation du travail : quels métiers disparaissent, se transforment, apparaissent ?
  • Concentration de richesse et de pouvoir entre quelques acteurs technologiques ;
  • Fracture entre pays/entreprises qui maîtrisent l’IA et ceux qui la subissent.

2. Enjeux environnementaux :

  • Coût énergétique et hydrique des infrastructures (data centers) ;
  • Extraction de ressources (terres rares) nécessaires au matériel ;
  • Paradoxe d’une technologie qui peut à la fois nuire et aider à notre compréhension du vivant.

3. Enjeux géopolitiques :

  • Relations entre états, rivalités entre puissances :  l’IA comme nouvel enjeu de pouvoir international ;
  • Course à la puissance / fuite en avant ?
  • Régulation : souhaitable / nécessaire ?  Qui / quoi / comment ?

4. Enjeux existentiels et de long terme :

  • Superintelligence : perte de contrôle possible sur une IA qui nous dépasserait ;
  • Alignement des valeurs : une IA « bienveillante » peut-elle dériver malgré elle ;
  • Notre place dans l’Histoire si une intelligence non-humaine nous dépasse.

5. Enjeux de sécurité / militaire :

  • Usage militaire de l’IA, armes autonomes ;
  • Désignation automatique de cibles ;
  • Cybersécurité : l’IA comme arme et comme cible.

6. Enjeux sociaux et relationnels :

  • Attachement affectif aux machines (compagnons IA, robots de soin) ;
  • Isolement social possiblement aggravé ou au contraire compensé ;
  • Transformation de la famille et du soin aux personnes dépendantes (âgées, enfants).

7. Enjeux cognitifs et épistémiques :

  • Dépendance cognitive : penser moins, déléguer le raisonnement à la machine ;
  • Transformation de l’éducation et de la transmission des savoirs ;
  • Quelles sont les compétences « humaines » à risque du fait de l’IA ?
  • Les bénéfices possibles ?

8. Enjeux philosophiques et identitaires :

  • Conscience et sentience : une machine peut-elle « penser » ou « ressentir » ?
  • Quel statut juridique ?
  • Humain augmenté, cyborg : jusqu’où rester humain quand le corps s’hybride à la machine.

9. Création et art :

  • Le pillage de la propriété intellectuelle : comment réparer / juste rétribution :
  • IA : un outil comme les autres ?
  • Reste-t-on artiste en utilisant l’IA ?
  • Sans nouvelle création, est-ce que les IAs vont « tourner en rond » ?

10. Enjeux de justice et d’équité :

  • Biais algorithmiques (genre, origine, etc.) reproduits ou amplifiés par les IAs ;
  • Accès inégal à la technologie selon les pays, les classes sociales, les générations ;
  • Qui est représenté (ou non) dans la conception des systèmes ?

11. Enjeux civiques :

  • Désinformation, deepfakes, érosion de la confiance dans ce qu’on voit/lit ;
  • Manipulation de masse (élections, opinion publique) ;
  • Risque de surveillance de masse et de contrôle social ;
  • Comment en faire un outil au service de la démocratie ?

Tout n’est pas négatif

Une fois tout cela posé, on pourrait se replier sur soi en se disant qu’on est foutu !

On peut aussi se dire que l’humanité a montré tout au long de son existence des capacités d’adaptation et de résilience remarquables. Et que l’IA, c’est aussi l’ouverture de possibilités tout à fait incroyables, collecti-ves comme individuelles. « Aucun problème ne peut résister à l’assaut de la pensée soutenue » nous avait dit Voltaire. Imaginez quand cela se combine avec un accès immédiat à tout l’historique de la pensée humaine, l’actualité de la recherche, et comme si des milliers de cerveaux se concentraient ensemble sur le problème. Bon… Là j’ai envie de citer un autre auteur, John Brunner dans Tous à Zanzibar, parlant d’un ordinateur : « Ils disent aussi que son intelligence égale les intelligences additionnées de mille humains. Il n’y a pas de quoi se vanter, parce qu’il suffit de mettre mille d’entre nous ensemble pour qu’ils se comportent comme des idiots ». Ce qui ne nous avance pas – mais me fait sourire.

Bref ! La dystopie est facile. Si on commence à réfléchir à tout ce qui peut mal se passer, les idées affluent et ne manquent pas. Et parfois se réalisent. L’histoire humaine nous montre aussi que pour une Cassandre, il y a de nombreux prophètes de mauvais augure qui se sont trompés. Et heureusement car sinon on ne serait plus là depuis longtemps (heureusement pour nous, mais les autres êtres vivants, eux, ne s’en porteraient assurément pas plus mal). On peut donc espérer que nous saurons nous adapter aux problèmes que nous nous créons. Et au final faire émerger de nouvelles manières de vivre, de créer, d’être, tout bonnement, fascinantes et non moins humaines.

La Yéti Con-27

La Convention de Science Fiction qui aura lieu à Grenoble du 26 au 29 août 2027 sera l’occasion de débattre de tout cela. De confronter les points de vue, de les enrichir, de les nuancer. Que ce soit lors de conférences, de tables rondes, d’ateliers, ou tout simplement autour d’une bière (ou de toute autre boisson). Chacun y viendra avec ses sensibilités, ses opinions, ses valeurs.

Ce qui nous semble sûr, c’est que les solutions ne peuvent être que collectives.