Si j’avais su…

Nos mythes les plus anciens offrent maints exemples des conséquences néfastes de chercher une gratification immédiate en donnant libre cours à la volonté de puissance ou en cédant à la simple curiosité. Qu’est, en effet, l’histoire d’Adam et Ève sinon le récit d’une béatitude originelle perdue pour avoir cédé à l’attrait d’un fruit défendu ? Qu’est encore le mythe de Pandore sinon le récit de la dissémination de tous les maux de l’humanité lorsque Pandore ouvrit la boite qu’elle avait reçue de Zeus avec l’interdiction de chercher à en connaître le contenu ? 

Dans Frankenstein ou le Prométhée moderne, roman publié en 1818, l’auteure Mary Shelley raconte comment le chirurgien Victor Frankenstein parvient à redonner vie à un amas de chairs glanées dans les cimetières du voisinage. Épouvanté par le physique hideux de sa « créature », le docteur Frankenstein l’abandonne à une solitude et à une clandestinité si douloureuses que le « monstre », en dépit de ses efforts pour être accepté et aimé, revient le supplier de lui donner une compagne aussi laide que lui, afin, pense-t-il, de pouvoir aimer sans être rejeté.

Terrifié à l’idée de créer un autre monstre, Frankenstein refuse. Une fureur meurtrière s’empare alors de celui auquel on donne souvent, par association, le nom de son créateur. Rongé de remords, l’imprudent docteur, qui n’avait pas compris que l’essentiel est invisible pour les yeux et qu’on peut avoir mauvaise tête mais bon cœur, consacrera le reste de sa vie à traquer sans succès l’infortunée créature pour l’empêcher de nuire.

L’histoire des sciences et des techniques est, elle aussi, jonchée de regrets d’inventeurs. « Ma douleur est insupportable […] : si mon fusil a ôté la vie à des humains, moi, Mikhaïl Kalachnikov, fils d’une paysanne, chrétien orthodoxe, ne suis-je pas responsable de la mort de ces humains même si c’étaient des ennemis ? », s’interrogeait à la fin de sa vie l’inventeur de la sinistre « kalash ». Troublé lui aussi par la violence de sa progéniture, neuf jours après Nagasaki, le « père de la bombe », Robert Oppenheimer, recommandait au Secrétaire à la guerre des États-Unis de tout faire pour mettre fin au développement des armes nucléaires. Quant au pacifiste Einstein qui avait signé la lettre incitant Roosevelt à lancer le projet Manhattan, il déclara plus tard « si j’avais su que les Allemands ne parviendraient pas à fabriquer une bombe atomique, je n’aurais jamais levé le petit doigt ». 

« Si j’avais su » n’a jamais renvoyé un mauvais génie dans sa bouteille.

Que penser alors lorsque, des milieux scientifiques habituellement peu portés sur les scrupules dans leur course à l’innovation et aux médailles, s’élèvent des voix qui supplient les gouvernements d’encadrer le développement de l’intelligence artificielle (IA) ? Deux explications viennent en tête : la première, peu convaincante, est que l’Homo technicus s’est assagi ; la seconde est que les risques associés à la nouvelle « créature » sont si terrifiants que ses inventeurs se sentent coupables avant même de l’avoir lâchée dans la nature.

En mai 2023, le PDG de OpenIA, leader mondial dans le développement de l’intelligence artificielle, s’adressait à un comité du Sénat des États-Unis pour demander que le gouvernement légifère afin de prévenir le développement d’applications présentant des risques importants en matière de désinformation et de manipulation du public. Les arnaques actuelles de la cybercriminalité risquent en effet de ressembler à de l’amateurisme devant les impostures sophistiquées que promet la dissémination des « monstres » en gestation ou déjà en couveuse dans les maternités de l’intelligence artificielle.

Il serait toutefois naïf d’idéaliser ces interventions préventives. La présentation d’OpenIA comportait en effet cet avertissement : « il y aura un impact sur l’emploi, nous essayons d’être transparents à cet égard, et nous pensons qu’il faudra un partenariat entre l’industrie et le gouvernement, mais il faudra surtout une action gouvernementale pour trouver un moyen d’atténuer ce problème. » Autrement dit : « nous allons nous enrichir en créant du chômage, soyez prêts à régler la facture ». La technique du pollueur qui encaisse les profits et refile les frais de décontamination à la société a ici son pendant en informatique.

Convaincu du danger, le gouvernement américain réagissait dès le 30 octobre 2023 en rendant obligatoire la divulgation par les compagnies concernées de toutes les mesures prises pour assurer la sécurité de leurs applications de l’Intelligence artificielle avant de les rendre publiques.

S’imaginer que des applications perverses de l’intelligence artificielle ne se répandront pas comme une peste en dépit de ces précautions relève de l’angélisme, car comme l’écrivait Pierre Teilhard de Chardin dès 1954 : « … que la chose nous plaise ou non, comprenons donc enfin que rien, absolument rien, n’empêchera jamais l’Homme (poussé qu’il est en cela par une urgence intérieure d’ordre cosmique) d’aller en toutes directions — et plus spécialement en matière de biologie — jusqu’à l’extrême bout de ses puissances de recherche et d’invention ». Le clonage, les OGM et autres concoctions des apprentis sorciers de tous poils, notamment dans l’opaque univers des applications militaires, lui donnent raison. 

Nombre de « thérapeutes » virtuels qui ne sont en réalité que des algorithmes offrent déjà leurs services en ligne à des patients incapables de distinguer les conseils d’un robot de ceux d’un psychologue qualifié. Elvis le pelvis, ressuscité par l’intelligence artificielle, amorcera une tournée mondiale en 2024, et il y a fort à parier que la campagne présidentielle américaine aura sa part de mystifications par les sosies virtuels des candidats. Si l’élection de l’an 2000 s’est déroulée au rythme d’Al Gore, celle de 2024 promet d’être AlGorithmique.

Les experts s’entendent pour reconnaître que le danger des robots artificiellement intelligents vient de ce qu’on ne peut garantir qu’ils ne se retourneront pas contre nous. L’impossibilité de programmer l’éthique et les émotions ou de définir de manière absolue le bien et le mal est une épine dans le talon de tous les docteurs Frankenstein.

En psychiatrie, l’absence de contrôle émotionnel et de maîtrise du comportement caractérise la personnalité du psychopathe. On peut donc dire que l’intelligence artificielle, sans nier l’utilité de certaines de ses applications, relâchera dans le monde des hordes de psychopathes.

À Rabelais le dernier mot : « science sans conscience n’est que ruine de l’âme ».

Daniel Laguitton

Abercorn