Limiter l'extension de l'IA
- Par Thierry LEDRU
- Le 01/02/2026
- 0 commentaire
La nécessité d'établir une IA constitutionnelle est une évidence.
Sa réalisation est utopique.
Il suffit de penser qu'aucune constitution visant à protéger la vie de la planète n'a jamais été ni écrite, ni donc encore moins adoptée. Les COP et autres réunions n'ont toujours été que des luttes contre les lobbies et leurs réussites bien trop faibles. Pour la simple raison que ça va à l'encontre de la sphère économique et que c'est elle qui dirige le monde. Alors, bien évidemment, qu'au regard des sommes pharaoniques que les maîtres de l'IA envisage, aucune limite ne sera jamais établie. Il en sera comme avec les limites physiques des ressources planétaires. Toujours plus loin...
Les écrivains de science fiction ont de "beaux jours" devant eux.
Le PDG de la société Anthropic, Dario Amodei, publie un essai intitulé "L'adolescence de la technologie" qui plaide pour l'établissement d'une IA constitutionnelle, afin d'empêcher les dérives nocives à venir des intelligences artificielles de plus en plus puissantes et autonomes.
/2024/09/14/nicolas-arpagian-66e5be37c179f515361798.png)
Article rédigé par Nicolas Arpagian
Radio France
Publié le 01/02/2026 17:00
Temps de lecture : 4min /2026/01/31/gettyimages-2207423226-697e3fea5130c060725326.jpg)
L'intelligence artificielle peut-elle devenir une menace pour l'Homme ? (VCG / VISUAL CHINA GROUP)
C'est un texte de quelques dizaines de pages disponible en anglais en accès libre(Nouvelle fenêtre). Il est signé par Dario Amodei, un docteur en physique de l'Université de Princeton (USA) et entrepreneur de 43 ans. Après avoir travaillé chez Google puis été en charge de la recherche chez OpenAI (la maison mère de ChatGP), il a cofondé en 2021 la société Anthropic à qui l'on doit notamment la série de grands modèles de langage dénommée Claude. C'est donc un poids lourd de la planète IA, tant comme chef d'entreprise que dans le domaine technique.
Il s'était déjà fait connaître à l'été 2023 en intervenant devant un Comité judiciaire du Sénat des États-Unis dédié à la vie privée, la technologie et le droit, où il s'inquiétait des possibles dangers de l'intelligence artificielle(Nouvelle fenêtre). Il affirmait que "des acteurs malveillants pourraient utiliser l'IA afin de produire des outils mortels", en assimilant ces modèles algorithmiques à des armes à part entière.
Deux ans et demi se sont écoulés, et il prolonge le trait en diffusant un appel : "L'Humanité doit se réveiller, et cet essai est une tentative – peut-être vaine, mais qui vaut la peine d'être tentée – de secouer les gens pour les réveiller."
Des IA possiblement dangereuses
Dario Amodei ne veut pas être alarmiste. Il plaide pour une préparation collective à la situation à venir. Ainsi, il annonce l'arrivée prochaine, d'ici deux ans, d'une IA qu'il qualifie de "puissante", dotée de capacités scientifiques sans commune mesure avec les performances actuelles. Elle serait capable de coordonner des systèmes complexes comme des robots ou des ordinateurs, avec une aptitude à travailler sur la durée de manière autonome et à un rythme inaccessible aux humains.
Il envisage des utilisations militaires ou offensives de ces IA qui pourraient potentiellement échapper à leurs concepteurs. Avec une faculté des algorithmes à prendre leur autonomie pour réaliser les tâches qu'ils considéreront comme prioritaires. Sans se soucier a priori du coût humain, social ou environnemental. Voire se montrer hostile si ces IA s'estiment freinées dans la réalisation de leurs tâches.
Surtout, écrit Dario Amodei, si la littérature de science-fiction (avec des histoires de robots qui se révoltent contre les inventeurs humains) fait partie du fonds documentaire pour entraîner lesdites IA.
Établir une norme suprême
En 1942, les écrivains de science-fiction Isaac Asimov et John W. Campbell ont rédigé les 3 lois de la robotique :
Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.
Dario Amodei plaide en faveur de l'élaboration d'une "IA constitutionnelle" qui généraliserait l'adoption d'un texte fondamental que chaque IA devrait impérativement respecter. En plaçant, par exemple, des valeurs protectrices de la vie humaine comme critère suprême d'une prise de décision par une intelligence artificielle.
Le mérite de cette publication, que certains qualifieront d'utopique, est donc de lancer le débat et d'inciter chacune et chacun d'entre nous à nous à s'interroger sur ce qu'on attend de ces IA et ce qu'on est prêt à leur laisser comme libre arbitre.
Ajouter un commentaire
