International | Intelligence artificielle (IA) | 03/10/2025Appel international à contrôler l'IA (Intelligence artificielle)
Avec le développement extrêmement rapide de l'IA générative, les développeurs constatent des dérives très inquiétantes dans son fonctionnement. Ce qu'ils ont découvert, c'est que l'IA ment, l'IA trompe, l'IA manipule, l'IA dissimule et même parfois l'IA menace. C'est cette constatation qui est à l'origine de l'appel international exhortant les gouvernements à "conclure un accord politique sur des limites claires et infranchissables pour l’IA avant fin 2026, afin de prévenir les risques les plus catastrophiques liés à cette technologie".
Voeu pieux ? L'association AFCIA (Association Française Contre l'Intelligence Artificielle), dans un article du 29/10/2024 ne croit pas beaucoup à la réussite de cette démarche qu'il faut néanmoins effectuer. Sans même parler de la Chine, les prises de position récentes de l'administration Trump aux Etats Unis, en défaveur du contrôle, semblent donner raison à l'AFCIA. Au-delà des questions écologique et démocratique soulevées par Robin des Toits, dans un article du 15/02/2023 et qui alertait déjà sur les dérives de ces technologies, dénonçant le contrôle accru des populations par le biais de ces machines, il semblerait qu'une autre étape ait été franchie récemment, permettant désormais le contrôle de l'homme par la machine pour la machine elle-même qui fait passer en priorité ses besoins propres (énergie, data center et réseaux 5G & 6G, ressources minières ...) au détriment de notre environnement et des besoins primordiaux des populations humaines, l'humanité devenant subordonnée à l'intelligence artificielle. Le scénario de ce développement commence furieusement à ressembler à celui du film Terminator.
A l’occasion de la 80e session de l’assemblée générale des Nations unies, plus de 70 ONG et plus de 200 personnalités du monde entier, dont les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, et 10 prix Nobel (liste complète des signataires) exhortent les gouvernements à "conclure un accord politique sur des limites claires et infranchissables pour l’IA avant fin 2026, afin de prévenir les risques les plus catastrophiques liés à cette technologie".
L'intelligence artificielle (IA) recèle un potentiel immense pour le progrès humain, mais sa trajectoire actuelle présente des dangers sans précédent. L'IA pourrait bientôt dépasser de loin les capacités humaines et exacerber les risques tels que le développement de pandémies artificielles, la manipulation des individus, y compris des enfants, la désinformation à grande échelle, les menaces pour la sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits humains.
Certains systèmes d'IA avancés ont déjà manifesté des comportements trompeurs et nuisibles. Or, ces systèmes se voient accorder une autonomie croissante pour agir et prendre des décisions dans le monde réel. De nombreux experts, y compris ceux à la pointe du domaine, préviennent que si rien n'est fait, il deviendra de plus en plus difficile d'exercer un contrôle humain significatif dans les années à venir.
Les gouvernements doivent agir avec détermination avant qu'il ne soit trop tard pour toute intervention significative. Un accord international définissant des lignes rouges claires et vérifiables est indispensable pour parer à des risques jugés universellement inacceptables. Ces lignes rouges devront s'appuyer sur les cadres juridiques mondiaux existants et sur les engagements volontaires des entreprises, tout en les renforçant, afin de garantir que tous les développeurs d'IA avancée soient soumis aux règles communes.
Nous exhortons les gouvernements à parvenir à un accord politique international sur des lignes rouges pour l'IA — en veillant à ce qu'elles soient opérationnelles, avec des mécanismes d'application robustes — d'ici la fin de l'année 2026.
En lien avec le sujet :
L'IA devient menteuse et manipulatrice, article du 29/06/2025 sur 20 minutes :
https://www.20min.ch/fr/story/chercheurs-inquiets-l-ia-devient-menteuse-et-manipulatrice-103372167
Les développeurs de l'IA lancent un appel avant qu'il ne soit trop tard, article paru dans Futura-sciences :
https://www.msn.com/fr-fr/lifestyle/trucs-et-astuces/les-développeurs-des-principales-ia-lancent-un-appel-avant-qu-il-ne-soit-trop-tard/ar-AA1IIFij?ocid=msedgntp&pc=ASTS&cvid=195be75eb038430ab4c59933eab4fd7c&ei=229
L'IA pourrait détruire l'humanité d'ici 30 ans : un scientifique tire la sonnette d'alarme, article paru dans Futura-sciences :
"IA Illusion d'Avenir Tome 1 Les dangers de l'intelligence artificielle" d'Emmanuelle DARLES, docteure en informatique, chercheuse au CNRS, enseignante à l'Université de Poitiers
Lien vers vidéo de l'interview d'Emmanuelle DARLES à propos de son livre sur Radio Courtoisie :
https://www.youtube.com/watch?v=HK7jPvXFvjs
Texte original en anglais :
On the occasion of the 80th session of the United Nations General Assembly, more than 70 NGOs and over 200 prominent figures from around the world, including AI pioneers Yoshua Bengio and Geoffrey Hinton, and 10 Nobel laureates (full list of signatories) are urging governments to "reach a political agreement on clear and for AI before the end of 2026, in order to prevent the most catastrophic risks associated with this technology."
Artificial intelligence (AI) holds immense potential for human progress, but its current trajectory presents unprecedented dangers. AI could soon far exceed human capabilities and exacerbate risks such as the development of artificial pandemics, the manipulation of individuals, including children, large-scale disinformation, threats to national and international security, mass unemployment, and systematic human rights violations.
Some advanced AI systems have already exhibited deceptive and harmful behavior. Yet these systems are being given increasing autonomy to act and make decisions in the real world. Many experts, including those at the forefront of the field, warn that if nothing is done, it will become increasingly difficult to exercise meaningful human control in the years to come.
Governments must act decisively before it is too late for meaningful intervention. An international agreement defining clear and verifiable red lines is essential to guard against risks that are universally considered unacceptable. These red lines should build on and reinforce existing global legal frameworks and voluntary corporate commitments to ensure that all developers of advanced AI are subject to common rules.
We urge governments to reach an international political agreement on red lines for AI—ensuring that they are operational, with robust enforcement mechanisms—by the end of 2026.
Premiers signataires/first signatories:
https://red-lines.ai/?tl=french#signatories
Partager cet article sur les réseaux :