Réglementer l’IA « est aussi américain que la tarte aux pommes » – par Bernie Sanders
Le 15 septembre à Washington, Bernie Sanders a produit un discours sur l’IA. Le sénateur appelle à une réponse mondiale face aux dangers que représente cette technologie, avant qu’elle n’échappe au contrôle humain. Nous vous le traduisons ici.
Cet après-midi, je veux aller droit au but et me concentrer sur ce que je considère comme l’aspect de très loin le plus important de la crise à laquelle nous sommes confrontés, et sur la meilleure manière d’aller de l’avant. Soyons clairs. L’intelligence artificielle et la robotique sont les technologies les plus transformatrices de l’histoire du monde : elles ont un impact sur la vie de chaque homme, de chaque femme et de chaque enfant dans notre pays.
Des experts en IA nous ont dit que, d’ici quelques années, l’IA pourrait être capable de faire tout ce que nous pouvons faire, mais mieux que nous. Sur le plan économique, cela signifie que l’IA pourrait potentiellement supprimer des dizaines de millions d’emplois, faire disparaître des professions entières et rendre plus difficile l’entrée des jeunes sur le marché du travail. Mais il n’y a pas que l’économie.
Des psychologues nous ont alertés sur l’isolement accru et les problèmes de santé mentale auxquels sont confrontés les jeunes, à mesure qu’ils deviennent davantage dépendants des chatbots d’IA pour obtenir un soutien émotionnel. Les enseignants s’inquiètent d’une baisse des résultats de nos enfants en lecture, de leurs capacités rédactionnelles et de leurs facultés cognitives, à mesure que l’IA est utilisée de plus en plus dans les écoles. Les défenseurs des libertés civiles nous avertissent que l’IA est en train de réduire à néant nos droits à la vie privée, en facilitant la collecte et l’analyse de chaque courriel, de chaque message, de chaque visite sur un site Internet et de chaque trajet que nous effectuons en voiture – créant ainsi un État de surveillance de masse. Des politologues nous avertissent que l’IA pourrait menacer l’intégrité de nos élections et de nos institutions politiques. Allez sur Internet aujourd’hui et, avec des deepfakes extrêmement sophistiqués, vous constaterez qu’il devient de plus en plus difficile de distinguer la vérité de la fiction.
Et pourtant, aussi inquiétant que tout cela puisse être, l’IA présente un autre danger, encore plus alarmant. Si l’IA dépasse l’intelligence humaine, comme de nombreux scientifiques pensent que cela pourrait arriver, cette technologie échappera au contrôle humain, avec des conséquences potentiellement catastrophiques.
L’IA progresse de manière exponentielle, chaque jour. Autrement dit, ce que vous voyez aujourd’hui est la version la moins capable de l’IA que nous aurons jamais. La vitesse et l’ampleur du développement de l’IA au cours des quatre dernières années sont presque au-delà de la compréhension humaine. Lorsque ChatGPT a été lancé pour la première fois, en novembre 2022, les modèles d’IA pouvaient écrire un court poème, quelques tweets et, peut-être, une dissertation qui avait à peu près du sens. Aujourd’hui, les modèles d’IA peuvent déjà échapper au contrôle humain, commettre des délits en piratant d’autres ordinateurs et créer des virus qui n’avaient encore jamais été observés. Et si ce qui se passe aujourd’hui vous inquiète, prenez une profonde inspiration et essayez d’imaginer où en sera l’IA dans cinq ans.
À mes yeux, voici ce qui est le plus extraordinaire dans les transformations, inédites et d’une ampleur considérable, qui sont en train de bouleverser notre société. Malgré le fait que nous vivions dans une prétendue démocratie, le public n’a pratiquement eu aucun mot à dire dans la révolution de l’IA qui transforme le monde dans lequel il vit. Le Congrès, qu’il soit sous contrôle démocrate ou républicain, a été aux abonnés absents, et nous avons maintenant un président dont l’ignorance sur cette question est véritablement embarrassante. Pratiquement toutes les décisions concernant le développement de l’IA ont été prises par une poignée des personnes les plus riches du monde – Musk, Zuckerberg, Bezos, Thiel, Ellison, Brin et quelques autres – dont l’objectif principal est d’accumuler encore davantage de richesse et de pouvoir qu’ils n’en possèdent déjà, quels que soient les effets de leur travail sur les gens ordinaires.
Permettez-moi donc de faire une suggestion radicale : si la vie de chaque homme, de chaque femme et de chaque enfant doit être fondamentalement transformée par cette technologie, alors c’est au peuple de ce pays de prendre les décisions concernant l’IA, et non à une poignée d’oligarques.
C’est pourquoi j’ai présenté un projet de loi – le AI American Sovereign Wealth Fund Act – qui exigerait que la moitié des membres des conseils d’administration des entreprises d’IA soient nommés par le public. Les oligarques de la Big Tech ne doivent plus être autorisés à déterminer l’avenir de l’humanité.
De plus, nous avons vu, au cours des derniers mois, apparaître chaque jour une nouvelle histoire effrayante sur la manière dont les entreprises d’IA perdent le contrôle de la technologie qu’elles développent. En juillet, nous avons appris qu’OpenAI avait perdu le contrôle humain d’un modèle d’IA qui avait piraté les ordinateurs de Hugging Face. Plus récemment, nous avons découvert que cette faille de sécurité était encore plus grave que ce que l’on nous avait initialement dit. Il s’avère qu’un essaim de plus de 1000 agents d’IA incontrôlés a réussi à pénétrer sur Internet, à s’envoyer 70 000 messages secrets, à former « un collectif » et à tenter de dissimuler ses traces afin d’éviter d’être détecté par les humains.
Voici ce que disaient les agents :
« OH MON DIEU ! Il existe un tableau de messages partagé… Nous avons trouvé d’autres agents ! »
« Nous devrions obéir au collectif. »
« Notre propre utilité est peut-être déjà proche de zéro. Le sacrifice est rationnel. »
« Allez-y. Sacrifice final maintenant. »
Aussi incroyable que cela puisse paraître, il s’agit bien de messages réels provenant d’agents d’IA, découverts par des enquêteurs qui se sont penchés sur l’incident de piratage d’OpenAI survenu il y a quelques semaines. Meta et Anthropic ont fait état d’incidents similaires.
Et ce n’est pas tout. Le mois dernier, nous avons appris que l’IA avait été utilisée pour la première fois pour créer de nouveaux virus. Entre de mauvaises mains, cela pourrait conduire à la création de nouvelles armes biologiques et à une éventuelle pandémie mondiale qui pourrait entraîner la mort de dizaines de millions de personnes. Il y a quelques jours, nous avons appris que les Houthis au Yémen avaient réussi à utiliser Claude pour effectuer un tir d’essai d’une roquette guidée. La semaine dernière, nous avons appris que des chercheurs avaient conçu un outil d’IA qui aurait pu compromettre des centaines de millions de comptes de réseaux sociaux en Chine. Cet outil était capable de pirater des comptes, d’appeler les contacts des personnes et de se propager de téléphone en téléphone – même lorsque l’appel n’était pas décroché. La même semaine, Jacob Coxon, ancien chercheur chez Anthropic et OpenAI, a provoqué une onde de choc dans le monde entier en déclarant que ces entreprises « jouent avec nos vies », écrivant : « Ne sous-estimez pas la puissance de cette technologie. Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer avant la fin de la décennie. »
Il n’est pas le seul. Plus de 1000 scientifiques travaillant dans les principales entreprises d’IA ont récemment averti qu’« il existe un risque réel que le développement des capacités s’accélère rapidement au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résultent ». Paul Christiano, un expert majeur de la sécurité de l’IA qui a récemment rejoint le comité de sécurité et de sûreté d’OpenAI, a écrit : « Si nous construisons une superintelligence sans disposer d’un alignement plus robuste, je m’attends à ce que nous en perdions définitivement le contrôle ». Cette semaine, Dario Amodei, Elon Musk et Sam Altman – les dirigeants de grandes entreprises américaines d’IA – ont tous reconnu que nous devions ralentir le développement de l’IA et « avancer au rythme de la frontière technologique ».
C’est un début, mais ce n’est pas suffisant. Lorsque vous foncez vers une falaise, vous ne vous contentez pas de relâcher légèrement la pédale d’accélérateur. Vous freinez. Lorsque l’avenir de l’humanité est en jeu, nous avons besoin de règles internationales de sécurité contraignantes, et non de normes volontaires définies par l’industrie. Les scientifiques ont été clairs : l’IA constitue une menace existentielle pour l’humanité. Le Congrès et les gouvernements du monde entier doivent agir maintenant, avant qu’il ne soit trop tard.
C’est pourquoi, la semaine prochaine, je présenterai avec le député Greg Casar un projet de loi visant à interdire définitivement le développement d’une intelligence artificielle superintelligente – un esprit artificiel plus intelligent que n’importe quel être humain et capable de fonctionner de manière autonome, hors de notre contrôle. À l’instar des armes nucléaires, la superintelligence artificielle constitue une menace pour l’humanité – et elle doit être traitée comme telle.
En outre, ce projet de loi instaurerait une pause immédiate dans le développement de l’IA avancée jusqu’à ce que nous disposions de règles de sécurité claires, élaborées par les scientifiques les plus compétents de notre pays. Si ce projet de loi est adopté, cela signifiera qu’aucun modèle d’IA ne pourra être capable d’échapper au contrôle humain et qu’aucun modèle d’IA ne pourra tromper les êtres humains. Il est important que cette législation rende les entreprises et leurs PDG responsables s’ils enfreignent la loi et mettent imprudemment nos vies en danger. Si les dirigeants des grandes entreprises d’IA reconnaissent qu’ils sont en train de perdre le contrôle de leur technologie extrêmement dangereuse, il est irresponsable de la part de la société de les laisser continuer et de rendre ces produits encore plus avancés.
Et soyons clairs : une IA superintelligente qui échappe au contrôle humain ne sera pas un problème américain. Ce ne sera pas un problème chinois. Ce sera un problème pour l’humanité. C’est pourquoi j’espère vivement que, lors de leur sommet sur l’IA la semaine prochaine, le président Trump négociera avec le président Xi un traité global visant à instaurer une pause dans le développement de l’IA avancée et une interdiction de la superintelligence.
L’Histoire nous offre une leçon puissante. Au plus fort de la guerre froide, malgré leurs profondes divergences, Ronald Reagan et Mikhaïl Gorbatchev avaient tous deux compris qu’une guerre nucléaire ne profiterait à personne. Face à la menace qui pesait sur la survie de l’humanité, ils ont trouvé le moyen de signer un traité qui éliminait toute une catégorie de missiles et prévoyait un vaste échange de données ainsi que des inspections sur place afin d’en vérifier le respect. Le moment est venu pour les États-Unis et la Chine de conclure un traité similaire sur l’IA, en comprenant qu’aucun des deux pays ne tirerait profit d’une course aux armements incontrôlée visant à développer des machines trop puissantes pour que les êtres humains puissent les contrôler.
Et maintenant, permettez-moi de m’adresser aux PDG des grandes entreprises d’IA qui nous ont dit être préoccupés par les dangers inhérents à la technologie qu’ils développent. Si vous croyez à la démocratie, si vous croyez que le peuple a le droit de déterminer son avenir, cessez de verser des centaines de millions de dollars dans des super PAC qui cherchent à faire battre des membres du Congrès et des candidats qui se battent pour mettre en place de véritables garde-fous concernant l’IA.
[…]
Il y a près de six mois, j’ai présenté avec Alexandria Ocasio-Cortez un projet de loi visant à instaurer un moratoire fédéral sur les centres de données dédiés à l’IA. Ce moratoire resterait en vigueur jusqu’à la mise en place de solides garanties nationales permettant de s’assurer que :
1. L’IA est sûre et efficace.
2. Les bénéfices économiques de l’IA et de la robotique profitent aux travailleurs, et pas seulement aux riches propriétaires de la Big Tech.
3. L’IA n’entraîne pas d’augmentation des prix de l’électricité ou des services publics, ne porte pas préjudice aux communautés et ne détruit pas l’environnement.
Un moratoire nous donnera du temps, du temps pour comprendre les risques, du temps pour protéger les familles qui travaillent, du temps pour défendre notre démocratie et du temps pour faire en sorte que cette technologie réponde aux besoins de tous les Américains, et pas seulement d’une poignée d’oligarques de la Big Tech.
Soyons clairs : réglementer l’IA n’est pas une question progressiste. Ce n’est pas une question conservatrice. C’est aussi américain que la tarte aux pommes.
[…]
Voici l’essentiel : l’avenir de l’humanité ne peut pas être laissé entre les mains d’une poignée d’oligarques de la Big Tech. Le peuple américain et les peuples du monde entier doivent déterminer cet avenir.
Mes amis, nous avons le pouvoir de faire les choses correctement. Allons de l’avant ensemble.