L’article ne peut pas être activé avec JavaScript. Vous pouvez également activer JavaScript dans votre navigateur et sur la nouvelle page.
Le sénateur Bernie Sanders et le représentant Greg Casar ont présenté le 23 septembre la loi sur l’interdiction de la superintelligence artificielle, un projet de loi qui interdirait purement et simplement le développement de l’IA superintelligente et le punirait d’une peine de prison pouvant aller jusqu’à 20 ans. Il créerait également un département d’intelligence artificielle au niveau du cabinet et suspendrait les travaux sur les systèmes les plus avancés jusqu’à ce que ce département rédige des règles de sécurité.
Le communiqué de Casar définit la superintelligence artificielle comme une IA qui « dépasse les performances et les capacités cognitives humaines dans la plupart des domaines, ou qui possède des capacités suffisantes pour détruire ou priver l’humanité de son pouvoir, y compris en renversant le gouvernement fédéral ». Les entreprises qui franchiraient cette ligne s’exposeraient à ce que les promoteurs appellent la peine de mort.
Les modèles avancés nécessiteraient l’approbation fédérale avant l’expédition
Une fois que le nouveau département existera et que ses règles seront écrites, les systèmes d’IA avancés nécessiteront l’approbation fédérale avant leur déploiement, et le département surveillera, supervisera et fera respecter la conformité. Quatre capacités seraient immédiatement stoppées : le développement d’armes biochimiques, l’IA qui construit une nouvelle IA à la place des humains, la neutralisation des commandes d’arrêt et l’exécution de cyberattaques non autorisées.
La pause est la moitié qui mordrait sur tout ce qui se construit aujourd’hui. Sanders affirme que le projet de loi « mettrait en place une pause immédiate dans le développement avancé de l’IA jusqu’à ce que des règles de sécurité claires soient mises en place », rédigé par ce qu’il appelle les scientifiques les plus compétents du pays, et aucun des deux sponsors n’a indiqué combien de temps cette rédaction prendrait.
L’interdiction ne vise pas non plus à s’arrêter à la frontière américaine. Le projet de loi ordonne au gouvernement de conclure des accords internationaux et de contrôler les exportations visant à empêcher la construction d’une superintelligence où que ce soit, ce qui dépend entièrement de l’accord des autres gouvernements.
Sanders veut des règles contraignantes, pas des engagements
« Lorsque vous courez vers une falaise, vous ne vous contentez pas d’appuyer sur l’accélérateur. Vous freinez », explique Sanders. « Lorsque l’avenir de l’humanité est en jeu, nous avons besoin de règles de sécurité internationales contraignantes, et non de normes volontaires de l’industrie. »
Casar présente le même argument en ce qui concerne qui construit: « Notre projet de loi interdit le développement de la superintelligence artificielle et milite en faveur d’accords internationaux afin que personne, où que ce soit, ne construise une IA trop puissante pour être contrôlée par les humains. » Cela place le projet de loi aux côtés de l’ordonnance californienne prévoyant un coupe-circuit de l’IA et des auditeurs sur place dans les laboratoires frontaliers, une autre tentative de remplacer les promesses de l’industrie par des obligations que quelqu’un peut faire respecter.
La définition ne toucherait rien à la vente. Il couvre des systèmes qui surpassent les performances cognitives humaines dans la plupart des domaines, ce qui n’est pas une affirmation d’un produit expédié, de sorte que l’assistant dans une paire de lunettes intelligentes ou un chatbot sur un téléphone se trouve bien en dehors de celui-ci.
Rien ne prend effet tant que le Congrès ne l’adopte
Il s’agit d’un projet de loi présenté, et il ne deviendra loi que si le Congrès l’adopte et qu’un président le signe. Les sponsors n’ont nommé aucun co-sponsor républicain, et aucun vote ni audience en commission n’a été programmé.
Casar dirige son argument directement vers la Maison Blanche. « Les experts préviennent que la superintelligence de l’IA, exercée par de mauvais humains ou par une IA malveillante, pourrait tuer un nombre incalculable de personnes. Mais Donald Trump dit qu’il veut l’encourager. Quelque chose doit changer. » Interdire une technologie que personne n’a encore construite est un projet de loi plus facile à rédiger qu’à adopter.