L’article ne peut pas être activé avec JavaScript. Vous pouvez également activer JavaScript dans votre navigateur et sur la nouvelle page.
Bill Gates estime qu’il est « totalement irresponsable de ne pas exiger que chaque IA soit dotée de ces garanties et capacités de surveillance », et que cette exigence doit émaner des législateurs plutôt que des laboratoires. Lorsqu’on lui a demandé si l’autorégulation était suffisante, il a répondu : « Personne ne pense que l’autorégulation soit suffisante ».
L’échange vient de son entretien sur Rencontrez la pressediffusé le 27 septembre, dont NBC News a publié la transcription complète. Kristen Welker lui avait proposé trois options : un kill switch imposé, une pause totale dans le développement de l’IA et des entreprises s’autorégulant, et elle s’est demandé comment l’IA devrait être réglementée.
Gates a répondu en expliquant ce que les gouvernements savent normalement à propos des technologies dangereuses. Ils le comprennent généralement parce qu’ils ont financé la recherche ou qu’ils ont été un client important, dit-il, « pour des bombes nucléaires, des fusées ou des choses de ce genre », alors que l’IA « a émergé du secteur privé ».
Gates demande que les forces de l’ordre et les politiciens soient autour de la table
Interrogé sur la nécessité d’une législation à Washington, Gates a répondu : « Absolument. Il faut que les forces de l’ordre et les politiciens se lancent dans le débat sur ce à quoi ressemblent les garanties et la surveillance. Et cela doit être une chose obligatoire. »
Il estime que le coût est bas. Cela représenterait « un peu de frais généraux pour l’industrie, mais pas un ralentissement dramatique de ce qu’elle fait », dit-il, et à propos du timing, il ajoute que « la seule question est de savoir si vous le faites maintenant ? »
Son argument en faveur de l’urgence repose sur les seuils de capacité qui, selon lui, ont été dépassés cette année. Le gouvernement a peu d’expertise sur « ces seuils dangereux qui ont été franchis littéralement cette année, la capacité de bio-attaque, la capacité de cyber-attaque et autres », dit Gates, et il blâme une conception qui traite l’IA comme une course : les gens disent « eh bien, allons de l’avant à toute vitesse ».
Gates affirme que l’IA est suffisamment puissante pour causer un milliard de morts
Welker a demandé si l’IA était suffisamment puissante pour mettre fin à l’humanité entière. Gates a répondu que l’IA est « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts », et qu’il n’y a jamais eu d’arme aussi puissante que « la combinaison de personnes mal intentionnées utilisant les derniers outils d’IA ».
Il considère la technologie elle-même comme une rupture avec le passé plutôt que comme un autre changement de plateforme. « Nous avons créé une espèce intelligente qui, à bien des égards, est déjà plus intelligente que nous », dit-il, et il affirme que le travail visant à la façonner appartient autant aux électeurs, aux décideurs politiques et aux universitaires qu’aux entreprises.
Un accord avec la Chine serait plus difficile que le contrôle des armements nucléaires
Lorsqu’on lui a demandé si les limites imposées aux armes nucléaires pendant la guerre froide offraient un modèle pour un accord entre les États-Unis et la Chine sur l’IA, Gates a répondu oui, puis a immédiatement nuancé : « C’est plus difficile que cela ne l’était. » Les armes nucléaires avaient des caractéristiques qu’il qualifie d’uniques, « l’accès aux matières fissiles, la capacité de voir les tâches », et il dit que les États-Unis ont laissé expirer une grande partie de ce cadre.
Rien de tout cela n’est un projet de loi et Gates n’occupe aucun poste. Les exigences du type qu’il décrit n’existent jusqu’à présent que par morceaux, depuis la Californie ordonnant des travaux sur un coupe-circuit d’IA et des auditeurs sur place dans des laboratoires frontaliers jusqu’à un projet de loi fédéral qui interdirait purement et simplement l’IA superintelligente. Gates plaidait pour quelque chose de plus étroit et de plus ennuyeux que l’un ou l’autre : que chaque IA effectue une surveillance et que quelqu’un extérieur à l’entreprise puisse insister là-dessus.