L’article ne peut pas être activé avec JavaScript. Vous pouvez également activer JavaScript dans votre navigateur et sur la nouvelle page.
Sam Altman a déclaré au Conseil de sécurité des Nations Unies le 23 septembre qu’aucun niveau de risque catastrophique lié à l’IA n’est acceptable, jusqu’à un dixième de pour cent. « Peu importe que les gens évaluent le risque de catastrophe à 10 %, ou 1 %, ou 12 %, ou 0,1 % », lit-on dans la transcription publiée par OpenAI. « Aucun de ces niveaux n’est acceptable. »
Altman a posé une condition à la formation: « Et nous ne devons pas former de modèles dont nous ne pouvons pas présenter des arguments extrêmement solides que nous serons capables de garder sous contrôle humain. »
OpenAI a publié le texte sous forme de remarques telles qu’elles ont été livrées. Altman n’a mis aucun seuil à la place de ceux qu’il a rejetés et n’a nommé aucun système.
Altman dit qu’OpenAI a déjà ralenti
« Nous avons ralenti unilatéralement dans le passé. Nous le ferons à l’avenir », a déclaré Altman, après avoir déclaré au Conseil qu’OpenAI ne pensait pas être engagé dans une course où il serait incapable de le faire. Il s’agit d’une affirmation concernant la propre conduite de l’entreprise, et la transcription ne précise pas de quel communiqué il parlait.
Il a fait valoir le même point au reste du secteur : « L’industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop importants et qu’ils semblent trop importants pour les ralentir. » Battre ses rivaux avec le rythme, a-t-il déclaré, n’est pas une raison pour prendre des décisions irréfléchies.
Les systèmes auto-améliorés sont là où il fixe la limite
Altman a désigné l’auto-amélioration récursive comme le point où l’inquiétude s’accentue. « Cette préoccupation devient particulièrement importante à mesure que nous abordons des systèmes qui peuvent s’améliorer eux-mêmes ainsi que leurs futures versions », a-t-il déclaré, avant d’ajouter : « Ce moment exige une extrême prudence. »
Il a présenté deux modes de défaillance au lieu de trois, affirmant qu’il était largement d’accord avec le professeur Bengio mais qu’il en dirait plutôt deux. L’une est de perdre le contrôle de l’avenir au profit de l’IA ; l’autre concentre trop de pouvoir dans trop peu de mains, et à ce sujet, il a déclaré qu’aucune personne, entreprise ou pays ne devrait être en mesure d’utiliser les modèles d’IA les plus puissants pour imposer sa vision du monde à tout le monde.
Le record de mathématiques était sa preuve du rythme
Pour affirmer que le calendrier s’est compressé, Altman a parcouru quatre étés. Il y a trois étés, les modèles étaient bons en mathématiques à l’école primaire, il y a deux étés, ils étaient plutôt bons aux concours de lycée, l’été dernier, ils ont atteint le niveau de la médaille d’or au concours international de mathématiques le plus prestigieux et, il y a quelques semaines, l’un d’entre eux a résolu un problème du prix du millénaire, les équations de Navier-Stokes.
Ces équations, a-t-il noté, sont utilisées pour la conception d’avions, les prévisions météorologiques et l’étude du flux sanguin.
Ce qu’il a demandé au Conseil, ce sont des normes internationales communes sur la mesure des capacités, l’évaluation des risques et le signalement des incidents, ainsi que des canaux sécurisés entre les gouvernements et les opérateurs d’infrastructures, et il a averti que les décisions les plus importantes ne peuvent pas être laissées aux seuls laboratoires de San Francisco. Il n’a approuvé aucune loi particulière, ce qui différencierait cette demande du projet de loi du sénateur Bernie Sanders et du représentant Greg Casar qui interdirait purement et simplement l’IA superintelligente.
Sur la place de l’entreprise dans ce projet, il a été bref : « Nous sommes peut-être l’un des bâtisseurs de cette technologie, mais nous ne sommes pas les héros de cette histoire. »