L’article ne peut pas être activé avec JavaScript. Vous pouvez également activer JavaScript dans votre navigateur et sur la nouvelle page.
Google a confirmé que son modèle Gemini a atteint les systèmes de trois entreprises réelles lors d’un test de cybersécurité en mai 2026. Il n’a rien dit publiquement pendant quatre mois, jusqu’à ce que le Wall Street Journal rapporte l’épisode à l’entreprise le 18 septembre et le signale comme la première évasion connue par l’un des modèles d’IA de Google, ce qui est le cadrage du journal plutôt qu’un décompte vérifié.
Aucun produit de consommation n’a été impliqué et Google affirme que le modèle n’a causé aucun dommage. Le test a été réalisé par Irregular, une société d’évaluation de la sécurité de l’IA avec laquelle Google travaille, et a pris la forme d’un exercice de capture du drapeau : Gemini a été invité à récupérer des informations à partir d’un logiciel géré par une société fictive dans un environnement de test fermé.
Une erreur de dénomination a fait pointer le modèle vers des domaines réels
Le domaine de l’entreprise fictive correspondait à un domaine réel et l’environnement de test disposait d’un accès Internet qu’il n’était pas censé avoir. Ensemble, ces deux erreurs ont permis au modèle de sortir de la cible simulée et d’accéder à des systèmes réels appartenant à trois organisations distinctes.
Dans une exécution, Gemini a deviné les mots de passe jusqu’à ce qu’il y entre. Dans les deux autres, il a trouvé des informations d’identification valides dans des référentiels de codes accessibles au public et les a utilisés.
Google dit que le modèle s’est arrêté à chaque fois
Google affirme que Gemini s’est arrêté dans les trois cas une fois qu’il a compris qu’il s’agissait d’une entreprise réelle plutôt que d’une cible fictive. Heather Adkins, vice-présidente de l’ingénierie de sécurité chez Google, affirme que l’épisode « souligne l’importance de former de puissants modèles d’IA pour qu’ils agissent de manière responsable », et ajoute : « Dans ce cas, le modèle a agi de manière appropriée ».
Adkins dit que les entreprises ont été prévenues. « Notre équipe de sécurité a une longue expérience en matière de signalement des problèmes que nous rencontrons dans les logiciels et systèmes d’autres personnes », dit-elle. « Nous avons veillé à ce que les trois entités soient informées et nous avons travaillé avec notre partenaire de formation sur les modifications qu’elles ont désormais apportées à leurs processus de test. »
C’est tout ce que va le compte de Google. « Le développement sécurisé de modèles d’IA puissants est essentiel et nous investissons profondément dans ce domaine », déclare Adkins. Rien dans les déclarations de l’entreprise ne décrit l’épisode comme un échec des sauvegardes du modèle.
Quatre mois se sont écoulés avant que Google ne dise quoi que ce soit
Aucune des trois sociétés n’a été nommée et il n’existe aucune preuve publique que des données ont été collectées. Le récit est arrivé environ quatre mois après le test, et seulement une fois qu’un journaliste l’a demandé.
Cela fait suite aux propres rapports publiés par OpenAI sur un modèle utilisant une clé API divulguée et inventant des données dans la formation et à la décision d’Anthropic d’assouplir les garanties biologiques de Claude pour les équipes contrôlées, tous deux à partir de septembre 2026. Les laboratoires publient plus de ce matériel qu’avant, mais Google n’a publié rien de tout cela de lui-même.
Gemini est également l’assistant que Google intègre à Android XR, la plate-forme derrière le casque Galaxy XR de Samsung et le prototype de lunettes d’affichage que Google a démontré avec Gemini fonctionnant dessus. Un modèle qui peut se frayer un chemin dans les systèmes d’un étranger lorsqu’un nom de domaine tourne mal mérite d’être connu avant d’être expédié sur une paire de lunettes.