L’article ne peut pas être activé avec JavaScript. Vous pouvez également activer JavaScript dans votre navigateur et sur la nouvelle page.
Anthropic affirme qu’un système automatisé a égalé ou battu les meilleures soumissions humaines dans 24 comparaisons conçues pour tester les classificateurs de sécurité des armes biologiques. Il a remporté 23 de ces comparaisons et a égalisé le dernier.
Le résultat provient d’une mise à jour du 19 octobre de la feuille de route de sécurité d’Anthropic. La société affirme que les exécutions automatisées ont duré 24 à 48 heures, contre des semaines ou des mois dont disposaient les participants aux bug bounties concernés.
La comparaison couvre huit questions et trois générations de classificateurs
Anthropic a évalué le système par rapport aux travaux de primes menés entre le 20 avril et le 11 septembre 2026. Le test a utilisé les mêmes huit questions sur trois générations de classificateurs de production, produisant 24 combinaisons de questions et de classificateurs.
Ces classificateurs sont des garde-fous destinés à identifier les requêtes dangereuses. L’expérience a testé des moyens de les surmonter ; il ne s’agissait pas d’un concours général mesurant tous les travaux en matière de cybersécurité ou tous les aspects de la recherche sur la sécurité humaine.
L’entreprise a jugé que ses résultats automatisés étaient globalement plus substantiels que les résultats des primes. Il a donc marqué l’achèvement de son objectif interne d’équipe rouge, avant l’objectif du 1er janvier 2027.
Le résultat publié est plus limité qu’une affirmation générale sur la sécurité de l’IA
La comparaison est la propre évaluation d’Anthropic. Il n’a pas encore publié le suivi plus détaillé qu’il prévoit de publier, de sorte que la courte mise à jour de la feuille de route ne fournit pas une évaluation indépendante complète de la méthode.
Faire correspondre les réponses les plus fortes sur ces questions ne montre pas non plus que tous les contournements possibles ont été trouvés. Cela montre que l’automatisation a bien fonctionné dans le cadre de la comparaison spécifique choisie par Anthropic.
Le travail s’inscrit aux côtés d’autres enquêtes sur les abus. MIXED a récemment couvert les conclusions d’Anthropic sur les campagnes nuisibles assemblées à partir de requêtes individuelles ordinaires. Il s’agit là d’un mode d’échec différent du contournement d’un classificateur de risque biologique.
Pour l’instant, le résultat concret est une recherche automatisée plus rapide qui, selon Anthropic, a surpassé son benchmark bounty dans presque toutes les paires testées, avec plus de détails méthodologiques encore à venir.