Branle-bas de combat dans le monde de l’IA : OpenAI, la société derrière ChatGPT, vient de jeter l’éponge sur la création d’un outil capable de distinguer, sans se tromper, un texte écrit par un humain d’un texte rédigé par une intelligence artificielle. Avouons-le : ça a de quoi secouer.
Coup d’arrêt inattendu : le classificateur était-il mission impossible ?
Le 20 juillet dernier, OpenAI, fameux créateur de ChatGPT, a pris une décision lourde de conséquences : stopper (définitivement) le développement de son outil destiné à faire la différence entre de l’écriture humaine et de l’IA. La raison de ce renoncement ? Un taux de précision désespérément bas, bien loin de ce qu’on pourrait attendre d’une entreprise réputée pour sa maîtrise technologique.
Il faut dire qu’avec le lancement fulgurant de ChatGPT en novembre 2022, le secteur tout entier a été ébranlé. Capable de produire des textes d’allure humaine et de dialoguer avec brio, ChatGPT a rapidement attiré l’attention… et les craintes :
- Les gouvernements sont sur le pied de guerre.
- Les organismes publics de régulation réfléchissent en boucle.
- Le monde académique et scolaire lance des signaux d’alarme.
Pour l’instant, personne ne sait comment réguler, réglementer et surtout maîtriser l’utilisation de cette technologie. Mais l’idée de doter le public d’un détecteur d’IA – avouez, ça aurait eu de la gueule ! – semblait être un premier pas rêvé.
Un outil certes prometteur… mais surtout en panne de fiabilité
Fin janvier 2023, place au lancement officiel du fameux OpenAI AI Text Classifier. Sa mission ? Distinguer les textes générés par une IA de ceux écrits par un humain. D’emblée, l’approche se veut modeste et prudente : OpenAI explique vouloir recueillir des retours et promet des méthodes ultérieurement améliorées (on espérait…)
Mais, dès le début, le bât blesse : le « classeur » d’OpenAI s’avère à peine efficace à 26 % ! Même si la société suggérait que d’autres méthodes, associées à cet outil, pourraient renforcer son efficacité, le doute plane. Difficile de s’en remettre à un détecteur d’IA qui a plus de chances de se tromper que de tomber juste.
Le principe de fonctionnement du classificateur reposait sur une estimation de probabilité : chaque texte était jugé selon plusieurs degrés allant de « très improbable » à « probable » en passant par « incertain ». Mais admettons-le : ça ne fait pas franchement avancer le schmilblick !
- Pas de verdict définitif : la source restait floue.
- Risques d’erreurs inversées, où un texte humain se voyait étiqueté comme généré par la machine.
- Difficulté majeure : impossible d’améliorer significativement le taux de précision, jugé trop bas pour être vraiment utile.
Les perspectives d’OpenAI : stop ou encore ?
Devant tant d’incertitudes, OpenAI a finalement choisi : clap de fin pour l’espoir d’un détecteur de texte IA fiable. Dans une déclaration publique, la société a confirmé l’abandon du projet, estimant préférable d’explorer « des techniques de provenance plus efficaces » à l’avenir, tout en assurant vouloir s’engager dans le développement de mécanismes permettant de déterminer si un contenu audio ou visuel est, lui aussi, généré par une IA. Bref, on change de terrain de jeu !
L’avenir incertain de la régulation : que nous réserve la suite ?
La planète entière reste pour l’instant en pleine réflexion sur la meilleure façon de réguler l’intelligence artificielle, qu’il s’agisse de ChatGPT, des nouveautés comme Gemini de Google, ou de toute avancée du domaine. Ironie : même ceux qui ont ouvert la boîte de Pandore peinent à nous fournir les clés pour la refermer.
À l’heure où la crainte se mêle à la fascination, une question persiste : est-il simplement possible, avec nos technologies, de percer le mystère qui sépare l’humain de la machine ? En attendant une réponse (et un outil miracle), un conseil : gardez l’esprit critique et méfiez-vous des textes trop parfaits pour être honnêtes ! Après tout, qui sait ce qui se cache derrière les jolies tournures et l’orthographe irréprochable ?