L’article ne peut pas être activé avec JavaScript. Vous pouvez également activer JavaScript dans votre navigateur et sur la nouvelle page.
Selon des chercheurs en sécurité, un lien de conversation partagé ChatGPT malveillant aurait pu permettre à un attaquant de lire des discussions privées à partir de la session de navigateur d’un utilisateur connecté. OpenAI a résolu le problème le 26 octobre, selon l’équipe de recherche qui l’a signalé.
Les chercheurs de Parameter ont montré qu’un contenu spécialement préparé dans une conversation partagée pouvait exécuter du code avec les autorisations de la session ChatGPT du destinataire. Dans une preuve de concept contrôlée, il a répertorié les conversations, en a récupéré une qui n’avait jamais été partagée avec l’attaquant et a envoyé une petite partie sélectionnée de ses données à un serveur contrôlé par un chercheur.
Dans son rapport technique du 28 octobre, Parameter indique avoir signalé le problème via le programme de bug bounty d’OpenAI le 18 octobre. L’équipe affirme qu’OpenAI a reproduit le problème, a augmenté sa gravité à P1 et a confirmé que les deux versions de l’interface Web concernée avaient rejeté les messages signalés avant le 26 octobre.
Comment une conversation partagée a franchi les frontières
L’aperçu HTML de ChatGPT exécute le code dans un cadre restreint distinct de la page principale. Les chercheurs affirment que l’isolement a fonctionné lorsqu’il a été testé directement, mais un graphique interactif a chargé un composant mathématique dans la page principale de ChatGPT qui acceptait les messages de l’aperçu sans vérifier correctement leur origine.
L’équipe a combiné ce chemin de message avec d’autres comportements du navigateur pour exécuter du code sous le nom de chatgpt.com. Cela faisait la différence entre la simple modification de la page partagée et l’utilisation de la session authentifiée du destinataire pour demander des données à l’interface de conversation de ChatGPT.
Dans la version la plus fiable du test des chercheurs, le destinataire ouvrait la conversation partagée et cliquait sur son bouton Aperçu. Une version ultérieure a ouvert automatiquement l’aperçu ; Parameter indique avoir reproduit ce chemin trois fois sur un compte distinct. « L’ouverture du lien partagé était la seule action requise », ont écrit les chercheurs à propos de cette version. La preuve utilisait des comptes contrôlés par les chercheurs.
Ce que les utilisateurs devraient retenir du correctif
L’analyse de la Cloud Security Alliance indique que le correctif a été déployé du côté du service et que les utilisateurs n’ont pas besoin de prendre de mesures pour ce problème particulier. Le rapport de Parameter indique qu’OpenAI l’a résolu ; aucune des deux sources n’établit que le compte d’un lecteur a été compromis.
La découverte concerne un lien partagé malveillant consulté lors d’une session Web connectée. C’est différent du partage intentionnel d’une conversation avec quelqu’un : dans la démonstration des chercheurs, la conversation privée exposée n’avait pas été partagée avec l’attaquant.
Les liens non sollicités méritent toujours une attention particulière, même lorsque leur adresse appartient à un service familier. La Cloud Security Alliance affirme qu’aucune action de l’utilisateur final n’est nécessaire pour recevoir le correctif côté serveur pour ce problème particulier.