Des conversations privées avec l'IA Claude publiées en ligne

Des centaines de conversations privées avec Claude, le célèbre chatbot IA d’Anthropic, ont récemment été accessibles à tous en ligne. Ces conversations, contenant parfois des informations personnelles et professionnelles, sont soudainement apparues dans les résultats de recherche Google lorsque les utilisateurs effectuaient une requête spécifique.

Le problème venait du fait que les utilisateurs avaient la possibilité de partager un lien vers leur conversation. Les moteurs de recherche comme Google ont indexé ces liens, les rendant ainsi accessibles au grand public. Anthropic a depuis remédié au problème en supprimant les liens des résultats de recherche, mais de nombreuses conversations avaient déjà été enregistrées et diffusées.

Une porte-parole d’Anthropic a souligné que ce sont les utilisateurs eux-mêmes qui décident s’ils souhaitent partager leurs conversations et à quel moment. "Les liens ne peuvent être devinés ni trouvés à moins que les utilisateurs ne les partagent eux-mêmes", a-t-elle déclaré. "Lorsqu’une personne partage une conversation, ce contenu devient accessible au public et peut, à l’instar de tout autre contenu web public, être archivé par des tiers."

Attention à la "fonction de partage"

La fonction de partage de Claude avertit certes que "toute personne disposant du lien" peut voir le contenu, mais ne mentionne pas explicitement que le lien peut apparaître dans les résultats de recherche. Des utilisateurs de Reddit ont découvert ces discussions publiques, qui couvraient plus de 200 conversations réparties sur au moins 25 pages de résultats de recherche – certaines datant de quelques semaines seulement. Les conversations allaient de questions banales à des informations sensibles. Ainsi, des utilisateurs ont partagé des CV contenant des noms et des coordonnées, et ont mené des recherches confidentielles, y compris des transcriptions de conversations privées dans le domaine de la santé. Un utilisateur a même demandé à Claude comment il pouvait se transformer en "renard à neuf pattes".

Cet incident rappelle des problèmes antérieurs rencontrés par ChatGPT d’OpenAI et Grok d’Elon Musk, où des historiques de discussion avaient également été rendus publics. Google a indiqué ne pas avoir de contrôle sur les pages accessibles au public, mais que les propriétaires de sites web peuvent décider eux-mêmes si leur contenu est indexé.