Anthropic a supprimé une fonctionnalité de suivi secrète de son outil Claude Code après qu'un chercheur a exposé le code la semaine dernière. L'entreprise utilisait ce traceur depuis mars pour surveiller les utilisateurs en Chine. En réponse, Alibaba a interdit l'utilisation de cet outil par ses employés.
Un développeur web connu sous le nom de Thereallo a découvert le code caché alors qu'il effectuait des recherches sur des questions de confidentialité. Le traceur utilisait la stéganographie par prompt pour envoyer des données sur les fuseaux horaires, les serveurs proxy et d'éventuels liens avec des laboratoires d'IA chinois, sans que les utilisateurs ne s'en aperçoivent.
L'ingénieur d'Anthropic, Thariq Shihipar, a confirmé sur X que cette fonctionnalité était une expérience visant à prévenir les abus de compte et les attaques par distillation. Il a précisé que l'entreprise avait prévu de la supprimer après avoir développé des protections plus robustes.
Vendredi dernier, Alibaba a émis une note interdisant l'usage de Claude Code pour le travail, invoquant les vulnérabilités de sécurité liées au traceur. Cette décision fait suite à des accusations selon lesquelles des entreprises chinoises auraient eu recours à la distillation pour copier des modèles américains comme Claude.
Les défenseurs de la vie privée ont critiqué ce suivi secret. Thereallo a déclaré que le fait de dissimuler ce signal rend les autres affirmations de l'entreprise sur la confidentialité plus difficiles à croire.
