Suite aux révélations de la semaine dernière qui ont suscité une inquiétude mondiale, Anthropic a restreint l'accès à sa puissante IA Mythos, capable de détecter des vulnérabilités en cybersécurité, à un groupe sélectionné d'entreprises dans le cadre du projet Glasswing, dont Amazon Web Services, Apple et Google, après qu'une fuite accidentelle a soulevé des préoccupations en matière de sécurité nationale.
Mythos, apparu publiquement le mois dernier via des contenus web non sécurisés et des accès à des forums privés, est capable d'identifier des milliers de failles critiques et de haute gravité dans les logiciels et les systèmes d'exploitation. Anthropic a invoqué des risques pour les économies, la sécurité publique et la sécurité nationale, choisissant un accès contrôlé plutôt qu'un déploiement complet. Dans le cadre du projet Glasswing, des sociétés comme Amazon Web Services, Apple, Google, JPMorgan Chase, Microsoft et NVIDIA testent l'outil pour détecter des bugs dans leurs systèmes. Les experts en sécurité sont partagés : Davi Ottenheimer a qualifié l'outil de légitime mais présenté comme une menace ; Kevin Curran, de l'Université d'Ulster, s'est interrogé sur la capacité de l'IA à devancer les hackers humains ; Bobby Holley, de Firefox, a souligné qu'elle avait trouvé 271 vulnérabilités dans le navigateur, toutes détectables par des experts humains. L'AI Security Institute estime qu'elle n'est efficace que contre de petits systèmes faiblement protégés, bien qu'elle progresse rapidement. Alan Woodward, de l'Université de Surrey, a salué sa rapidité pour les attaquants mais a noté que les défenses restent viables. Des experts comme Holley et Curran voient un potentiel proactif pour les développeurs de logiciels à mesure que ces outils se multiplient.
