Le PDG d'Anthropic, Dario Amodei, a déclaré que l'entreprise ne se pliera pas à la demande du Pentagone de supprimer les garde-fous de ses modèles d'IA, malgré les menaces d'exclusion des systèmes de défense. Le différend porte sur la prévention de l'utilisation de l'IA dans des armes autonomes et la surveillance intérieure. L'entreprise, qui dispose d'un contrat de 200 millions de dollars avec le Département de la Défense, souligne son engagement envers une utilisation éthique de l'IA.
Anthropic, une startup d'IA soutenue par Google et Amazon, est en conflit avec le Département de la Défense des États-Unis concernant les garde-fous de sa technologie d'IA, en particulier son modèle Claude. Jeudi, le PDG Dario Amodei a annoncé que l'entreprise ne pouvait pas accéder aux exigences du Pentagone, qui incluent la suppression de restrictions empêchant l'IA d'être utilisée pour cibler des armes de manière autonome ou pour une surveillance intérieure massive aux États-Unis. Le Pentagone a un contrat avec Anthropic d'une valeur allant jusqu'à 200 millions de dollars. Cependant, le département insiste pour ne contracter qu'avec des entreprises d'IA autorisant « tout usage légal » de leur technologie, ce qui nécessite la suppression de tels garde-fous. Amodei a noté que des usages comme la surveillance de masse et les armes totalement autonomes n'ont jamais fait partie de leurs contrats et ne devraient pas l'être maintenant. Il a révélé des menaces du département de retirer Anthropic de ses systèmes, de la désigner comme risque dans la chaîne d'approvisionnement et d'invoquer le Defense Production Act pour imposer les changements. « Quoi qu'il en soit, ces menaces ne changent pas notre position : nous ne pouvons pas en toute bonne conscience accéder à leur demande », a déclaré Amodei. En réponse, le porte-parole du Pentagone Sean Parnell a publié sur X que le département n'a aucun intérêt à utiliser l'IA pour la surveillance de masse des Américains ou à développer des armes autonomes sans intervention humaine. « Voici ce que nous demandons : Autoriser le Pentagone à utiliser le modèle d'Anthropic pour tous les usages légaux », a dit Parnell. Le Pentagone n'a pas immédiatement répondu aux demandes de commentaires sur la déclaration d'Anthropic. Amodei a exprimé l'espoir que le département reconsidère sa position, compte tenu de la valeur de la technologie d'Anthropic pour les forces armées, et s'est offert à faciliter une transition en douceur si nécessaire. Un porte-parole d'Anthropic a ajouté que l'entreprise est prête à poursuivre les discussions et s'engage pour la continuité opérationnelle du Département et des combattants américains.
