Les chercheurs mettent en garde contre le fait que les outils d'IA pour concevoir des protéines nouvelles pourraient poser des risques significatifs pour la biosécurité. Les avancées dans des modèles comme AlphaFold ont accéléré l'ingénierie des protéines, soulevant des craintes de mauvaise utilisation dans la création d'agents biologiques nocifs. Les experts appellent à des réglementations plus strictes pour atténuer ces vulnérabilités.
En octobre 2025, un article dans Ars Technica a mis en lumière les préoccupations croissantes concernant le rôle de l'IA dans la conception de protéines et ses implications potentielles pour la biosécurité. Des systèmes d'IA tels que AlphaFold de DeepMind et RoseTTAFold de l'Université de Washington ont révolutionné le domaine en prédisant les structures protéiques avec une précision sans précédent, permettant la création de protéines entièrement nouvelles non présentes dans la nature.
Cette capacité, initialement saluée pour ses applications médicales comme le développement de médicaments, alarme désormais les experts en sécurité. « C'est une vulnérabilité réelle en matière de biosécurité », a déclaré Tom Inglis, chercheur en biosécurité au Centre pour la sécurité sanitaire de Johns Hopkins. Il a souligné que ces outils abaissent la barrière pour les non-experts en ingénierie protéique, potentiellement incluant des toxines ou des pathogènes. Par exemple, l'IA pourrait aider à modifier des virus ou à concevoir des enzymes pour des armes biologiques, un processus qui autrefois nécessitait des années de travail en laboratoire.
L'article note que le gouvernement américain a investi massivement dans la recherche sur les protéines pilotée par l'IA via des initiatives comme les programmes financés par la DARPA, qui visent à exploiter ces technologies pour la défense et la santé. Cependant, aucun cadre international complet n'existe pour superviser les applications à double usage. Le contexte de fond révèle qu depuis le progrès d'AlphaFold en 2020, plus de 200 millions de structures protéiques ont été prédites, démocratisant l'accès via des plateformes open-source.
Les implications s'étendent à la sécurité mondiale, avec des appels d'organisations comme l'Initiative pour la menace nucléaire à un rapport obligatoire des conceptions à haut risque. Bien que la technologie promette des remèdes pour des maladies comme le cancer, sa nature à double tranchant exige une surveillance équilibrée. Aucun incident spécifique de mauvaise utilisation n'a été signalé, mais les experts insistent sur des mesures proactives pour prévenir les menaces futures.
La discussion souligne le rythme rapide de l'IA en biologie, où l'innovation dépasse la réglementation.