Les experts soutiennent que, bien que la technologie actuelle de l'IA ne puisse pas concevoir indépendamment des bioweapons mortelles, les avancées rapides en intelligence artificielle et en biotechnologie soulèvent de sérieuses préoccupations futures. Une analyse de New Scientist explore comment des outils d'IA comme AlphaFold transforment la biologie, potentiellement permettant un usage malveillant par des acteurs mal intentionnés. Les mesures de biosécurité doivent évoluer pour faire face à ces menaces émergentes.
L'intersection de l'intelligence artificielle et de la biotechnologie accélère le progrès scientifique, mais elle introduit aussi des risques liés au développement d'armes biologiques. Selon un article récent de New Scientist, les systèmes d'IA ne sont pas encore assez sophistiqués pour créer de manière autonome des pathogènes mortels. Cependant, le potentiel d'un usage malveillant futur ne peut être ignoré.
L'IA a déjà réalisé des avancées significatives en biologie. Par exemple, AlphaFold de DeepMind, lancé en 2020, a résolu le problème de longue date de la prédiction de la structure des protéines, permettant aux chercheurs de concevoir de nouvelles protéines à une vitesse sans précédent. Cet outil a démocratisé l'accès aux données biologiques complexes, aidant à la découverte de médicaments et au développement de vaccins. Pourtant, les mêmes capacités pourraient être exploitées. L'article note que l'IA pourrait aider à engineer des virus ou des bactéries avec une virulence accrue, bien que les modèles actuels nécessitent une supervision humaine et manquent de l'intégration complète nécessaire pour une création indépendante d'armes biologiques.
Les experts en biosécurité soulignent que la principale préoccupation n'est pas une IA dévoyée, mais des humains utilisant l'IA pour abaisser les barrières au bioterrorisme. Une étude de 2023 du Centre for the Governance of AI a démontré que des modèles de langage larges comme GPT-4 pourraient fournir des instructions étape par étape pour synthétiser des armes chimiques, surpassant les chimistes humains dans certaines tâches. En étendant cela à la biologie, l'IA pourrait optimiser des séquences génétiques pour des pathogènes, facilitant la production d'agents dangereux par des non-experts.
Yoshua Bengio, un chercheur leader en IA, met en garde dans l'article : « Nous n'y sommes pas encore, mais nous pourrions y arriver bientôt. » Il met en lumière la nature à double usage des outils d'IA, qui bénéficient à la société tout en posant des risques. De même, le bioéthicien Kevin Esvelt fait remarquer que les modèles d'IA open-source pourraient proliférer sans garde-fous, amplifiant les menaces mondiales.
L'article fournit un contexte sur les efforts réglementaires. Aux États-Unis, la Convention sur les armes biologiques manque de mécanismes d'application, et les directives spécifiques à l'IA sont naissantes. L'ordre exécutif de 2023 de l'administration Biden sur la sécurité de l'IA inclut des dispositions pour la recherche à double usage, mais une coopération internationale est nécessaire. Les experts appellent à l'ajout de filigranes sur les conceptions biologiques générées par l'IA et à la restriction d'accès aux modèles sensibles.
Bien qu'il n'y ait pas de crise immédiate, le délai pour s'inquiéter est court. À mesure que l'IA s'intègre plus profondément dans les laboratoires — avec des outils comme Rosalind, une IA pour l'analyse d'ADN — des mesures proactives sont essentielles. L'article conclut que la vigilance, et non la panique, devrait guider la politique, en veillant à ce que les bénéfices de l'IA l'emportent sur ses dangers.
Cette analyse souligne la nécessité de perspectives équilibrées : l'innovation propulse le progrès, mais un avancement non contrôlé pourrait permettre un usage catastrophique.