Une initiative de recherche dirigée par Microsoft, connu sous le nom de Projet de paraphrasea démontré que l’intelligence artificielle peut être utilisée pour repenser les toxines biologiques de manière à échapper au logiciel actuel de dépistage de la biosécurité. Le projet, détaillé dans un article publié dans la revue Sciencea identifié un « zéro-jour biologique » – une vulnérabilité auparavant inconnue – et a développé une défense pour elle en appliquant des principes de la cybersécurité. La préoccupation initiale, soulevée par Eric Horvitz de Microsoft, a été que les outils d’IA open-source pouvaient théoriquement être utilisés pour réingéir les toxines qui seraient invisibles pour les systèmes de biosécurité existants.
Comment fonctionnent la biologie synthétique et ses garanties
Le domaine de la biologie synthétique permet aux scientifiques de commander des brins d’ADN imprimés sur mesure des sociétés de synthèse. Avant qu’une entreprise expédie le matériel génétique, il gère la séquence d’ADN demandée via un logiciel de dépistage de biosécurité. Ce logiciel compare la séquence avec les bases de données régulées de menaces connues, telles que les toxines ou les agents pathogènes, pour éviter une mauvaise utilisation. L’International Gene Synthesis Consortium (IGSC) aide à organiser ces bases de données. Cependant, à mesure que les outils d’IA deviennent plus puissants, le risque augmente que quelqu’un puisse concevoir une nouvelle protéine qui semble inoffensive pour le logiciel mais qui se comporte comme une toxine une fois créée.
Tester le système avec un jour zéro biologique
Pour enquêter sur ce risque, Horvitz s’est associé au scientifique appliqué Microsoft, Bruce Wittmann. Ils ont utilisé un modèle d’IA appelé Evodiff pour générer des milliers de variantes synthétiques de la puissante toxine ricine. L’objectif n’était pas de rendre la toxine plus dangereuse, mais de tester les limites des systèmes de dépistage actuels. Le processus s’apparente à paraphraser une phrase: le sens (la fonction de la protéine et les sites actifs) reste le même, mais les mots (la séquence d’acides aminés) changent. Lorsque ces séquences reformulées ont été testées par rapport aux systèmes de dépistage de deux principales sociétés de synthèse d’ADN, Twist Bioscience et les technologies d’ADN intégrées, elles sont passées par non-détectées.
« Je ne pense pas que nous ayons nécessairement été surpris qu’il ait navigué à travers. Tout ce qui peut être utilisé pour de bon peut être utilisé pour le mauvais. Mais fournir une solution aide à éviter une réaction instinctive qui empêche l’utilisation de ces outils pour de bon. »
Wittmann a déclaré au Microsoft Research Blog.
Développer une défense en utilisant un cadre de cybersécurité
Après avoir prouvé la vulnérabilité, l’équipe a travaillé pour créer une solution. Jake Beal, un scientifique de RTX BBN Technologies, a été chargé de développer des garanties numériques qui pourraient attraper ces toxines reformulées. Le projet a adopté un cadre du Cybersecurity Playbook, traitant la vulnérabilité biologique comme un logiciel zéro jour et organisant une réponse similaire à une équipe d’intervention d’urgence (CERT). La solution consistait à développer des algorithmes de détection mis à jour. Le changement de clé était d’aller au-delà du simple coup de vérification à quoi ressemble une séquence d’ADN et vers une compréhension sémantique plus profonde de ce que fait réellement la protéine qu’il code. En formant les systèmes de dépistage pour reconnaître les caractéristiques fonctionnelles d’une menace, ils ont pu détecter les variantes générées par l’IA.
Le chemin à terme et la divulgation responsable
Le projet a démontré avec succès à la fois l’existence de la vulnérabilité et un chemin viable pour le corriger. Le résultat a été un soulagement pour les sociétés de synthèse d’ADN impliquées.
« Le public dans son ensemble veut pouvoir faire confiance que les entreprises utilisant ces technologies incroyables pour construire de nouveaux produits et services sont sûres et efficaces, et ont leur meilleur intérêt.
a déclaré James Diggans, vice-président de la politique et de la biosécurité chez Twist Bioscience. Le projet de paraphrase a établi un protocole pour les outils de biosécurité en équipe rouge et a géré une réponse globale à une menace de biosécurité compatible AI. Il sert également de modèle à la façon de publier des recherches sensibles d’une manière qui équilibre l’ouverture avec prudence. Les chercheurs sont clairs que ce n’est que le début. À mesure que la technologie progresse, les mesures de protection doivent évoluer avec elle. Le projet met en évidence la nécessité d’une approche continue et adaptative de la biosécurité.
« Il s’agit de ce que fait la séquence, pas seulement à quoi elle ressemble. Même si deux séquences semblent différentes, elles pourraient toujours faire la même chose – comme provoquer des maladies ou effectuer le même travail dans une cellule. »
dit Horvitz.
