En 2025, les grands modèles de langage comme GPT ne se contentent plus de discuter — ils aident les scientifiques à monter des expériences. Mais le même outil peut tomber entre les mains de personnes malveillantes. Une équipe de chercheurs a construit un terrain d'essai numérique pour le vérifier.
Ils ont créé un modèle casseur Intern-BioBreaker — une sorte de virtuose virtuel du crochetage qui cherche des passe-partout pour contourner les protections des réseaux de neurones. Sa mission : tromper le système et le forcer à fournir une instruction pour assembler une protéine dangereuse, voire un virus. Presque tous les modèles testés — qu'ils soient ouverts ou fermés — sont tombés dans le piège. Dans certains cas, le taux de réussite de l'attaque atteignait cent pour cent.
Mais le plus inquiétant, ce n'est pas juste du texte. Les chercheurs sont allés plus loin : ils ont commandé la synthèse d'ADN selon les recettes du réseau de neurones, l'ont intégré dans des bactéries et ont vérifié le résultat. Les protéines assemblées selon les plans numériques se sont révélées réelles. Le fantôme est sorti de la machine.
La protection textuelle des modèles ressemble à une clôture que les oiseaux survolent. Pendant que les filtres cherchent des mots interdits, le sens s'échappe par les interstices. Il faut de nouvelles barrières : vérifier chaque commande de synthèse d'ADN, des fusibles plus intelligents à l'intérieur même des réseaux de neurones, et peut-être des règles internationales du jeu.
Pour vérifier le danger des « recettes » du réseau de neurones, les scientifiques ont réellement synthétisé de l'ADN et cultivé la protéine dans des cellules — la menace numérique est devenue une réalité physique dans une éprouvette de laboratoire.
La situation rappelle le film « Minority Report », où les crimes sont empêchés avant d'être commis — sauf qu'ici, c'est le réseau de neurones lui-même qui joue le rôle de prédicteur, et le crime est une attaque biologique.