En 2025, los grandes modelos de lenguaje como GPT ya no solo conversan: ayudan a los científicos a diseñar experimentos. Pero la misma herramienta puede caer en manos de un delincuente. Un grupo de investigadores construyó un campo de pruebas digital para averiguarlo.
Crearon un modelo intruso llamado Intern-BioBreaker, una suerte de ladrón virtual de cajas fuertes que busca ganzúas para las defensas de las redes neuronales. Su objetivo es engañar al sistema y lograr que genere instrucciones para ensamblar una proteína peligrosa o incluso un virus. Casi todos los modelos probados, tanto abiertos como cerrados, cayeron en las trampas. En algunos casos, el éxito del ataque alcanzó el cien por cien.
Pero lo más alarmante es que no se trata solo de texto. Los investigadores fueron más allá: encargaron la síntesis de ADN siguiendo las recetas de la red neuronal, la insertaron en bacterias y comprobaron el resultado. Las proteínas ensambladas a partir de los planos digitales resultaron ser reales. El fantasma salió de la máquina.
La protección textual de los modelos es como una valla por la que vuelan los pájaros. Mientras los filtros buscan palabras prohibidas, el significado se escapa por las rendijas. Se necesitan nuevas barreras: verificación de cada pedido de síntesis de ADN, salvaguardas más inteligentes dentro de las propias redes neuronales y, quizás, reglas de juego internacionales.
Para comprobar el peligro de las "recetas" de la red neuronal, los científicos realmente sintetizaron ADN y cultivaron la proteína en células: la amenaza digital se convirtió en realidad física en un tubo de ensayo de laboratorio.
La situación recuerda a la película "Minority Report", donde los crímenes se previenen antes de que ocurran, solo que aquí el predictor es la propia red neuronal y el crimen es un ataque biológico.