Un modelo de aprendizaje automático entrenado con secuencias de proteínas para predecir estructuras y diseñar nuevas proteínas.Un modelo de lenguaje de proteínas es un tipo de modelo de aprendizaje automático entrenado con grandes conjuntos de datos de secuencias de proteínas, de manera análoga a cómo se entrenan los modelos de lenguaje con texto. Estos modelos aprenden los patrones estadísticos y las relaciones entre los aminoácidos de las proteínas, capturando restricciones evolutivas y estructurales. Una vez entrenados, pueden utilizarse para predecir la estructura, función e interacciones de las proteínas, así como para diseñar proteínas novedosas con propiedades deseadas.
El concepto cobró relevancia a finales de la década de 2010 y principios de la de 2020, con modelos como ProtBERT y ESM (Modelado a Escala Evolutiva) de Meta AI, basándose en los avances del procesamiento del lenguaje natural.
El modelo suele ser una red neuronal profunda, a menudo basada en arquitecturas de transformadores, que procesa las secuencias de proteínas como 'frases' de aminoácidos. Durante el entrenamiento, aprende a predecir aminoácidos enmascarados o faltantes basándose en el contexto circundante, de forma similar a como un modelo de lenguaje predice palabras faltantes. Esto obliga al modelo a internalizar las dependencias complejas entre los aminoácidos, que reflejan las reglas físicas y evolutivas que rigen el plegamiento y la función de las proteínas. Tras el entrenamiento, las representaciones internas del modelo pueden utilizarse para tareas posteriores, como la predicción de estructuras o el diseño de proteínas.
Se utiliza en el descubrimiento de fármacos, la ingeniería de enzimas y la biología sintética para predecir estructuras de proteínas y diseñar nuevas proteínas con funciones específicas, como enzimas para procesos industriales o anticuerpos terapéuticos.
Se ha demostrado que los modelos de lenguaje de proteínas aprenden información evolutiva sin haber sido entrenados explícitamente con datos evolutivos, simplemente observando los patrones en las secuencias de proteínas existentes.













