Белковая языковая модель — это как повар, который учился по тысячам рецептов и теперь сочиняет новые блюда. Иногда он увлекается и сыплет соль в каждое блюдо, потому что в одной удачной книге её было много. В белках такое повторение — не просто некрасиво: одинаковые куски цепочки делают белок хрупким, он не может свернуться в нужную форму и не работает.

Учёные заметили эту проблему у двух популярных моделей — ESM-3 и ProtGPT2. Они придумали способ подсказывать модели, как избегать повторов, не портя сам белок. Для этого они собрали пары примеров: один белок с повторами, другой без, но оба одинаково хорошо сворачиваются. Разница только в повторяемости, и модель учится видеть именно её.

Метод назвали UCCS — управляемое контрастное управление. Он не переучивает модель, а добавляет специальный «вектор» — направление, которое уводит генерацию от повторов. В тестах на базах белков CATH, UniRef50 и SCOP новый подход снизил повторы заметно лучше, чем штрафы при генерации, и при этом сохранил высокую уверенность AlphaFold в правильной структуре.

Теперь у учёных есть инструмент, который делает белковую генерацию надёжнее. Это шаг к тому, чтобы проектировать новые белки для лекарств и материалов без страха получить бесполезную кашу из повторов.