Переводчик учит язык не по учебнику, а слушая живую речь и сразу видя, что люди делают в ответ на слова. Именно так работает новый метод C3P для чтения бактериальной ДНК. Обычные геномные модели пытаются выучить правила, просто «перечитывая» миллиарды букв генетического кода — и часто путаются. Причина в том, что регуляторные участки ДНК эволюционируют быстро и хаотично, как уличный сленг. C3P же сопоставляет промоторы (участки ДНК, которые запускают считывание гена) с теми белками, что в итоге получаются. Белковые языковые модели уже хорошо понимают «язык» белков — их трёхмерные структуры и функции. Вот этот богатый опыт и становится учителем для ДНК.
После обучения на 88 миллионах пар «промотор — белок» из бактерий модель стала в разы лучше предсказывать, где и как регулируются гены. Но самое интересное — она научилась находить гены-напарники в геноме вообще без подсказок (это называется zero-shot). Обычные модели в такой задаче работают почти наугад, а C3P сразу выдаёт осмысленные группы. Так переводчик, разобравшись в связи слов и действий, без словаря понимает, что «дождь» и «зонт» в разговоре часто идут рядом.
Авторы проверили, как улучшается качество с ростом данных и вычислительных мощностей. Оказалось, что C3P достигает высокой точности при гораздо меньших затратах, чем ведущие геномные модели. Метод можно применять широко, не дожидаясь суперкомпьютеров. Перспектива — расшифровать регуляцию генов у миллионов видов бактерий, просто имея на руках их геномы. Без единого эксперимента в лаборатории.
как её написали авторы, на английском arXiv:2605.25242
Despite the increasing scale of genome language models (gLMs), their ability to decode the function of regulatory sequences remains unclear. gLM pretraining relies on sequence reconstruction, which may struggle due to the noisy, rapidly evolving nature of regulatory DNA. Self-supervised contrastive approaches provide a promising alternative. Inspired by language-image architectures like CLIP, we introduce contrastive promoter-protein pretraining (C3P). By learning to align promoters to their corresponding proteins, we leverage the rich representations of proteins learned by protein language models as supervisory signal for the learning of promoter representations. After training on 88 million bacterial promoter-protein pairs, we evaluate the predictive power of C3P-learned promoter representations for inference of curated regulatory annotations, finding multi-fold improvement over leading gLMs. We also introduce zero-shot co-regulated gene retrieval, the ability to find co-regulated genes in a genome using no experimental data. We find that compared to a randomly initialized baseline, C3P training consistently provides significant zero-shot performance gains, unlike gLMs. Scaling analysis reveals the potential for further improvement as well as the efficiency of C3P, which achieved strong performance at a fraction of the training cost of leading gLMs. In addition to demonstrating that C3P training is effective for learning representations of bacterial regulatory sequences, our strong zero-shot co-regulated gene retrieval performance suggests the possibility of decoding gene regulation for millions of bacteria from their genomes alone.
Бактериальный промотор может состоять всего из нескольких десятков «букв» ДНК, но именно от них зависит, станет ли безобидная кишечная палочка опасным патогеном.
В «Парке Юрского периода» учёные заполняли пробелы в ДНК динозавров лягушачьими генами — C3P мог бы предсказать, как такая «сборка» повлияет на включение генов.