Из 285 сгенерированных ИИ кандидатов 16 оказались полноценными вирусами, способными заражать бактерии и размножаться внутри них. Работа Arc Institute и Стэнфордского университета, о которой сообщает Engadget, пока ограничена безопасной моделью на E. coli, но сам факт уже меняет разговор о биобезопасности: ИИ проектирует вирусы не в теории, а в лаборатории. Для русскоязычной IT-аудитории это важный сигнал: специализированные модели начинают не только анализировать данные, но и собирать рабочие биологические конструкции.
Исследование вышло в журнале Science. Его сделали ученые Arc Institute из Пало-Альто и Стэнфордского университета, использовав модели Evo 1 и Evo 2. По принципу это родственники больших языковых моделей: только вместо книг, документации и форумов они учат не человеческий язык, а генетический код. Команда обучала систему на триллионах нуклеотидов, то есть базовых элементов ДНК, чтобы модель уловила грамматику последовательностей. Для инженеров аналогия понятная: если обычный LLM предсказывает следующее слово, то здесь модель предсказывает следующий биологический фрагмент и собирает из этого не текст, а потенциально работающий геном.
Для эксперимента исследователи сузили задачу до примерно 15 000 вирусов из того же семейства, что Phi X-174, крошечный вирус, заражающий только бактерию E. coli. Ограничения были жесткими: из области поиска исключили все, что могло бы быть связано с заражением людей, животных, растений или грибов. После этого Evo сгенерировала около 700 000 вариантов новых вирусов. Из них отобрали 285 самых перспективных, синтезировали их ДНК и поместили в бактерии. Итог получился уже не академическим: 16 конструкций дали рабочие вирусы, причем часть из них размножалась как минимум не хуже Phi X-174, а некоторые и быстрее. На языке продуктовой разработки это момент, когда прототип неожиданно проходит не только демо, но и проверку в реальной среде.
У этой истории есть и вполне мирная сторона. Такие модели могут ускорить работу с генной терапией, помочь лучше понимать устройство геномов и дать исследователям новые инструменты для борьбы с вредными бактериями. Для биотеха это шанс быстрее проверять гипотезы, на которые раньше уходили месяцы перебора в мокрой лаборатории. В контролируемой среде это не выглядит сценарием про безумного злодея с пробиркой. Скорее это еще один случай, когда мощный инструмент сам по себе нейтрален, а весь вопрос упирается в правила доступа, воспроизводимость экспериментов и то, кто именно держит руки на клавиатуре и на лабораторном оборудовании.
Проблема в том, что правила пока заметно отстают от возможностей моделей. Раньше исследователи уже показывали, что обычные чат-боты способны выдать тревожно полезные подсказки по планированию биологического оружия. Когда ИИ проектирует вирусы, ставка становится выше: система уже не просто пересказывает опасные знания, а помогает конструировать объекты с заданными свойствами. В этой точке старая надежда на то, что доступ к инструменту останется только у хороших игроков, звучит слишком наивно. В ИИ-индустрии этот спор давно знаком по темам обхода ограничений, паспортов моделей и стресс-тестов на злоупотребления, но в биологии цена ошибки заметно выше, чем у очередного утекшего промпта.
Для разработчиков и руководителей ИТ здесь важен не только биоэтический сюжет. История с Evo показывает, как быстро специализированные модели переходят из режима ассистента в режим конструктора реального мира. Пока один класс моделей пишет код, другой уже предлагает новые молекулы, материалы или геномы. Это меняет и требования к безопасной разработке. Если система работает в чувствительной области, недостаточно ограничиться красивым манифестом про ответственное использование. Нужны жесткие уровни доступа, аудит запросов, независимая проверка экспериментов и понятный ответ на вопрос, что именно модель не должна уметь делать. Для ИБ-команд это отдельное напоминание: политики на бумаге тут не сработают, если модель и лабораторный контур не разнесены по реальным барьерам. Для стартапов это еще и прагматичный риск: регуляторы почти наверняка будут смотреть не только на качество результата, но и на процесс, набор данных и встроенные ограничения.
Главный вопрос теперь не в том, сможет ли ИИ проектировать вирусы еще лучше, а в том, успеют ли нормы биобезопасности догнать эту скорость. Как только модель начинает производить не текст, а работающие биологические объекты, разговор про встроенные ограничения перестает быть внутренней дискуссией исследователей и становится темой для отрасли целиком. И если здесь снова выбрать стратегию сначала выпустим, потом подумаем, следующий раунд обсуждения может пройти уже не в колонках про технологии. Оригинал заметки: .