Группа учёных из Стэнфордского университета (Samuel H. King et al.) использовала две модели искусственного интеллекта для работы с геномными последовательностями — Evo 1 и Evo 2 — чтобы сконструировать полные геномы 16 новых вирусов, способных успешно атаковать бактерию Escherichia coli C. Результаты исследования были опубликованы две недели назад в журнале Science и вызвали серьёзную обеспокоенность в научном сообществе.
Речь идёт о бактериофагах — вирусах, поражающих бактерии, а не клетки животных. Авторы работы подчёркивают, что применяли строгие меры безопасности: все эксперименты проводились в биобезопасных кабинетах с использованием средств индивидуальной защиты, а оборудование регулярно стерилизовалось этанолом, отбеливателем и ультрафиолетом. Отходы утилизировались как биологически опасные. Тем не менее, в сопроводительном тексте исследователи признают: если тот же метод применить для создания вирусов, способных инфицировать клетки человека или животных, «новые патогены могли бы оказаться жизнеспособными в аналогичных масштабах». По их мнению, подобная работа «должна проводиться только после тщательной проверки и консультаций с другими исследователями и экспертами в области биобезопасности, биосдерживания и биозащиты».
Чтобы минимизировать риски, учёные сознательно исключили из обучающих данных моделей все вирусы, способные атаковать клетки, «включая патогены человека». Однако авторы признают, что «растущая доступность такой инфраструктуры делает случаи злонамеренного использования всё более вероятными».
Виктор де Лоренсо, профессор-исследователь Высшего совета по научным исследованиям Испании (CSIC) в Национальном центре биотехнологии, отметил в комментарии для Science Media Center, что распространение этой стратегии на вирусы, атакующие клетки, открыло бы возможности для создания высокоспецифичных онколитических вирусов (против раковых клеток), но также породило бы «тревожные сценарии, такие как создание вирусов с избирательным сродством к определённым типам клеток, тканям или даже группам населения».
Йорди Гарсия-Охальво, профессор системной биологии Университета Помпеу Фабра, считает, что система пока неэффективна — из 300 сгенерированных геномов лишь 16 оказались работоспособными, — и что «опасность здесь меньше, чем в больших традиционных языковых моделях ИИ, поскольку каждый сконструированный геном необходимо проверять в лаборатории по отдельности».
Отдельный комментарий в Science опубликовали Томас В. Инглсби и Мориц С. Ханке, которые констатируют: «Способность составлять вирусные геномы с помощью генеративного ИИ уже существует; однако необходимого управления для безопасного обращения с ней пока нет». Они указывают, что существующие нормы биобезопасности не рассчитаны на генеративную геномику, поскольку «создаваемые ею генетические изменения непредсказуемы».
Примечательно, что обширный перечень ограниченных, регулируемых и запрещённых применений в законе Европейского союза об искусственном интеллекте не включает использование ИИ для проектирования вирусов «на заказ», которые могут иметь как терапевтическое применение (например, патогены, атакующие только раковые клетки), так и потенциально использоваться в качестве биологического оружия.