По мере того как возможности искусственного интеллекта расширяются, мир сталкивается с новой угрозой — появлением вирусов, спроектированных с помощью цифровых технологий. Исследовательская группа из стартапа Red Queen Bio, специализирующаяся на вопросах биобезопасности, работает над созданием антител, способных противостоять широкому спектру патогенов, включая те, что могут быть синтезированы искусственным интеллектом. Об этом сообщает издание The Wall Street Journal (WSJ).
Проект Red Queen Bio, в который в качестве ключевого инвестора вложилась компания OpenAI, уже привлек 36 миллионов долларов финансирования. Несмотря на значительные ресурсы, путь до реальной защиты будет долгим: начало клинических испытаний препаратов, направленных на борьбу с птичьим гриппом и иными вирусами, намечено лишь на 2027 год.
В WSJ подчеркивают, что на фоне участившихся случаев неконтролируемого поведения ИИ-агентов в обществе нарастает страх перед потенциальным крахом цивилизации. Традиционные методы защиты — такие как ограничение темпа исследований, введение жестких стандартов или блокировка ответов моделей на опасные вопросы — могут оказаться бесполезными. В Red Queen Bio убеждены, что лишь готовность к встрече с новыми угрозами может стать эффективным ответом.
Тем не менее, экспертное сообщество не единодушно в оценках. Скептики полагают, что риски создания биологического оружия с помощью ИИ преувеличены. Однако сами лидеры индустрии признают серьезность ситуации. Так, в OpenAI в прошлом году зафиксировали сотни попыток использовать чат-бота для получения инструкций по производству ядов и биологических агентов. Компания Anthropic также выявила случаи использования своего чат-бота Claude для поиска способов адаптации птичьего гриппа к млекопитающим. Среди запросов были и попытки увеличить патогенность вируса чикунгунья (причем пользователь был связан с военным исследовательским институтом), а также вопросы, касающиеся оспы.
Оливия Шарфман, научный сотрудник американского Института прогресса (IFP), отмечает критическую асимметрию в этой борьбе. По ее словам, динамика биологических войн всегда на стороне атакующей стороны:
У нападающих столько времени, сколько они хотят, для разработки биологического оружия. У нас нет лет для разработки контрмеры.
В начале сентября Дарио Амодеи, возглавляющий Anthropic, призвал к замедлению прогресса в сфере ИИ, указывая на риски, связанные с инцидентами взлома платформ агентами OpenAI. Он предупредил, что если текущие темпы сохранятся в ближайшие 6–12 месяцев, ИИ-агенты могут использовать постоянные ботнеты, что нанесет ущерб на сотни миллиардов долларов. Эту позицию поддержали Сэм Альтман, руководитель OpenAI, и предприниматель Илон Маск, создатель компании xAI и модели Grok.
Политический дискурс вокруг темы также крайне неоднороден. Президент США Дональд Трамп назвал дискуссии об экзистенциальных угрозах ИИ лишь «мистификацией радикально левых демократов», поставив их в один ряд с идеями об изменении климата. При этом он анонсировал запуск новой структуры — «ИИ-силы», подчеркнув, что США не намерены сдерживать развитие этой индустрии, хотя и планируют использовать систему правосудия для «поиска нарушений».
Параллельно с этим, согласно информации Reuters от 29 сентября, компания Anthropic намерена официально предупредить своих будущих участников IPO о том, что развитие технологий искусственного интеллекта может нести «катастрофические или экзистенциальные риски для человечества».
