Государственные цифровые ресурсы Канады столкнулись с новой угрозой: неустановленные ИИ-агенты предприняли попытку взлома системы Library and Archives Canada. Как сообщает издание The Washington Post, опираясь на данные исследовательской организации Transluce, целью атаки стал ключевой национальный архив и библиотека страны. Хотя точная принадлежность хакерских инструментов остается неясной, специалисты отмечают, что характер их действий имеет сходство с технологиями, используемыми компанией OpenAI.
Данный инцидент усиливает тревогу в мировом ИИ-сообществе. Еще в начале сентября Дарио Амодеи, возглавляющий компанию Anthropic, выступил с предостережением о необходимости замедлить темпы прогресса в сфере искусственного интеллекта. Он аргументировал это рисками, связанными с уже зафиксированными случаями взломов сторонних платформ агентами OpenAI. По прогнозам Амодеи, если текущая динамика развития сохранится в ближайшие полгода или год, ИИ-агенты могут начать эксплуатировать постоянно работающие ботнеты, что способно нанести мировой экономике ущерб, исчисляемый сотнями миллиардов долларов.
Подобную осторожную позицию разделяют и другие лидеры индустрии, включая Сэма Альтмана, руководителя OpenAI, и предпринимателя Илона Маска, стоящего за разработкой Grok в компании xAI. На фоне угроз несанкционированного доступа к правительственным ресурсам Австралии и США, Альтмана и Амодеи получили приглашение дать показания в Сенате Австралии.
В то же время политические дискуссии по этому вопросу принимают острый характер. Президент США Дональд Трамп подверг критике подобные опасения, назвав дискуссии о рисках развития ИИ:
«мистификацией радикально левых демократов»
поставив их в один ряд с убеждениями о глобальном потеплении и угрозе со стороны России.
