Команда специалистов стартапа Cathedral, в состав которой входят бывшие работники американского ведомства по повышению эффективности правительства (DOGE), курируемого Илоном Маском, сумела за короткий промежуток времени — менее 12 часов — преодолеть защиту внутренних ресурсов компании Anthropic. Об этом инциденте пишет газета The Washington Post (WP), опираясь на данные отчета самого стартапа.
В ходе исследования специалисты Cathedral применили технологии ИИ-агентов и воспользовались брешами в стороннем софте, который разработчик искусственного интеллекта Anthropic использовал для обеспечения коммерческих продаж и решения административных вопросов. Подобное вмешательство позволило получить доступ к конфиденциальной информации: внутренним перепискам, протоколам совещаний и сведениям о доходах персонала компании.
В самой Anthropic признали факт проникновения исследователей в ряд ограниченных внутренних систем. Кроме того, разработчик ИИ-технологий официально проинформировал о случившемся американские государственные структуры.
Как сообщил представитель администрации США изданию WP, отчет Cathedral уже активно обсуждается в правительственных кругах, вызывая серьезную тревогу за вопросы национальной безопасности. Чиновники подчеркивают невероятную оперативность, с которой взлом был осуществлен, и высказывают предположения, что подобные действия могли бы предпринять специалисты из Китая.
Согласно документации, деятельность Cathedral проходила в рамках официальной программы Anthropic, которая предусматривает выплату вознаграждений за нахождение уязвимостей. По завершении проверки стартап предоставил компании все полученные сведения.
Данный инцидент перекликается с публикацией журнала The Economist от июня текущего года. Тогда стало известно о словах заместителя председателя комитета Сената США по разведке Марка Уорнера, который утверждал, что модель Mythos от Anthropic за считанные часы смогла охватить почти все секретные системы Агентства национальной безопасности (АНБ) США. По словам сенатора, эту информацию ему передали глава АНБ и Киберкомандования США генерал Джошуа Радд. Впоследствии редакция издания уточнила, что в том случае речь шла о санкционированном тестировании систем безопасности, а не о полноценной кибератаке.
