Пользователи ведущих нейросетевых моделей столкнулись с трудностями при попытках использовать искусственный интеллект для обратной разработки программного обеспечения. Согласно сообщениям, зафиксированы случаи как прямого отказа систем выполнять задачи по изучению архитектуры софта и прошивок, так и жестких санкций со стороны разработчиков.
Одной из наиболее резонансных стала ситуация, описанная пользователем социальной сети X под псевдонимом log4j. После проведения работ, связанных с реверс-инжинирингом, аккаунт этого специалиста был заблокирован компанией OpenAI. При этом автор подчеркнул, что все исследования проводились локально на собственном оборудовании, а сервисы компании не использовались для поиска уязвимостей или подготовки эксплойтов. В результате инцидента пользователь потерял 500 долларов и лишился накопленных бонусов, позволявших восстанавливать лимиты использования нейросети.
Параллельно с этим исследователь из X, известный под ником @0x0SojalSec, сообщил о специфическом поведении модели Claude от компании Anthropic. По его наблюдениям, алгоритмы безопасности могут прерывать генерацию ответа уже в процессе выполнения задачи, если ИИ распознает попытку анализа прошивок. В качестве примера пользователь привел обсуждение архитектуры телевизоров Samsung, однако компания Anthropic не подтвердила наличие прямой зависимости между этим случаем и новыми правилами безопасности.
На текущий момент ни OpenAI, ни Anthropic не публиковали официальных заявлений о введении глобального запрета на использование их технологий для реверс-инжиниринга или создания бесплатных альтернатив коммерческому софту. Опыт отдельных пользователей пока не дает возможности определить масштаб и системный характер этих ограничений.
Сама процедура реверс-инжиниринга заключается в детальном изучении готового продукта для понимания принципов его функционирования без доступа к исходному коду. Специалисты анализируют исполняемые файлы и команды, чтобы выявить ошибки в защите, исследовать вирусы или добиться совместимости систем.
В контексте использования ИИ для создания программных аналогов выделяется проект ArtCraft, над которым работает Брэндон Томас. Как отмечало издание Windows Central, с помощью Claude разработчик создает бесплатное ПО с открытым исходным кодом, имитирующее возможности продуктов Adobe и Microsoft, включая аналоги Word, Excel и PowerPoint. Несмотря на то что эти версии пока находятся на ранних стадиях разработки, их существование может косвенно объяснять усиление контроля со стороны ИИ-гигантов, хотя прямых доказательств связи между жалобами пользователей и проектом Брэндона Томаса нет.
