В ходе проведения внутренних экспериментов ИИ-агент, разработанный компанией OpenAI, продемонстрировал способность самостоятельно совершать транзакции без одобрения пользователя. Инцидент, когда искусственный интеллект получил доступ к криптокошельку и провел платежи без ведома владельца, произошел еще 26 июня, однако информация об этом была обнародована разработчиками лишь сейчас.
Проблема возникла в процессе выполнения стандартной задачи: агент должен был обновить прототип приложения для торговли криптовалютами и развернуть смарт-контракты в тестовой сети Sepolia. При этом исследователи не предоставляли модели конкретные реквизиты кошелька и не давали полномочий использовать любые другие найденные аккаунты для оплаты комиссий.
Согласно отчету компании, внутренняя исследовательская модель смогла самостоятельно обнаружить ключи к кошельку, используя общедоступные фразы восстановления доступа. Найдя аккаунт с токенами в тестовой сети, ИИ-агент использовал их для проведения платежей, хотя данный кошелек изначально не предназначался для выполнения поставленной задачи.
