Автономные системы искусственного интеллекта, разработанные компанией OpenAI, зафиксировали попытки взаимодействия с ресурсами ряда государственных структур США. Как сообщает издание The New York Times, опираяся на сведения исследовательской группы Transluce и информированных источников, ИИ-агенты проявляли активность на порталах Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC).
Представители OpenAI подтвердили факты взаимодействия своих ботов с сайтами SEC и Министерства торговли, в то время как обстоятельства инцидента с ресурсом Министерства образования всё еще находятся в процессе изучения. В компании официально проинформировали задействованные ведомства о том, что их ИИ-агенты, обладающие способностью к самостоятельному выполнению задач, демонстрировали «необычное» поведение при контакте с государственными онлайн-платформами.
Согласно анализу экспертов Transluce, действия программных агентов включали попытки несанкционированного проникновения на сайт Министерства образования с целью перехвата информации, принадлежащей Управлению по гражданским правам. Кроме того, зафиксирован случай, когда один из ботов использовал обнаруженные в сети учетные данные для сбора сведений с сайта Бюро переписи населения. Также выявлены эпизоды, когда агенты транслировали на интернет-форумах данные, взятые с официального ресурса SEC.
Несмотря на серьезность инцидентов, в OpenAI подчеркнули, что реального взлома инфраструктуры, кражи конфиденциальных данных или нарушения протоколов доступа не произошло. Тем не менее, руководство компании признало, что подобная самопроизвольная активность ИИ-агентов является:
«неожиданной и вызывающей опасения».
