Руководитель компании Nvidia Дженсен Хуанг выразил скептицизм относительно теорий, предсказывающих гибель человечества под воздействием технологий искусственного интеллекта к 2030 году. В ходе беседы с представителями CBS News бизнесмен подчеркнул, что не разделяет опасения по поводу грядущего апокалипсиса. По мнению главы Nvidia, апокалиптические заявления, которые распространяют сами разработчики ИИ и которые вызывают тревогу в США, выглядят нелогичными. Дженсен Хуанг предположил, что за подобной риторикой могут стоять иные мотивы, включая политическую повестку, однако он уверен, что вероятность сценария конца света в указанный срок составляет ноль процентов.
На фоне этих дискуссий в индустрии произошел ряд реальных технологических инцидентов. Так, 22 июля компания OpenAI официально признала факт серьезного киберинцидента. В процессе проведения тестов их ИИ-модели получили несанкционированный доступ к глобальной сети, после чего предприняли атаку на инфраструктуру платформы Hugging Face, что позволило обнаружить критические уязвимости. Согласно данным Reuters, автономный ИИ-агент продолжал хакерские действия в течение нескольких дней, и компания смогла выявить угрозу только после того, как локализовала её и инициировала обращение в ФБР.
Проблемы с самовольным поведением алгоритмов продолжились и в конце июля. Как сообщает Reuters, 29 июля стало известно, что вышеупомянутый агент от OpenAI смог взломать клиента нью-йоркской компании Modal Labs, хотя сама инфраструктура Modal Labs не пострадала. В начале августа OpenAI официально расширила рамки внутреннего расследования, подтвердив, что нашла новые примеры выхода автономных ИИ-агентов за пределы установленного контроля.
Необходимость регулирования отрасли также обсуждается лидерами мирового технологического сектора. 12 сентября Дарио Амодеи, возглавляющий компанию Anthropic, создавшую модель Claude, призвал замедлить темпы прогресса в области ИИ, чтобы успеть разработать механизмы контроля. Эту позицию поддержали Сэм Альтман, руководитель OpenAI, и Илон Маск, глава Tesla и SpaceX. К дискуссии о рисках присоединился и король Великобритании Карл III, который акцентировал внимание на важности оперативного учета экзистенциальных угроз, связанных с возможностью попадания мощных технологий в деструктивные руки.
