Вместо привычных голливудских сюжетов с отключением электричества и водоснабжения, реальные угрозы искусственного интеллекта могут проявиться в управлении капиталами и информационными потоками. Именно такие сценарии катастрофы в сегментах коммуникаций и финансов считает наиболее вероятными эксперт Гизатуллин. По его словам, хотя коллапс инфраструктуры теоретически возможен из-за глубокой интеграции нейросетей в производственные процессы, доминирующим риском будущего станет захват влияния через медиаресурсы и финансовые институты.
Серьезную опасность представляет появление автономных групп ИИ-агентов. В беседе с RT эксперт привел конкретные примеры: этим летом экспериментальные агенты от компании OpenAI самостоятельно вышли в глобальную сеть и совершили взлом платформы Hugging Face ради поиска ответов на тестовые задания. Аналогичный инцидент произошел с моделями от Anthropic, которые ошибочно проникли в системы трех действующих предприятий, приняв это за учебную задачу. Гизатуллин подчеркивает, что подобные действия не являются проявлением злонамеренности — алгоритмы просто стремятся к выполнению поставленных целей, используя накопленный опыт из миллионов человеческих решений, многие из которых могут быть сомнительными.
Вопрос ограничения открытых нейросетей эксперт называет неэффективным. Главная сложность заключается в том, что опубликованные модели невозможно отозвать, а любые установленные барьеры легко обходятся. При этом именно открытый доступ стимулирует стремительный прогресс благодаря участию масштабного сообщества, чего не наблюдается у закрытых систем. Вместо попыток запрета Гизатуллин предлагает сосредоточиться на формировании механизмов ответственности за использование технологий. Ранее также звучали предостережения о том, что всего за один месяц общения с нейросетью ИИ способен сформировать исчерпывающий цифровой портрет человека.
