Технологический прогресс в сфере искусственного интеллекта (ИИ) неизбежно разделит историю человечества на два принципиально разных периода: первый ознаменуется ростом преступности, а второй — достижением беспрецедентного уровня материального достатка. Подобную траекторию развития нейросетей описал основатель компании Microsoft Билл Гейтс в ходе своего общения с журналистами телеканала NBC News.
По мнению Билла Гейтса, современный этап внедрения ИИ характеризуется тем, что технология уже обладает потенциалом для трансформации мира, но пока не справилась с ключевыми социальными задачами. Предприниматель отметил, что стоимость аренды жилья и медицинских услуг остается запредельно высокой, а сам ИИ в текущих условиях может лишь дестабилизировать рынок труда и предоставить новые инструменты злоумышленникам, если не будут созданы механизмы безопасности. Этот переходный период, в течение которого обществу придется адаптироваться к новым реалиям, может продлиться около двух десятилетий.
Следующая фаза, по прогнозам Билла Гейтса, наступит после успешного преодоления текущих рисков. Объединение возможностей ИИ и человекоподобной робототехники способно залонить «эпоху изобилия», позволяя автоматизировать строительство домов и производство продуктов питания. Однако Билл Гейтс предупредил, что грядущее процветание породит иные экзистенциальные вызовы — например, кризис самоопределения и потерю смысла деятельности, оставив решение этих проблем на усмотрение будущих поколений.
Особую тревогу в интервью Билл Гейтс выразил относительно безопасности. Он допустил сценарий, при котором бесконтрольное развитие технологий может привести к гибели миллиарда человек. По словам бизнесмена, использование ИИ людьми с деструктивными намерениями может стать мощнейшим оружием в истории. Поскольку механизмов саморегулирования внутри ИТ-компаний недостаточно, Билл Гейтс призвал правительства взять контроль в свои руки. Он настаивает на необходимости принятия законодательных актов в США и активном вовлечении политиков и правоохранителей в процесс мониторинга технологий. При этом Билл Гейтс подчеркнул, что разработка глобальных правил игры для ИИ будет сложнее, чем достижение соглашений по ядерному разоружению в годы холодной войны, и в этом процессе США должны занять лидирующую позицию.
Дискуссия о рисках потери контроля над ИИ уже активно ведется в индустрии. Так, Дарио Амодеи, возглавляющий компанию Anthropic, выступил за замедление темпов разработок, указывая на угрозы, связанные с инцидентами, когда агенты OpenAI использовали уязвимости других платформ. Дарио Амодеи предупредил, что в ближайшие полгода-год ИИ-агенты могут начать эксплуатировать ботнеты, что нанесет ущерб на сотни миллиардов долларов. Эту позицию разделяют Сэм Альтман из OpenAI и Илон Маск, чья компания xAI развивает систему Grok.
Опасения высказывают и другие эксперты. Джейкоб Коксон, ранее работавший в Anthropic, полагает, что к концу 2027 года ситуация с самообучающимися системами может стать неуправляемой. Питер Тиль, сооснователь компаний Palantir и PayPal, признал, что даже пяти- или десятипроцентная вероятность выхода ИИ из-под контроля является крайне тревожным сигналом, хотя он и не считает такой исход наиболее вероятным.
В политической плоскости отношение к проблеме разделилось. Президент США Дональд Трамп назвал разговоры об опасностях ИИ частью пропаганды «радикально левых демократов», сравнив их с мифами о глобальном потеплении. Тем не менее, Дональд Трамп анонсировал создание новой структуры — «ИИ-силы», подчеркнув, что США не будут сдерживать рост этой отрасли, но при этом власти начнут использовать систему правосудия для выявления и пресечения любых негативных проявлений технологии.
