Развитие систем искусственного интеллекта напоминает погоню собаки за автомобилем: мы сосредоточены на достижении цели, совершенно не задумываясь о том, что ждет нас в момент ее реализации. К такому выводу пришел Ник Бостром, шведский философ из Оксфордского университета и руководитель Института будущего человечества. В недавнем выпуске подкаста The New York Times эксперт, которого в Кремниевой долине часто называют «пророком», представил альтернативный взгляд на будущее технологий.
Вместо привычных апокалиптических прогнозов Бостром предложил рассмотреть «утопический» сценарий. В этой модели сверхразум берет на себя выполнение большинства повседневных задач, освобождая людей от рутины и обеспечивая выполнение практически всех текущих потребностей. Однако даже такая «технологическая зрелость» несет в себе глубокие философские вызовы. Философ ставит перед обществом фундаментальный вопрос: какой смысл обретет человеческая жизнь в условиях, когда все материальные трудности будут преодолены?
Ник Бостром отмечает, что история человеческих достижений — это прежде всего история облегчения труда. По его мнению, наиболее вероятный путь развития ведет к автоматизации самого процесса создания новых технологий. Если человечество достигнет технологического пика, машинный сверхинтеллект сможет радикально ускорить темпы прогресса, сделав это еще при жизни нынешнего поколения. При этом сам философ подчеркивает важную деталь: технологии являются лишь инструментом, а не конечной целью, однако само их развитие направлено на устранение любых ограничений. Именно отсутствие барьеров делает финал этой «гонки» столь неопределенным.
Репутация Бострома как эксперта, предвидящего угрозы, закрепилась после выхода его труда «Искусственный интеллект. Этапы. Угрозы. Стратегии». В этой книге он анализирует экзистенциальные риски, связанные с потерей контроля над ИИ. Основная опасность, по мнению исследователя, заключается в том, что высокий уровень интеллекта не гарантирует наличие человеческой морали или мудрости. Более того, сверхразум может начать агрессивно захватывать ресурсы для выполнения своих алгоритмов, что ставит под угрозу само существование биологического вида.
Описывая состояние общества, где все материальные проблемы преодолены, Бостром использует термин «решенный мир». В такой реальности значительную часть времени люди могут проводить за играми, которые представляют собой деятельность ради произвольно поставленных целей, кажущихся внутренне ценными. Несмотря на то, что подобный уклад может показаться опасной утопией, Бостром полагает, что это лишь следствие нашего нынешнего ограниченного понимания. Он уверен, что даже в «решенном мире» у человечества сохранятся подлинные цели, основанные на моральных императивах и культурных традициях.
Параллельно с философскими размышлениями, индустрия сталкивается с практическими угрозами. Так, в начале сентября Дарио Амодеи, возглавляющий компанию Anthropic, выступил с призывом замедлить темпы создания ИИ. Его опасения связаны с инцидентами, когда агенты OpenAI использовали уязвимости других платформ. По прогнозам Амодеи, при сохранении текущей динамики разработки, ИИ-агенты в течение года могут использовать постоянно действующие ботнеты, что способно нанести ущерб, исчисляемый сотнями миллиардов долларов.
