Подразделение Google, компания DeepMind, объявила о запуске специализированного института, основной целью которого станет обеспечение безопасности при создании общего искусственного интеллекта (AGI). Данная инициатива продиктована растущими угрозами: в организации подчеркивают, что мощные алгоритмы уже оказывают давление на сферу кибербезопасности и повышают биологические риски. Эксперты выражают опасение, что в долгосрочной перспективе человечество может лишиться возможности управлять саморазвивающимися технологическими системами.
Деятельность нового научного центра сосредоточится на анализе сценариев применения AGI и изучении их влияния на жизнь общества. Площадка станет открытой для обмена идеями, позволяя ученым из Google DeepMind, самой корпорации Google и представителям глобального научного сообщества публиковать свои исследования.
Необходимость контроля над технологией звучит и со стороны других лидеров индустрии. Так, Билал Чугтай, ранее работавший в Google DeepMind, заявил о потенциальной способности искусственного интеллекта уничтожить человечество. По его мнению, технологическим гигантам жизненно важно синхронизировать свои усилия и снизить скорость прогресса, чтобы социальные институты успевали адаптироваться к новым вызовам.
Аналогичную позицию занял и руководитель Anthropic Дарио Амодеи, который предложил внедрить трехэтапный план для безопасного внедрения ИИ. Его призыв к замедлению разработок нашел поддержку у ключевых фигур отрасли, включая основателя Tesla и SpaceX Илона Маска, а также главу OpenAI Сэма Альтмана.
