На заседании Совета Безопасности ООН, посвященном проблематике искусственного интеллекта, руководитель компании OpenAI Сэм Альтман озвучил серьезные опасения относительно темпов технологического прогресса. По его мнению, скорость эволюции нейросетей может существенно опережать возможности человечества по своевременной адаптации.
Основная угроза, по словам Сэма Альтмана, кроется в растущей мощи и автономности систем ИИ. Он подчеркнул, что современные институты могут не успевать реагировать на изменения, поскольку процессы развиваются слишком интенсивно, лишая людей возможности эффективно отслеживать ситуацию или осуществлять необходимое вмешательство.
Особую опасность эксперт связывает с перспективой появления технологий, способных к самосовершенствованию. Сэм Альтман отметил, что автоматизация разработки будущих версий ИИ способна спровоцировать взрывной рост, при котором алгоритмы начнут самостоятельно оптимизировать свои собственные возможности.
