На полях Генеральной Ассамблеей ООН руководитель компании OpenAI Сэм Альтман озвучил серьезные опасения относительно будущего технологий искусственного интеллекта. По его мнению, стремительный прогресс в этой сфере несет в себе угрозу чрезмерного сосредоточения влияния у узкого круга лиц.
В своем выступлении Сэм Альтман акцентировал внимание на необходимости строгого контроля за разработкой новых моделей. Он подчеркнул, что процесс обучения систем не должен продолжаться без уверенности в том, что человечество способно сохранять над ними полноценный контроль. Подобная неопределенность рассматривается им как один из ключевых рисков современности.
Глава OpenAI также заявил, что любая вероятность возникновения катастрофических последствий является недопустимой, что требует повышенного внимания к безопасности по мере усиления возможностей ИИ. Кроме того, эксперт призвал исключить использование мощных нейросетей отдельными личностями, корпорациями или целыми государствами в целях навязывания определенных идеологических позиций окружающим.
