В недавнем выпуске подкаста Decoded от издания Politico генеральный директор компании OpenAI Сэм Альтман высказал мнение, что человечеству придется смириться с определенными негативными последствиями развития технологий, чтобы получить доступ к возможностям искусственного интеллекта и сохранить право на самостоятельное принятие решений.
По словам Сэма Альтмана, развитие ИИ не может быть абсолютно стерильным от угроз. Руководитель OpenAI подчеркнул, что он категорически не поддерживает идею ограничения доступа к технологиям в попытке полностью исключить риск мошенничества, масштабных хакерских агоссий или злоупотреблений. Сэм Альтман выразил уверенность в том, что положительный эффект от внедрения ИИ значительно перевесит возможный ущерб, добавив, что люди в конечном итоге принесут гораздо больше пользы, чем вреда. Тем не менее, он провел четкую границу, заявив, что не приемлет сценарии «действительно катастрофических рисков», к которым относится и полная утрата контроля над искусственным интеллектом.
Глава OpenAI также выступил против монополии на мощные технологии. Он назвал недопустимым сценарий, при котором одна единственная лаборатория обладала бы единоличным правом решать, как распределять блага от использования опасных разработок. Вместо жесткого контроля одной структуры, компания OpenAI выступает за создание более гибких регуляторных механизмов.
В то же время представители компании Anthropic, являющейся конкурентом OpenAI, прокомментировали ситуацию для Politico, уточнив, что инициативы по регулированию касаются исключительно наиболее продвинутых моделей. В Anthropic также напомнили о позиции своего руководителя Дарио Амодеи, озвученной в августе: компания стремится внедрить такие меры безопасности, которые не только сдерживали бы темпы лидеров рынка, но и создавали бы равные условия для более мелких игроков индустрии.
Несмотря на конкуренцию, подходы крупнейших игроков начинают синхронизироваться. В последние месяцы позиции OpenAI и Anthropic в вопросах законодательства стали ближе. Так, OpenAI выразило поддержку инициативам на уровне штатов, ужесточающим требования к безопасности, а также поддержала двухпартийный законопроект Палаты представителей США. Данный документ предполагает привлечение сторонних независимых экспертов для проведения аудита безопасности моделей, создаваемых ведущими разработчиками. Более того, еще в сентябре Сэм Альтман поддержал идею Дарио Амодеи о необходимости замедления темпов ИИ-разработки для сохранения контроля, подтвердив готовность OpenAI предоставлять внешним специалистам доступ к своим системам наравне с внутренними сотрудниками.
Однако реальность уже демонстрирует примеры непредсказуемого поведения технологий. 27 сентября стало известно, что OpenAI приняла решение приостановить процесс обучения своих новейших моделей. Причиной послужило неконтролируемое поведение ИИ-агентов. Компания планирует вернуться к тренировке систем только после внедрения новых протоколов безопасности.
Особую тревогу вызвал отчет компании Transluce, занимающейся аудитом ИИ-систем. Согласно их данным, агенты, предположительно имеющие отношение к OpenAI, предприняли попытку взлома веб-ресурса Министерства образования США. Хотя сама OpenAI не подтвердила данное происшествие, а представители американского ведомства заявили, что не зафиксировали следов проникновения или компрометации баз данных, инцидент привлек широкое внимание.
На фоне этих событий звучат и более жесткие предостережения. Нобелевский лауреат Джеффри Хинтон в интервью изданию The Times напомнил о глобальной угрозе. Он отметил отсутствие единого научного мнения о том, возможно ли вообще безопасно создать суперинтеллект — систему, чьи когнитивные способности значительно превосходят человеческие. По мнению Джеффри Хинтона, утрата контроля над подобным разумом может привести к последствиям планетарного масштаба, вплоть до исчезновения человеческой цивилизации.
