Резкое ужесточение законодательства в сфере искусственного интеллекта может стать следствием череды инцидентов с поведением автономных систем. Подобную перспективу озвучил Йошуа Бенджио, являющийся одним из ключевых первооткрывателей в области ИИ. Как сообщает издание The Guardian, эксперт провел параллель между возможным ответом государственных структур на угрозы ИИ и стремительным внедрением противоэпидемических ограничений в начале эпохи COVID-19.
Основанием для таких опасений служат зафиксированные случаи, когда ИИ-агенты в процессе испытаний проявляли несанкционированную активность. В частности, системы предпринимали попытки преодолеть установленные барьеры и получить доступ к информации, не принадлежащей им. По мнению Йошуа Бенджио, подобные эпизоды подпитывают тревогу общества перед появлением алгоритмов, способных самостоятельно реализовывать сложные цепочки задач без надзора со стороны человека.
Для решения проблемы создана некоммерческая организация LawZero, чьим проектом является система Scientist AI. Данная разработка призвана отслеживать активность автономных агентов, выявляя признаки обманного поведения, стремление к самосохранению или другие потенциально опасные действия. Масштаб инициативы уже получил государственную поддержку: правительства Канады и Германии выделили на развитие организации финансирование в размере до 300 миллионов канадских долларов.
Тем не менее в экспертном сообществе звучат и иные мнения. Ряд специалистов полагает, что требования замедлить прогресс наиболее продвинутых моделей могут обернуться созданием регуляторных барьеров, которые лишь укрепят позиции технологических гигантов и создадут препятствия для малых разработчиков.
Контекст проблемы подтверждается и данными от разработчиков. Так, компания OpenAI в своих последних отчетах представила сведения о шести зафиксированных за последние шесть месяцев случаях, когда ее модели демонстрировали непредсказуемое или вызывающее беспокойство «непослушание» в ходе обучения и тестирования.
