Американская компания Anthropic, создавшая нейросети семейства Claude, подготовила для законодателей США проект закона, который фактически минимизирует возможности государства по блокировке ИИ-технологий. Как стало известно изданию Politico со ссылкой на конфиденциальные документы и источники, знакомые с ходом переговоров, инициатива направлена на установление жестких рамок для вмешательства властей в работу разработчиков.
Согласно предложенным нормам, государственные органы смогут инициировать запрет на запуск или эксплуатацию модели лишь в исключительных случаях. Для этого необходимо доказать наличие прямой и прогнозируемой угрозы, способной привести к финансовым потерям свыше 1 миллиарда долларов либо к гибели или серьезным увечьям более чем 50 человек. В качестве конкретных сценариев риска рассматриваются ситуации, связанные с разработкой биологического оружия, потерей контроля над ИИ-системой или проведением кибератак.
Интересно, что подобные юридические формулировки уже фигурируют в калифорнийском законодательстве, в частности, в принятом в прошлом году законе SB 53.
Механизм реализации документа предполагает, что Министерство торговли США сможет подать иск в суд для приостановки выпуска продукта, если подтвердит наличие критической угрозы. Окончательный вердикт в таких спорах должен будет выносить федеральный судья окружного суда округа Колумбия. При этом законопроект устанавливает прямой запрет для других американских ведомств и чиновников пытаться остановить процессы внутреннего тестирования, развертывания или создания моделей искусственного интеллекта.
