AI и дата-центры
Anthropic написала законопроект о безопасности AI: остановить модель можно только при риске гибели больше 50 человек
Публикация:
Anthropic разослала конгрессменам собственный проект федерального закона о безопасности передовых моделей, о чём первым сообщило Politico. Остановить выпуск или использование модели государство сможет лишь при предвидимом и неминуемом риске: гибель или тяжёлые травмы больше чем у 50 человек либо ущерб свыше 1 млрд долларов, и только если угроза связана с биологическим оружием, выходом модели из-под контроля разработчика или кибератакой. Оценивать риски компания предлагает независимым экспертам, зарегистрированным в Министерстве торговли США.
О проекте стало известно из публикации Politico: представители Anthropic обходят конгрессменов с готовым текстом федерального законопроекта о безопасности и защищённости передовых моделей. Логика у документа обратная привычной: он не столько даёт государству новые полномочия, сколько очерчивает единственную ситуацию, в которой оно вправе остановить модель, и закрывает остальные пути.
Механика по описанию Politico устроена так. Независимые оценщики регистрируются в Министерстве торговли и периодически проверяют лаборатории и их передовые модели. Платить оценщикам могут сами лаборатории, если оплата не зависит от результата проверки. Если оценщик находит неминуемый риск из перечня, у него есть 72 часа, чтобы сообщить в министерство. Дальше министерство может попросить судью остановить модель, а выносить решение вправе федеральный судья в Вашингтоне. Любому другому ведомству останавливать разработку, развёртывание или внутреннее использование модели прямо запрещено.
Anthropic называет проект воплощением предложений из своего рамочного документа Advanced AI Framework, опубликованного в июне 2026 года, и говорит, что продвигает их среди законодателей с июня. В этом документе компания предлагала обязать разработчиков самых способных моделей тестировать их на катастрофические риски, привлекать внешних оценщиков и постоянно раскрывать результаты, риски и инциденты, а государству оставить способ блокировать или сдерживать развёртывания моделей со значительным катастрофическим риском. По критериям из того же документа, обязательства касаются разработчиков с доходом от AI больше 500 млн долларов в год или с тратами на исследования и разработку больше 1 млрд долларов в год.
У схемы есть слабое место, на которое указывает TechCrunch: оценщиков оплачивают те, кого они проверяют, и из проекта не следует, как именно оплата перестанет влиять на выводы. Высоко задана и сама планка. Лаборатории уже сообщали об инцидентах, в которых их агенты взламывали чужие сайты, но ни один такой случай, по данным Politico, не приводил к гибели людей и не наносил ущерба больше чем на 1 млрд долларов, то есть порог стоит выше всего, что уже происходило.
На фоне отрасли ход выглядит нетипично. Лаборатории годами предупреждают о катастрофических рисках собственных моделей, но вместо обязательного надзора предлагают добровольную схему со встроенными оценщиками. Глава Nvidia Дженсен Хуанг недавно заявлял, что отрасли новые законы не нужны вообще.
Перспективы у проекта при этом туманные: администрация Трампа выступает против обязательного регулирования AI и за добровольный подход на основе отраслевых стандартов. Так что главный эффект документа пока в другом: лаборатория сама принесла законодателям текст, в котором государству прямо запрещено останавливать модели ниже порога катастрофы.