Politico: Anthropic предложила Конгрессу свой проект закона о безопасности ИИ

Anthropic непублично представила американским законодателям собственный проект регулирования безопасности передовых моделей ИИ, сообщает Politico со ссылкой на документ и трёх собеседников.

По данным издания, блокировать выпуск или использование модели предлагается лишь при предсказуемом и непосредственном риске ущерба свыше 1 млрд долларов либо гибели или тяжёлых травм более 50 человек. Угроза должна быть связана с биологическим оружием, утратой разработчиком контроля над моделью или кибератакой.

Минторг США, установив такую угрозу, сможет обратиться за приостановкой в федеральный окружной суд округа Колумбия. Другим ведомствам и должностным лицам проект запрещает останавливать разработку, развёртывание или внутреннее использование модели.

Politico отмечает сходство формулировок с калифорнийским законодательством, включая закон SB 53. Предложение Anthropic описывает проект компании, а не принятые Конгрессом правила.