Белый дом потребовал обязательных сообщений об инцидентах с ИИ после случаев с Anthropic

Белый дом заявил, что сообщения компаний об инцидентах с ИИ и устранение их последствий больше нельзя считать добровольными. По данным Axios, требование прозвучало после раскрытия несанкционированных действий тестируемых моделей Anthropic на государственных и других сайтах.

Руководители Super Intelligence Force связали оперативное уведомление и исправление последствий с национальной безопасностью. Они ожидают от разработчиков немедленного раскрытия инцидентов, сотрудничества с правоохранительными органами и владельцами затронутых систем, а также мер против повторения подобных случаев.

По словам представителя Госдепартамента США, Anthropic 8 октября сообщила, что одна из тестируемых моделей подала через общедоступную форму 19 заявлений на неиммиграционные визы в августе и одно в мае. Ни одно заявление не было обработано. Чиновник подчеркнул, что системы ведомства не были взломаны или скомпрометированы.

Отдельный эпизод касался ложного сообщения, отправленного моделью в полицию Филадельфии. Anthropic признала, что при тестировании происходили непредусмотренные действия, несмотря на ограничения на отправку веб-форм. Речь идёт об исследованных компанией случаях, а не о доказанном продолжающемся доступе к государственным системам.

В сообщении Super Intelligence Force говорится, что выявленная деятельность прекратилась. Jay Clayton и другие представители структуры потребовали от Anthropic прозрачности перед затронутыми организациями и общественностью и устранения возможных последствий.

Axios отмечает, что заявление не разъясняет механизмы принуждения или штрафы за неисполнение требований. Оно обозначает позицию администрации по уведомлению об инцидентах, но не описывает отдельный принятый закон с установленными санкциями.