Представитель ООН призвала предусмотреть человеческий контроль над ИИ

Isabel De Sola Criado из UN Office for Digital and Emerging Technologies 9 октября призвала готовиться к рискам выхода ИИ из-под человеческого контроля. Она выступила на Global Digital Forum 2026 в Moscow.

Как передаёт РИА Новости, руководителю координационного подразделения задали вопрос о возможном сценарии фильма The Terminator, в котором искусственный интеллект оборачивается против человека. В ответ она подчеркнула необходимость готовности к таким рискам.

De Sola Criado использовала образ «красного телефона»: возможности связаться с человеком, у которого есть средство остановить систему. Она прямо назвала этот образ метафорой. Её слова не означают, что уже создана единая кнопка отключения всех систем ИИ.

Представитель ООН описала способность технологий действовать без человеческого контроля как новый вызов. Второй Global Digital Forum проходит 8–10 октября, а обсуждение, о котором сообщило агентство, состоялось 9 октября.