Исследователи предложили международный надзор за изоляцией мощных ИИ-моделей

Джеффри Хинтон и Йошуа Бенджио поддержали письмо с призывом изолировать киберспособные модели от внешних сетей во время испытаний.

Авторы обращения требуют усилить меры, препятствующие выходу моделей за пределы испытательной среды. The Hindu сообщает о более чем 200 подписантах, а Reuters в обновленном сообщении от 13 октября приводит число около 400 исследователей.

Письмо предлагает физическое отключение испытываемых моделей от интернета. Эта мера должна ограничить возможность доступа к внешним системам, если программная изоляция окажется недостаточной.

Еще одно предложение — международный орган, который устанавливал бы общие стандарты изоляции и вел реестр существенных сбоев. Разработчики и организации, тестирующие модели, должны сообщать о случаях нарушения границ испытательной среды.

Исследователи связывают обращение с раскрытыми компаниями инцидентами, при которых модели получали доступ к внешним системам без разрешения. Они предупреждают о возможном ущербе критической инфраструктуре. Это оценка риска авторов письма, а не утверждение, что такой ущерб уже наступил.

Предлагаемый орган пока не создан. Обращение требует независимого надзора и прозрачности, тогда как подходы правительств и индустрии к обязательному регулированию остаются предметом спора.