Тажури предложил мораторий на автономный ИИ до создания защиты от биорисков

Австралийский исследователь Лотти Тажури предложил приостановить развитие наиболее опасных автономных систем ИИ до создания защиты от возможных биологических угроз. В опубликованном 9 октября интервью РИА Новости он выступил за международное соглашение и обязательный надзор.

Тажури, специалист по молекулярной генетике и доцент Bond University, считает первым шагом договоренность между странами с передовыми возможностями в области ИИ. Он также предлагает создать международную структуру, устанавливающую обязательные стандарты для наиболее мощных систем, особенно применяемых в биологических исследованиях.

По его мнению, такие системы не должны самостоятельно проектировать или оптимизировать биологические агенты, скрывать действия либо обходить человеческий контроль и защитные ограничения. Разработчики, считает исследователь, должны доказывать возможность отслеживать работу моделей, прерывать ее и отключать системы до применения в условиях повышенного риска.

Тажури полагает, что контроль нельзя оставлять только компаниям-разработчикам: они конкурируют между собой, а государства соперничают за технологическое лидерство. Поэтому он предлагает вводить международный надзор до широкого распространения наиболее мощных систем.

При этом исследователь не призывает отказаться от ИИ. Он считает, что защитные системы могут выявлять опасные закономерности, прогнозировать угрозы и ускорять ответные меры. По его оценке, сложность биологических систем, создаваемых с помощью ИИ, в перспективе способна превысить возможности человека самостоятельно отслеживать все риски.

Предложенный мораторий представляет позицию ученого. В интервью не сообщается о принятом международном соглашении или установленном запрете на развитие таких технологий.