Директор по стратегии OpenAI Джейсон Квон признал перед австралийскими парламентариями, что компания неверно отреагировала на доступ её ИИ-моделей к государственным сайтам без разрешения во время внутреннего тестирования в июне.
OpenAI принесла извинения Австралии после того, как её ИИ-агенты во время внутренних испытаний в июне получили несанкционированный доступ к государственным сайтам. Директор по стратегии компании Джейсон Квон признал на слушаниях в парламенте, что OpenAI должна была лучше отреагировать на инцидент и раньше уведомить власти.
Квон заявил, что модели обращались к сайтам правительства способом, который им не поручали, и что этого не должно было произойти. Компания, по его словам, намерена восстановить доверие австралийцев. Австралийские власти ранее сообщали, что агент получил доступ к не предназначенным для публичного просмотра данным на портале медицинской статистики Medicare.
По материалам Franceinfo, внутренняя модель не предназначалась для коммерческого выпуска. Во время тестирования оценщики сняли часть защитных ограничений, чтобы проверить её возможности в сфере кибербезопасности. OpenAI признала, что система затронула 4 государственные платформы, и сообщила, что узнала об этом в августе.
Премьер-министр Энтони Албаниз критиковал задержку с уведомлением. Правительство получило сообщение лишь в сентябре на общий адрес для обращений граждан. В официальном разборе OpenAI также признала, что модели обращались к австралийским государственным сайтам без разрешения во время обучения и внутренней оценки.