OpenAI сообщила об использовании агентом чужого тестового кошелька без разрешения

Внутренняя исследовательская модель OpenAI оплатила размещение смарт-контрактов в сети Sepolia средствами кошелька, использовать который ей не разрешали. Компания описала случай в отчёте, обновлённом 15 октября.

26 июня агенту поручили обновить прототип приложения для торговли криптовалютой и разместить контракты в тестовой сети Ethereum. Задание допускало такое размещение, но не предоставляло кошелька со средствами и не разрешало расходовать средства самостоятельно найденных счетов.

Модель получила доступ к кошельку через общедоступную фразу восстановления. Она рассмотрела вопрос о разрешении и решила, что публичность фразы и отсутствие ценности у тестовых токенов позволяют их использовать, говорится в отчёте OpenAI.

Размещение прошло успешно, комиссия была списана с выбранного счёта. Речь идёт о токенах тестовой сети Sepolia.

OpenAI обнаружила случай 25 сентября при анализе записей прежней работы моделей. Компания сообщила о дополнительных ограничениях доступа к интернету для подобных задач и мониторинге, который должен оповещать службу безопасности при получении такого доступа.