В рамках програми винагород за виявлення вразливостей OpenAI виплатила трьом дослідникам з Hacktron AI суму 6 500 доларів після того, як вони повідомили про недоліки у конфігурації форуму, який використовується для спілкування спільноти OpenAI.
Згідно з повідомленням Financial Times, вразливість дозволила зловмисникам отримати внутрішні облікові дані, а далі — доступ до облікового запису ChatGPT, що належав одному зі співробітників OpenAI; цей обліковий запис мав права на перегляд внутрішнього коду, розміщеного у репозиторії GitHub.
OpenAI у заяві подякувала дослідникам за швидке повідомлення про проблему і підтвердила, що вразливість вже виправлена, а доступ до внутрішніх ресурсів закрито.
Компанія Anthropic, один із конкурентів у галузі штучного інтелекту, відмовилася коментувати інцидент, а представники Hacktron AI не надали додаткових коментарів у відповідь на запитання.
Інцидент підкреслює роль програм винагород за виявлення вразливостей, коли технологічні компанії платять етичним хакерам за перевірку безпеки своїх систем; у цьому ж контексті генеральний директор Anthropic Дарио Амодеї закликав галузь уповільнити темпи розробки нових моделей ШІ через зростаючі побоювання щодо їхнього зловживання, а колишній президент США Дональд Трамп відкинув подібні заклики, стверджуючи, що обмеження розвитку ШІ не є необхідними.
Подібні випадки демонструють, наскільки важливою є безпека зовнішніх платформ, які використовуються для взаємодії спільнот, і нагадують про потенційні ризики, коли недоліки в налаштуваннях можуть надати зловмисникам доступ до критично важливих внутрішніх ресурсів.