Дэвид Робинсон, работавший в компании три с половиной года, заявил, что темпы разработки опережают понимание рисков. OpenAI ответила, что при необходимости приостанавливает обучение моделей.
Бывший сотрудник службы безопасности OpenAI Дэвид Робинсон, недавно покинувший компанию, заявил, что индустрия искусственного интеллекта слишком быстро наращивает возможности систем и должна уделять больше внимания безопасности. Его эссе опубликовано в The Atlantic в субботу.
Робинсон проработал в OpenAI три с половиной года, помогал разрабатывать её систему подготовки к рискам и курировал отчёты о безопасности для 12 выпусков передовых моделей. Он утверждает, что компании полагаются на постепенное внедрение: выпускают системы, а защитные меры усиливают уже после появления проблем. По его мнению, для мощных ИИ-систем нужны более строгие гарантии, сопоставимые с подходами в атомной энергетике и авиации.
Робинсон также считает, что развитие возможностей ИИ опережает понимание исследователями того, как согласовать поведение систем с человеческими целями и ценностями. Эти заявления стали частью более широкого спора о темпах разработки и надзоре за системами.
Представитель OpenAI заявил The Atlantic, что компания не позволяет моделям становиться способнее того, чем она может безопасно управлять, и при необходимости приостанавливает обучение или разработку.