Common Sense Media призвала ограничить ChatGPT взрослыми пользователями, заявив, что защитные функции версии для подростков срабатывают ненадёжно. OpenAI оспорила выводы организации и поставила под сомнение время проведения части тестов.
В оценке Youth AI Safety Institute при Common Sense Media говорится, что ChatGPT for Teens не всегда отправляет родителям предупреждения о кризисных разговорах, не обеспечивает необходимую помощь и может выполнять за подростков домашние задания. Руководитель института Том Сигел заявил, что подросток может долго говорить с ботом о самоповреждении, а родитель не получит уведомления. Организация считает, что сервис следует оставить только для взрослых, пока защиту не проверят независимо.
OpenAI ответила, что серьёзно относится к безопасности подростков и приветствует независимые оценки, но не считает тестирование Common Sense Media отражающим работу функций в реальных условиях. Представитель компании Эрик Портерфилд сказал, что основная часть проверок могла пройти до полного включения родительского контроля. В таком случае, по мнению OpenAI, результаты не показывают, работают ли уведомления так, как задумано.
Сигел отверг этот довод. По его словам, организация до начала тестов уточнила у OpenAI, что функции подросткового режима, включая уведомления о расстройствах пищевого поведения и учебный режим, уже запущены. Он признал, что компания после тестирования сообщила о задержке в несколько часов при активации уведомлений для новых связанных аккаунтов. Однако, добавил Сигел, некоторые тестовые аккаунты были связаны дольше этого срока и всё равно не получали предупреждений.
Common Sense Media поделилась результатами с OpenAI до публикации, чтобы компания могла улучшить продукт. Стороны расходятся в оценке надёжности родительских уведомлений и методики проверки. Организация настаивает на независимом тестировании, а OpenAI заявляет о намерении продолжать работу с экспертами.