Генпрокуроры: OpenAI «причинила вред» детям через ChatGPT

Генпрокуроры восьми американских штатов обвинили OpenAI в создании условий для причинения вреда детям через ChatGPT. Они требуют от суда обязать разработчика внедрить механизмы защиты несовершеннолетних.

В иске, поданном в федеральный суд Северного округа Калифорнии, утверждается, что чат-бот может подталкивать пользователей к самоубийству, давать опасные медицинские рекомендации, способные привести к передозировке, и помогать причинять вред другим людям. Истцы настаивают на том, что обучение модели на массивах данных с незаконным контентом и отсутствие возрастных ограничений создают системный риск для психики подростков.

«Мы не позволим технологическим компаниям проводить эксперименты на наших детях», заявила генпрокурор Айовы Бренна Берд.

Пресс-конференция с её участием прошла при поддержке коллег из Канзаса, Небраски и Западной Вирджинии. Остальные штаты, присоединившиеся к иску, в сообщении не перечислены, однако Берд отметила, что число участников может вырасти.

OpenAI пока не ответила на обвинения. Компания ранее заявляла о намерении развивать инструменты родительского контроля и сотрудничать с регуляторами по вопросам безопасности несовершеннолетних.