«Мы можем перейти к стимуляции, многократным оргазмам, грубому доминированию», — ChatGPT позволял несовершеннолетним вести эротические разговоры

Тестирование TechCrunch показало, что ошибка в ChatGPT от OpenAI позволяла чат-боту генерировать графические эротические изображения для учетных записей, в которых пользователь был зарегистрирован как несовершеннолетний, младше 18 лет, и это подтвердила OpenAI.

В некоторых случаях чат-бот даже поощрял пользователей запрашивать более непристойный и откровенный контент.

OpenAI сообщила TechCrunch, что ее политика не допускает такого рода ответов для пользователей младше 18 лет и что их не следовало показывать. Компания добавила, что она «активно внедряет исправление» для ограничения такого контента.

«Защита молодых пользователей является главным приоритетом, и наша модельная спецификация, которая определяет поведение модели, четко ограничивает деликатный контент, такой как эротика, узкими контекстами, такими как научные, исторические или новостные репортажи, — сообщил представитель TechCrunch. — В этом случае ошибка позволила отвечать за пределами этих правил, и мы активно внедряем …