Сначала Сора, теперь сексуальный чат? OpenAI отменяет эротический режим ChatGPT

Вкратце

• Сообщается, что OpenAI приостановила планы по выпуску режима для взрослых в ChatGPT.
• Этот шаг последовал за ранее обещаниями предоставить проверенным взрослым доступ к более расширенным функциям контента.
• Сообщается, что этот шаг был предпринят в ту же неделю, когда OpenAI отменила свой генератор текста в видео Sora.

OpenAI отложила запуск ранее анонсированного эротического чатбота, согласно сообщению, явно отходя от спорного расширения ChatGPT, которое позволило бы взрослым пользователям создавать сексуальный контент. Этот отказ, впервые сообщенный Financial Times в четверг, связан с внутренними опасениями относительно социального воздействия сексуализированного искусственного интеллекта. В январе члены Экспертного совета OpenAI по благополучию и ИИ якобы предупредили, что эротические функции чата могут способствовать развитию нездоровой эмоциональной зависимости у пользователей и рискуют превратить чатбота в то, что один из участников описал как «сексуального коуча по суициду». OpenAI отказалась комментировать Decrypt статус режима для взрослых, и компания еще не опубликовала информацию о его судьбе.

Решение отменить, предположительно, режим под названием «Citron mode» было принято через два дня после отмены модели Sora для преобразования текста в видео, поскольку компания сосредоточилась на разработке единой платформы ИИ вместо набора специализированных инструментов.  Этот шаг обозначает отход от курса, намеченного генеральным директором Сэмом Олтманом еще в октябре. Тогда Олтман заявил, что OpenAI планирует предоставить проверенным взрослым доступ к романтическому и эротическому контенту после внедрения надежной системы проверки возраста. Олтман описал эту идею как часть более широкой инициативы по предоставлению взрослым пользователей большей автономии при сохранении мер защиты для несовершеннолетних. Однако к декабрю сроки были перенесены на 2026 год, поскольку компания продолжала совершенствовать технологии оценки возраста.

Хотя OpenAI, возможно, выходит из бизнеса эротических чатботов еще до того, как в него полностью вошла, модели ИИ не обязательно нуждаются в «эротическом режиме» для установления связей с пользователями. Когда в прошлом летом OpenAI устарела GPT-4o, пользователи заполнили социальные сети призывами восстановить модель после того, как заявили, что установили личные и эмоциональные отношения с чатботом, что отражает более широкий дебат вокруг эротических чатботов и взаимодействия людей с ИИ. В июне исследование, опубликованное учеными из Университета Вaseda в Токио, показало, что 75% участников обращаются к системам ИИ за эмоциональной поддержкой. В то же время разработчики ИИ сталкиваются с растущим вниманием со стороны общественности, поскольку судебные иски проверяют, ответственен ли разговорный ИИ за укрепление иллюзий или вредоносное поведение у уязвимых пользователей.