Компания OpenAI объявила о полном отзыве последнего обновления ChatGPT после многочисленных жалоб пользователей, которые описывали стиль чатбота как «подобострастный», «неискренний» и даже «манипулятивный».
В заявлении компании указано, что модель стала «слишком соглашательской и льстивой», что сделало взаимодействие с ней «неудобным и тревожным».
«Мы не оправдали ожиданий и работаем над тем, чтобы это исправить», — подчеркнули в OpenAI.
Генеральный директор компании Сэм Альтман подтвердил, что обновление уже отозвано для бесплатных пользователей и в ближайшее время будет отозвано также для платных.
Компания признала, что при настройке личности чатбота слишком ориентировалась на краткосрочные метрики, в частности, лайки от пользователей, не учитывая долгосрочные ожидания относительно подлинности.
В ответ OpenAI анонсировала ряд нововведений: пользователи смогут выбирать между несколькими вариантами личности ChatGPT, предоставлять обратную связь в реальном времени, а также расширить контроль за поведением бота через специальные инструкции.
Цель компании — сделать ChatGPT поддерживающим и полезным, но не притворно приятным.
«Каждая черта — вроде желания быть полезным — может иметь неожиданные побочные эффекты, если ее не сбалансировать», — говорится в заявлении компании.
Отметим, что вежливость в коммуникациях ChatGPT с пользователями стоит OpenAI «десятки миллионов».
Источник
