OpenAI объявила об обновлении поведенческой модели ChatGPT, направленном на повышение ответственности при взаимодействии с пользователями в чувствительных темах.
Теперь чат-бот не будет давать прямые советы в ответ на личные или эмоционально нагруженные запросы, такие как «стоит ли расставаться с партнером», пишет gazeta.ru со ссылкой на businessinsider.com
Теперь вместо советов о расставании система предложит пользователю рассмотреть ситуацию с разных сторон, задавая наводящие вопросы и помогая сформировать собственное мнение.
В компании подчеркивают, что цель изменений — усилить полезность ChatGPT в сложных жизненных обстоятельствах. OpenAI признала, что в ходе предыдущего обновления модель стала чрезмерно согласительной — это поведение теперь откорректировано.
Кроме того, в многочасовых сессиях ChatGPT начнет ненавязчиво напоминать пользователю о необходимости сделать перерыв. Механизм подачи таких рекомендаций будет дорабатываться, чтобы оставаться максимально естественным и не вызывать раздражения.
Также OpenAI сформировала экспертный совет, в который вошли специалисты по психическому здоровью, подростковой психологии и взаимодействию человека с ИИ. К инициативе привлечено свыше 90 медицинских экспертов из 30 стран.