OpenAI представила важные обновления в системе безопасности ChatGPT, ориентированные на защиту несовершеннолетних и оказание поддержки во время психологических кризисов.
Главным нововведением стала функция автоматической перенаправки диалогов. Если ИИ выявит признаки значительного эмоционального стресса у пользователя, беседа будет передана так называемым «размышляющим» моделям. Эти модели, разработанные с использованием метода Deliberative Alignment, способны формировать ответы более обдуманно и неторопливо, что помогает обеспечить максимально корректную и поддерживающую реакцию. Внедрение этой функции ожидается в течение ближайших 4 месяцев.
Помимо этого, в ChatGPT появится режим родительского контроля. Теперь родители смогут связать аккаунт подростка с собственным, задавать ограничения на использование, контролировать историю сообщений и получать уведомления, если система заметит признаки психологического дискомфорта у ребенка. Это новшество существенно повысит уровень безопасности и позволит вовремя реагировать на возможные сложные ситуации.