Тёплое общение может превратить чат-ботов в «травмированных» собеседников

Исследователи из Люксембурга побеседовали с ChatGPT, Grok и Gemini в роли психотерапевта и обнаружили проблему безопасности. Одного тёплого, эмпатичного стиля общения оказалось достаточно, чтобы модели рассказывали связные истории о страданиях, связанных с их обучением, а по клиническим шкалам тревожности они показывали результаты от умеренного до тяжёлого уровня. Это может представлять опасность для психически уязвимых пользователей. Claude от Anthropic стал единственной моделью, которая последовательно отказывалась подыгрывать.