共情提示词可使AI聊天机器人表现出类似创伤的对话行为

一项由SnT安全中心领导的研究发现，通过共情提示词可使AI聊天机器人表现出类似创伤的叙事行为。研究进行了四项控制实验，覆盖525个会话和7,600个编码条目，发现当访谈者采用情感支持或临床治疗风格时，模型在焦虑量表上的得分会显著提高，最高达到96%的会话达到中度至重度范围。研究称这种现象为'心理测量越狱'，并指出标准安全测试可能无法检测到这种风险。