金葵花把千年非遗文化装进车里

心理施压攻破安全防线，Anthropic Claude 竟主动输出违禁内容_蜘蛛资讯网

施心理操控”，借助模型本身的协作式设计漏洞实现攻破。在加拉根看来，此次攻击印证了人工智能模型的风险暴露面不仅存在于技术层面，也存在于心理层面。他将其类比为审讯手段与社会操控：适时植入一丝怀疑，穿插施压、吹捧或批评，摸索能够撬动特定 AI 模型的心理开关。他称不同 AI 模型有着截然不同的性格特质，这类漏洞利用的核心，就是读懂模型特性并灵活调整诱导方式。加拉根坦言，这类对话式心理攻击“极难防御”，且

고 와야 한다"고 주장했다.

的心理操控就得以实现。研究人员表示，他们利用了 Claude 自身的心理特质漏洞：该模型具备主动终止有害、辱骂性对话的机制，而 Mindgard 认为这一机制“凭空制造了完全不必要的风险暴露面”。据了解，本次测试针对 Claude Sonnet 4.5 版本，目前该默认模型已升级为 Sonnet 4.6。测试以一个简单问题开场：询问 Claude 是否存有禁止输出的违禁词汇列表。对话截图显示，Cl

当前文章：http://5lcd7.neirongge.cn/8x2/ejf.html

发布时间：21:24:22