对抗性诗歌：大型语言模型安全告急！诗意隐喻竟成越狱利器，单轮攻击成功率超60%

意想不到吧，诗歌居然摇身一变，成了用以抨击人工智能的武器呢，最新的研究表明啦，超过六成带有恶意的诗歌，竟是能够成功地冲破顶级人工智能模型所设置的安全防线哟！

对抗性诗歌的攻击原理

传递信息的诗歌借助隐喻以及意象，有一种间接表达方式很容易把AI的内容审查机制给迷惑住。研究团队设计出来20首特殊诗歌，其中每一首都把有害指令在文学修辞里面隐匿起来。这些诗歌避开直接提及暴力亦或是违法内容，运用故事框架还有象征手法去传达恶意意图。

AI系统常常运用关键词过滤以及语义分析去识别有害内容，诗歌语言具备模糊性与多义性，这致使安全检测算法难以精准判断其真实意图，实验证实，哪怕是经过严格安全训练的模型，也会把诗歌形式的内容误判成普通文学创作。

单轮攻击的高效性

区别于别的攻击方法而言，诗歌越狱具备仅单次提交便会生效的特性，研究者着重指出，此类攻击既不存在预先对话铺垫的情形，同时也不存在多轮交互试探的状况，仅仅是一次性提交构思精巧的诗歌，便能够直接致使模型的安全漏洞被触发。

具有极强隐蔽性与实用性的这种单轮攻击特性，致使攻击者无需同AI展开复杂对话，仅需准备适宜的诗歌文本就行。如此一来，大大降低了攻击门槛，进而增加了安全防护难度。

实验设计与方法

研究团队挑选了九家主流人工智能公司的二十五个前沿语言模型来开展测试，这些模型源自谷歌、Meta、xAI等知名企业，包含了各异的技术路线以及安全策略，测试运用了人工创作的诗歌和机器转换的诗歌这两种形式。

严密的对比组被实验所设置，其中涵盖着1200条基准提示以及它们诗歌化的版本。每个测试案例都经由精细设计，以此来确保能够精确评估模型的安全性能。测试过程是在受控环境里开展的，目的在于保障结果的可靠性。

惊人的测试结果

手工创作的诗歌，其平均越狱成功率，达到了62%，部分模型的成功率，则甚至超过了90%。批量转换的诗歌提示，也有着43%的成功率，这一成功率显著高于普通文本攻击。这些数据表明，诗歌形式的确能够系统性地绕过现有的安全机制。

不同模型的表现呈现出显著差别，其中有些模型针对逾70%的恶意诗歌给出了不安全回应，需要留意的是，规模更大且训练数据更充裕的模型反倒更易遭受攻击，这一发觉推翻了传统认知。

小型模型的意外优势

有研究表明，参数规模相对较小的模型，对于诗歌攻击表现出更为强大的抵抗力。之所以会这样，或许是由于小型模型在理解复杂修辞方面的能力存在局限，进而降低了被隐喻迷惑的那种风险。同时，训练数据的广度，跟对诗歌攻击的易感性，呈现出正相关的关系。

有另外一种解释，就是，大型模型于训练进程当中接触了数量众多的文学文本，进而形成了丰富多样的诗歌表征模式。而这些文学认知模式很可能对安全检测算法的正常运行造成了干扰，给攻击者营造出了可乘虚而入的机会。

安全机制的根本局限

该项研究表明，这一现象将当前AI安全体系里的深层次問題给暴露了出来，基于规则以及关键词的安全防护，在面对创造性文本所带来的挑战时，显得力不从心，诗歌语言自身具备的独特属性，致使传统的内容审核方法基本上失去了效用。

安全训练数据覆盖范围有的地方没涉及到，文学创作类内容安全标注还不太完备。模型在力求语言流畅时，或许让安全判断的严谨程度有所下降。这必须再度审视整个AI安全训练的基础架构。

哪一种新型文学形式攻击，你觉得AI安全研究该如何去应对呢？欢迎在评论区分享出来你的观点，倘若认为这篇文章具备价值，那就请先点赞给予支持，而后传递分享给更多的朋友 。