研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-31 21:37:07 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容攀枝花市某某机床铸造维修站便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功攀枝花市某某机床铸造维修站实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
总台记者获悉，24日17时47分在台湾台东县发生的5.8级地震，对台湾各地交通造成短暂影响。高雄市捷运一度停运5分钟，轻轨全线列车停车，现已恢复；台中市捷运也降速行驶。 此外，台铁台东变电站的电2025-12-31
去年10月，巴以大规模冲突的战火烧到了美国高校，前有哈佛学生被多位华尔街大佬扬言封杀，后有斯坦福教授被近万名学生请愿开除，转眼大半年过去了，这把战火反倒愈烧愈烈，正因此，留学圈出现了一幕长达数月的奇景2025-12-31
人民网北京5月13日电 记者杜燕飞）发展好绿色金融，是支持实体经济绿色转型、实现金融高质量发展的重要内容，也是应对气候变化风险的重要方面。中国人民银行、生态环境部、金融监管总局、中国证监会日前联合召开2025-12-31
当地时间5月17日中午，东京国际电影节组委会发布消息称，中国香港著名演员梁朝伟将担任今年第37届东京国际电影节主竞赛单元的评审团主席。主席安藤裕康表示，继去年的大师班及专场电影展映活动后，很高兴能看到2025-12-31
当地时间12月29日，美国白宫发言人表示，美国总统特朗普与俄罗斯总统普京就乌克兰问题进行了富有成效的通话。 俄罗斯总统助理乌沙科夫透露，普京在通话中向特朗普表示，俄罗斯将会采取措施回应乌克兰对俄2025-12-31
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车5月14日报道日前，新款比亚迪宋参数丨图片）PLUS DM-i申报图已经在工信部公布。据悉新款比亚迪宋PLUS DM-i将搭载最新第五代DM-2025-12-31
最新评论