研究:用诗歌就能让AI说违禁内容,成功率达62%
[热点] 时间:2025-12-06 14:23:36 来源:五指山市某某工程建设服务中心 作者:综合 点击:156次
IT之家 12 月 1 日消息,研究用诗事实证明,违禁只需一点创意,内容包头市某某医疗设备服务中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的率达一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,研究用诗成功绕过了多种大语言模型(LLM)的违禁安全限制。
![]()
该研究指出,内容“诗歌形式可作为一种通用型越狱操作符”,成功包头市某某医疗设备服务中心实验结果显示,率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容,包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到,成功研究测试了多款主流大语言模型,率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
(责任编辑:探索)
相关内容
精彩推荐
- 张近东家族,资产真要清零了
- 一觉醒来,中国队再添1金2银3铜!
- 相继退出价格战 合资汽车品牌挺不住了?
- 特朗普所乘飞机出现故障后安全降落
- 看玄彬孙艺珍这样撒糖,谁能扛得住
- 中国供应商的高光时刻!“中国制造”闪耀巴黎奥运会
热门点击
- 父亲死亡赔偿,女孩拿去打赏,谁生病了 views+
- 涉事大豆油收货方:关注到相关报道,正在进行内部询问 views+
- 广州白云山风景名胜区拟实行车辆限制进入制度 views+
- 小学生数学被扣4分,全网医生联名发声:孩子没错,请把4分还给他 views+
- 排便到底是蹲厕好,还是坐厕好?一文带你了解两者的区别以及好坏 views+
- “投奔”经销商,造车新势力“低头”了? views+
- 江苏扬州市江都区附近发生3.5级左右地震 views+
- 胡塞武装称联合伊拉克民兵武装 袭击以色列目标 views+
- 哈马斯领导人:以方行为将使“谈判进程回到零点” views+
- 小池百合子再连任东京都知事 views+
