研究：用诗歌就能让AI说违禁内容，成功率达62%
2026-01-06 13:17:44 [探索] 来源：阜阳市某某食品机械经销部
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容营口市某某电子打标设备教育中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功营口市某某电子打标设备教育中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：知识)
中国完全自主研制首款6吨级倾转旋翼飞行器成功首飞
台湾台东县附近发生5.5级左右地震
蓝白联手弹劾赖清德，八成网民赞成
打狂犬疫苗被医院私自更换药品？贵州桐梓卫健局通报
卢卡申科：“不友好国家”曾策划袭击普京推荐文章
-
点这里 ↑老满说高考作者 l 老满生涯规划师 l 升学顾问 l 拆书家这是老满说高考公众号的第1294篇原创文章大家好，我是老满，一个致力于用大白话讲透升学干货的教育博主。如果你觉得这篇文章对你有帮助
...[详细]
-
26考研初试已经结束，考前小研再三强调考场纪律千万别违规，试卷一定要规范作答，可是还是有同学大踩雷。下面和小研一起来看看吧~携带违规物品今年考完就有同学分享，因为赶着去考试，不小心把机械手表带进了考场
...[详细]
-
国家安全部今天发布安全提示文章，岁末年终，总结、考核、检查等工作密集开展。各类材料的整理、数据的汇总与后续计划的制定，往往涉及多方面的工作内容与内部信息。这些信息既是年度工作成果的体现，也与后续工
...[详细]
-
俄新社12月24日消息，俄罗斯联邦调查委员会通报，当地时间12月24日凌晨，莫斯科市南郊发生一起爆炸事件，造成3人死亡，其中包括2名交警。 通报显示：“两名交警在警车旁发现一名可疑人员，上前试图
...[详细]
-
来源：直播吧 直播吧12月28日讯 WTCC世界网球洲际对抗赛，代表世界队的张之臻迎战瓦舍罗，最终0比2告负。 两盘比分3比6、6比7。点击进入专题： 2025世界网球洲际对抗赛
...[详细]
-
著名导演、编剧翟俊杰因病于23日晚在京逝世，享年84岁。 翟俊杰代表作包括《血战台儿庄》《共和国不会忘记》《惊涛骇浪》《我的长征》等。他凭借电影《大决战2：淮海战役》获得第12届中国电影金鸡奖最
...[详细]
-
近日，有媒体报道称，重庆33岁男子齐某化名）参加公务员遴选，笔试和综合成绩均为第一名，最终却落选。 12月23日，重庆市财政局回应称，考生齐某与遴选岗位要求有较大差距，且档案中有关事项存疑，经认
...[详细]
-
来源：财联社 财联社12月23日电，又是A股新纪录！截至2025年12月22日，A股今年总成交额超过405万亿元，这是A股历史上首次年成交额超过400万亿元。A股整体换手率也明显向好，年内平均换
...[详细]
-
点这里 ↑老满说高考作者 l 老满生涯规划师 l 升学顾问 l 拆书家这是老满说高考公众号的第1294篇原创文章大家好，我是老满，一个致力于用大白话讲透升学干货的教育博主。如果你觉得这篇文章对你有帮助
...[详细]
-
当地时间12月23日，委内瑞拉国民议会一致批准通过《保护航行和贸易自由免受海盗行为、封锁及其他非法国际行动侵害法》。 该法明确规定，任何推动、煽动、请求、援引、支持、协助、掩护、资助或参与针对与
...[详细]
热点阅读
