研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-21 20:40:46 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容平顶山市某某工业设备业务部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功平顶山市某某工业设备业务部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
[环球网报道 记者 姜蔼玲]据韩联社报道，韩国外交部长官赵显19日表示，外交部将推进总统李在明明年访华事宜。 报道称，赵显当天在首尔外交部大楼向李在明汇报工作。他表示，“将于明年早些时候推进总统2025-12-21
中国观众认定的烂片，北美观众当成宝，3天破2.4亿夺票房冠军
上周末全球票房榜已经出炉。由于国产片的拉胯，好莱坞毫无悬念的屠榜了，邓超的《胜券在握》算是国产片的独苗，让人意外的是《红色一号》在北美观众的支持下，竟然冲上了榜单第二。《胜券在握》夺全球周末票房第五，2025-12-21
李子柒破防大哭？满脸过敏全身红疹差点毁容，消失3年经历了什么
5小时观看破亿，前几天李子柒的突然回归让全世界都沸腾了...这不是熹妃回宫，这直接是白月光纯元复活了啊当微博的更新列表弹出李子柒、抖音突然刷到熟悉的面孔时，很多人哪怕怀疑自己眼花了，都不敢相信她真的回2025-12-21
#秋日生活打卡季#姐妹们双十一你们都买了些什么好东西呀，咱就是说可以在评论区一起分享一下战利品呀嘿嘿但是该说不说本尾款人双十一就像被掏空了一样尤其是钱包）所以我这几天的状态be like：不过我们女孩2025-12-21
别的家长在补课路上狂奔，你孩子在阳台上画蜗牛。画得很认真，涂了五种颜色，还非得给它起名叫“斯文败类”。你一边被感动得不行，一边默默打开了搜索引擎，查了一下“哪个年级开始不补课就等于提前告别清北”。是不2025-12-21
来源：直播吧 直播吧11月24日讯北京时间11月23日22：30，德甲第11轮，勒沃库森对阵海登海姆。上半场，多施和马修亚斯连入两球为海登海姆取得领先，随后帕拉西奥斯贡献一射一传，希克挑射破门将2025-12-21
最新评论