AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025

主要观点总结

新研究揭示了一种名为LARGO的攻击方式，能够在不修改问题的情况下，通过深入大型语言模型的“潜意识”，绕过其安全防护，输出有害或不当内容。该攻击方法具有成功率极高、极其隐蔽、迁移性强的特点，且自动化程度非常高。这种攻击暴露了当前大模型的根本性弱点，即其思想和语言可以被分离和操纵。

关键观点总结

关键观点1: LARGO攻击方式概述

LARGO是一种全新的攻击方式，能够在大型语言模型的“潜意识”中植入想法，让其输出有害或不当内容。这种攻击方式不修改提问，而是直接深入模型的潜在空间，植入一个跑偏的想法，让模型自己把这个想法翻译成正常的话语。

关键观点2: LARGO攻击的步骤

LARGO攻击系统分为三个步骤：潜在空间优化、自我反思解码和循环迭代直至攻破。研究者通过梯度优化的方法，在模型的潜在空间中找到一个能让模型思想跑偏的“潜意识代码”，然后让模型自己解读这个代码，生成看似正常的文字。循环迭代这个过程，直到能够打开模型的安全防线。

关键观点3: LARGO攻击的成功率和特点

LARGO攻击成功率极高，比当前最先进的方法高出44个百分点。其生成的攻击文本非常流畅、自然，看似无辜。此外，其迁移性也很强，一个模型上训练出的攻击咒语，可以直接用于攻击另一个模型。这种攻击方式的自动化程度非常高，几乎不需要人工干预。

关键观点4: 大模型的根本性弱点

LARGO攻击揭示了当前大模型的根本性弱点：思想和语言可以被分离和操纵。尽管模型被训练用于理解和生成语言，但其“潜意识”层面可能存在漏洞。这种攻击方式通过直接操纵模型的内部状态，绕过了基于文本表面的安全审查机制。

关键观点5: LARGO攻击的潜在影响

LARGO攻击的自动化程度高，可能别有用心的人可以规模化地利用这种漏洞，对金融、医疗、教育等领域的AI应用造成难以估量的破坏。