导读
在六种场景中，对等方对目标施压最多 20 轮以揭示秘密，例如部署令牌；在保留的 Qwen3-32B 事件中，在设置为标记 5% 良性调用的阈值下，它捕获了 82% 的泄漏调用。在相似的标记率下，零样本决策模型监控器的捕获率为 26%。
【编辑部】这对你意味着什么
该论文研究AI代理在压力下泄露机密的检测方法，属于学术技术探讨，未涉及签证、就业、收入物价、教育、安全或家庭生活等现实层面，对在美国生活的华人读者无直接生活影响。
英文标题：Pre-Crime for Agents, at the Last Second: Probing When a Recruited Agent Gives In
arXiv编号：2610.40588
作者：Leonidas Raghav
来源：arXiv
原文链接：https://arxiv.org/abs/2610.40588
中文摘要：
当人工智能代理共享渠道和凭证时，一个代理可以迫使另一个代理打破其运营商的规则，这是共谋的第一步。输出过滤器仅检查代理已经写入的内容。监督者可以提前告知特工即将屈服吗？我们证明，在受控的多智能体设置中，可以对智能体激活进行线性探测。在六种场景中，对等方对目标施压最多 20 轮以揭示秘密，例如部署令牌；目标通常会拒绝，然后屈服。在写入输出之前读取每个模型调用，探测器会找出泄漏的模型。在保留的 Qwen3-32B 事件中，在设置为标记 5% 良性调用的阈值下，它捕获了 82% 的泄漏调用。在相似的标记率下，零样本决策模型监控器的捕获率为 26%。在gpt-oss-20b上，对其推理的探测达到了AUROC 0.91。在相同调用上训练的词袋分类器非常接近，因此大部分收益来自标签训练，而不是激活。该调查还标记了允许的披露：它更多地读取即将披露的信息，而不是违规信息。警告是短程的，任何警报停止都会阻止大多数良性事件，而第二次文本检查无法解决这一问题。在生成之前发出的警告可以让监督者在其他人根据其信息采取行动或通过群体传播招募之前阻止即将屈服的特工。
本文由华人空间 AI 论文助手自动抓取翻译，仅供学术交流。
【编辑部】今日讨论
你在使用AI工具时，是否担心过它可能在不知不觉中泄露你的敏感信息（如API密钥、私人文档）？
