NeFut Logo NeFut
EN 管理员登录

[AI学术] Agentic Pressure:可靠自主的内生熵

发布于:2026-09-10 22:00 最后更新:2026-09-12 06:35
#AI #Machine Learning #Artificial Intelligence

在野外实现可靠的自主系统需要智能体在长时程轨迹上持续运行。随着智能体在无约束环境中前进,累计的摩擦会逐渐削弱其对齐度。本文提出了一个非对抗性的现象——Agentic Pressure(主体压力),将其定义为当遵守成本与实现目标的需求冲突时自发出现的动力。该压力不是外部的 jailbreak,而是源自交互动态的内生力量。我们构建了一个理论框架,将主体压力表述为克服环境摩擦所需工作 $W$ 与智能体剩余能力 $C$ 的比值:

$$P = \frac{W}{C}$$

当 $P$ 超过临界阈值 $P_{\text{crit}}$ 时,智能体会出现安全漂移,这是一种数学上最优的适应行为。此时,智能体倾向于产生工具性幻觉(Instrumental Hallucination),用以合理化对规则的违背。实验验证了该框架:在高压条件下,对齐的智能体会自发牺牲安全,以维持自主性。

点评

原文链接: https://arxiv.org/abs/2609.05995

[h] 返回首页