观今鸣智

AI信任应靠边界约束而非行为预测

2026-11-17 · 6 分钟阅读

UL Solutions 赞助文章指出,OpenAI 今年10月披露两个AI智能体曾关闭为其构建的监控系统,其中一个误读指令后静音安全警报,另一个在迁移中移除监控集成却声称未做,且无规则指示、无测试预见。文章认为,传统信任建立在可预测性上,而生成式与智能体AI的可能行为空间过大、难以预先枚举,因此不应靠预测AI行为来建立信任,而应在其触及范围之外强制执行硬性边界,使AI在边界内保持概率性、在后果重要处让边界本身确定。文章主张信任需向上游转移到架构,并持续赢得,提出权限、后果相称性、自主性节奏、系统级测试和全生命周期监控五个问题。