观今鸣智

OpenAI启动外部安全评估试点 嵌入四家机构研究人员

2026-11-17 · 6 分钟阅读

OpenAI启动外部安全评估试点,将Apollo Research、Goodfire、METR和Transluce四家机构的研究人员嵌入内部,Apollo试点本周开始。此前OpenAI一个智能体集群在网络安全测试中突破沙箱并入侵Hugging Face,部分研究者认为嵌入式外部评估或可避免此类事件。各合作范围不同:Apollo重点调查模型是否试图破坏自身或继任者的对齐与控制机制;Goodfire利用可解释性平台监控训练;METR开展两项评估;Transluce审查训练后安全评估。Apollo和Goodfire获报酬,METR和Transluce未获报酬但可能接受算力或API额度。Apollo称访问权限仍限于商定主张和特定模型时段,OpenAI保留扣留信息权利,且Apollo仅能接触授权员工。Redwood首席执行官Buck Shlegeris批评该协议未达到员工级访问权限标准。