观今鸣智

OpenAI推出CSAM检测新工具并加强ChatGPT干预措施

2026-11-17 · 7 分钟阅读

OpenAI发布新图像分类器用于检测潜在CSAM(含AI生成内容),称这是首个广泛可用且能提示CSAM是否可能由AI生成的此类工具,经NCMEC协助训练,通过API向审核通过的组织免费开放。OpenAI称早期测试中该工具标记图像较现有工具减少48%而发现的虐待图像数量大致相同,被标记图像含虐待内容可能性约为两倍;fal、invideo AI、SafetyKit等早期合作伙伴的测试数据亦被引用。ChatGPT新增警告以打断寻找CSAM的尝试,删除被标记对话并暂停访问24小时,屡次违规可致账户关闭或向当局报告。OpenAI还发布面向开发者的CSAM指南,并与Anthropic、Google共同委托Tech Coalition制定相关披露应对指南,同时向儿童安全执法单位提供工具与培训。