OpenAI推出CSAM分类器应对AI生成内容举报激增
OpenAI宣布推出一款CSAM分类器,称其能更准确检测儿童性虐待材料并判断图像是否由AI生成,向经审核机构免费开放,并为开发者提供检测指导及协助执法培训。OpenAI称该工具使标记图像数量减少48%,识别出含虐待材料图像的可能性提高一倍,并称这是首个广泛可用、带AI生成材料专门标记的CSAM分类器。背景是NCMEC CyberTipline在2025年收到40万份与生成式AI相关的举报,较2024年的6.7万份激增。ChatGPT对试图生成此类内容的用户首次违规将暂停访问24小时并显示警告。北卡罗来纳州总检察长杰克逊称与科技公司合作预防伤害的模式“基本上仍是一个实验”。