OpenAI推出CSAM检测分类器并强化ChatGPT警告机制
OpenAI宣布推出打击儿童性虐待材料(CSAM)的新工具,包括一款可检测CSAM图像(含AI生成图像)的新图像分类器,正通过API向部分公司免费开放,并与美国国家失踪与受虐儿童中心(NCMEC)共同开发。OpenAI称,早期测试中该分类器标记图像减少48%而发现的虐待图像数量相同,被标记图像为虐待图像的可能性高出两倍。ChatGPT还将新增警告屏幕,对尝试生成儿童性化内容的用户显示警报、引导寻求专业支持并暂停账户24小时,屡次违规可能永久删号。公司同时发布开发者指南,并为执法部门提供AI调查工具与培训。此前OpenAI已面临多起诉讼,指控其技术伤害用户尤其是儿童;Common Sense Media将其技术标记为对青少年的“不可接受风险”。