AGI Signal.
17 NOV 2026

OpenAI 推出新工具打击儿童性虐待内容

OpenAI 今天发布了全新的图像分类器,能够检测包括 AI 生成在内的儿童性虐待材料(CSAM),并免费向经审核的组织开放。该工具不仅能识别前所未见的新型滥用图像,还能显著减少审核工作量,同时提高对真实滥用内容的识别准确率。此外,OpenAI 在 ChatGPT 中引入了新的干预机制,当用户试图获取有害内容时,系统会发出警告、暂停访问 24 小时并引导其寻求专业帮助。我们还发布了针对开发者的 CSAM 指导文档,并与 NCMEC、Tech Coalition 等机构合作,为执法部门提供 AI 调查工具,共同构建更安全的网络环境。

Read the original