为了使检测结果更贴合您的实际业务,内容安全支持自定义图库。自定义图库适用于图片和视频鉴黄、图片和视频涉政暴恐识别场景。您也可以使用自定义图库对指定的图片进行拦截、放行和人工审核,以便于应对突发的管控需求。
背景信息
根据用途不同,自定义图库分为黑名单、白名单、疑似名单。在检测中应用自定义图库后,若被检测图片命中图库中的样本,则会被打上图库对应的识别结果标签。黑名单图库对应的识别结果是违规(拦截),白名单对应正常(放行),疑似名单则对应疑似(人工审核)。自定义图库包括系统回流图库和用户创建图库。
- 系统回流图库由您的自助审核记录自动生成,默认应用于所有同类场景的图片检测。您可以管理系统回流图库中的图片,不可以操作系统回流图库,例如停用或删除图库。
- 用户创建图库由您自行添加,可用于某次检测或某类检测场景。您可以管理用户创建图库中的图片,也可以操作用户创建图库。
说明 您可以创建10个自定义图库(不含系统回流图库),且在每个图库中添加最多10000张样本图片。
操作步骤
相关操作
对于自定义图库(非系统回流图库),您可通过自定义图库页签中操作列下的删除、编辑和停用对目标图库进行操作。
后续步骤
完成配置风险库后,您就可以使用OSS违规检测功能,在使用OSS违规检测功能之前,您需要先配置消息通知。请参见配置消息通知。