本文以某网站(http://www.test.com)为例。该网站的用户每天会上传大量的图片(该网站的图片上传后会存储于OSS对象存储服务中),为了能够快速监控该网站新增的图片是否涉及色情,涉政暴恐等,该网站使用内容安全OSS违规检测功能。本文主要介绍如何使用OSS违规检测功能监控该网站的图片。

前提条件

步骤一:授权访问OSS存储空间

OSS违规检测只向开通了阿里云对象存储OSS服务的用户提供服务,在使用OSS违规检测前,您需要先开通OSS存储空间并授权内容安全读取OSS Bucket。关于授权的具体操作,请参见授权内容安全访问OSS存储空间

步骤二:配置回调通知

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择设置 > OSS违规检测
  3. OSS违规检测页面,单击消息通知页签。
  4. 消息通知页签下,单击新增通知方案
  5. 新增通知方案页面,设置方案名称回调地址加密算法通知类型审核结果信息,并单击确定
    设置方案名称某网站图片检测回调地址http://www.test123.com,勾选加密算法SHA256方式,通知类型选择机器审核结果人工审核结果审核结果选择确定违规疑似违规正常。关于参数说明的具体介绍,请参见通知方案参数说明表
    通知方案
    设置完成后,系统自动生成Seed。Seed值用于校验您的回调接口收到的请求来自阿里云。请保存自动生成的Seed,根据需要应用于您的业务。

步骤三:设置增量扫描任务

  1. OSS违规检测页签,单击增量扫描
  2. 从左侧待选择框中选择需要检测的Bucket,添加到右侧的已选择框中。Bucket
  3. 设置冻结方式修改文件访问权限
  4. 开启图片检测开关,设置图片的检测场景每日图片扫描张数上线检测无后缀文件信息。
    设置检测场景涉黄涉政图文广告不良场景,在高级设置中设置每日图片扫描张数上线10万张,开启检测无后缀文件。关于参数说明的具体介绍,请参见设置增量扫描任务
    图片检测
  5. 回调通知方案下拉框中,选择某网站图片检测
  6. 选中我已经同意OSS违规检测服务条款,并单击保存
    增量扫描配置保存后即时生效。系统会按照增量扫描配置,自动对已选择Bucket中新增的图片、视频进行违规检测。

步骤四:查看扫描结果

  1. 在左侧导航栏,选择OSS违规检测 > 增量扫描
  2. 单击扫描结果页签。
    查看近7天的增量扫描结果和处理违规内容。增量扫描结果
  3. 您可以根据实际情况对扫描结果进行人工审核,人工审核的具体操作如下:
    • 违规并删除

      通过单击违规并删除,可将图片或视频从内容安全控制台和OSS Bucket中一并删除。

    • 正常并忽略

      通过单击正常并忽略,则忽略该检测结果。忽略后该图片或视频将不再在控制台展示,并不影响存储在OSS Bucket中的图片或视频。

    • 正常并解冻

      若您设置了自动冻结功能,则还可以在选中图片或视频后单击正常并解冻,将已冻结的图片或视频解冻。

步骤五:查看统计信息

  1. 单击数据统计页签。
  2. 数据统计页面,单击图片
    查看近7天增量扫描的统计信息。统计信息