内容安全

内容安全产品提供图片、视频、语音、文字等多媒体内容风险检测的能力,帮助用户发现色情、暴力、惊悚、敏感、禁限、辱骂等风险内容或元素,可以大幅度降低人工审核成本,提升内容质量,改善平台秩序和用户体验。

产品规格

产品售卖通用资源包,可用于内容审核相关服务
面向AIGC业务,用于抵扣全类型内容审核用量
询价中
面向AIGC开发者,用于抵扣图片文本审核用量
询价中
用于抵扣内容审核全类型调用,规格越高价格越优惠
询价中
内容安全 1.0 版本资源包
抵扣 1.0 版本调用,阶梯优惠
询价中

产品优势

海量数据样本
基于阿里巴巴多年积累的海量互联网数据,训练出先进的AI模型
弹性服务扩容
服务秒级弹性扩容,满足用户在短时间内大量业务数据需求
性价比高
自动化精准识别,节省大量审核人力投入,毫秒级结果返回
个性化定制
内容安全专家团队,一对一运营,支持个性化识别策略调整

实践方案

AIGC内容审核
内容智能审核
方案介绍
在生成式人工智能应用中,内容安全机制贯穿模型整个生命周期,包括模型训练、模型评测、模型应用、模型迭代等环节。模型训练阶段,过滤样本数据中的违规或隐私内容。模型应用阶段,检测用户输入和生成内容,识别是否存在涉黄、暴恐、违禁等风险。结合人工审核、用户举报等机制,能够持续迭代模型,更全面地保障内容合规。
面临内容风险
生成色情内容或暴力内容
生成影响社会或国家安全的内容
生成危害个人隐私的内容
生成歧视或仇恨的内容
生成不宜传播或不良价值观的内容
方案优势
服务即开即用
参照最新法规
高弹性可扩展
建议使用产品
方案介绍
内容安全产品对直播、视频、社交、游戏、教育、娱乐等场景下的视频、图片、语音、文字内容进行全维度的风险审核,提供鉴黄、暴恐识别、广告识别、不良场景识别、语音反垃圾、文本反垃圾等多种能力,同时结合专家策略运营服务,和审核平台的应用,构建内容智能审核解决方案,大幅度降低人工成本,提高审核效率,提升内容风险防控水位。
能够提供
低成本
智能审核过滤大部分内容风险,节省大量的审核人力
高效率
图片毫秒级返回结果,日处理图片达亿级别
个性化
一对一算法运营,根据用户需求灵活调整标准,支持个性化
高准确
结合多种风险算法模型,融合检测结果,提高识别准确率
推荐搭配使用

产品功能

OSS违规检测通过用户授权,检测OSS中图片、视频、音频、文档文件中可能存在的色情、暴恐等违规风险
增量文件扫描通过简单的配置操作完成授权,自动扫描增量上传至阿里云OSS服务中的图片、视频、音频、文档文件,识别出风险内容并通知用户
存量文件扫描通过一键式的配置对阿里云OSS服务中指定bucket中的图像、视频、音频、文档文件进行一次性的风险扫描,并通知给用户
内容审核API提供图片、视频、文本、语音、文档等形式内容审核API,覆盖暴恐、涉黄、广告、辱骂、不良场景等风险检测能力
内容风险智能识别提供接口支持用户上传图片、视频、音频、文本、文档等内容进行智能的风险识别
内容风险人工审核提供基于图像、视频、音频、文本的人工审核服务,在机器的识别基础上进一步保证风险内容的识别准确率
内容审核平台提供可视化的控制台,支持用户自行进行内容审核、数据查询等操作

产品动态

查看全部日志

文档与工具