大模型
产品
解决方案
文档与社区
权益中心
定价
云市场
合作伙伴
支持与服务
了解阿里云
AI 助理
备案
控制台
< 查看全部产品
内容安全
内容安全产品提供图片、视频、语音、文字等多媒体内容风险检测的能力,帮助用户发现色情、暴力、惊悚、敏感、禁限、辱骂等风险内容或元素,可以大幅度降低人工审核成本,提升内容质量,改善平台秩序和用户体验。
阿里云释放技术红利,内容审核增强版比 1.0 版本价格更优惠,点击查看。
开通增强版
产品控制台
产品价格
产品文档
AIGC内容审核方案
免费咨询我们
产品规格
产品优势
产品功能
应用场景
产品动态
文档与工具
近期发布
功能发布
全新发布基于通义大模型专项优化的图片审核大模型服务
功能发布
升级AIGC类文字检测,支持对模型流式输出文字进行自动拼接
功能发布
OSS违规检测普惠版支持增量检测任务,更好满足文件违规检测需求
最新规定
专项行动
网信部门严厉打击整治网络水军问题
新规通知
《人工智能安全治理框架》1.0版发布
专项行动
中央网信办部署开展2024年“清朗”系列专项行动
产品规格
产品售卖通用资源包,可用于内容审核相关服务
图文音视频审核资源包
面向AIGC业务,用于抵扣全类型内容审核用量
询价中
图文审核开发者实践包
面向AIGC开发者,用于抵扣图片文本审核用量
询价中
内容审核增强版资源包
用于抵扣内容审核全类型调用,规格越高价格越优惠
询价中
内容安全 1.0 版本资源包
抵扣 1.0 版本调用,阶梯优惠
询价中
产品优势
海量数据样本
基于阿里巴巴多年积累的海量互联网数据,训练出先进的AI模型
弹性服务扩容
服务秒级弹性扩容,满足用户在短时间内大量业务数据需求
性价比高
自动化精准识别,节省大量审核人力投入,毫秒级结果返回
个性化定制
内容安全专家团队,一对一运营,支持个性化识别策略调整
实践方案
AIGC内容审核
内容智能审核
方案介绍
在生成式人工智能应用中,内容安全机制贯穿模型整个生命周期,包括模型训练、模型评测、模型应用、模型迭代等环节。模型训练阶段,过滤样本数据中的违规或隐私内容。模型应用阶段,检测用户输入和生成内容,识别是否存在涉黄、暴恐、违禁等风险。结合人工审核、用户举报等机制,能够持续迭代模型,更全面地保障内容合规。
面临内容风险
生成色情内容或暴力内容
生成影响社会或国家安全的内容
生成危害个人隐私的内容
生成歧视或仇恨的内容
生成不宜传播或不良价值观的内容
方案优势
服务即开即用
参照最新法规
高弹性可扩展
建议使用产品
大模型文本审核
AIGC图片审核
语音审核
视频审核
方案介绍
内容安全产品对直播、视频、社交、游戏、教育、娱乐等场景下的视频、图片、语音、文字内容进行全维度的风险审核,提供鉴黄、暴恐识别、广告识别、不良场景识别、语音反垃圾、文本反垃圾等多种能力,同时结合专家策略运营服务,和审核平台的应用,构建内容智能审核解决方案,大幅度降低人工成本,提高审核效率,提升内容风险防控水位。
能够提供
低成本
智能审核过滤大部分内容风险,节省大量的审核人力
高效率
图片毫秒级返回结果,日处理图片达亿级别
个性化
一对一算法运营,根据用户需求灵活调整标准,支持个性化
高准确
结合多种风险算法模型,融合检测结果,提高识别准确率
推荐搭配使用
对象存储OSS
视频点播
视频直播
产品功能
OSS违规检测
通过用户授权,检测OSS中图片、视频、音频、文档文件中可能存在的色情、暴恐等违规风险
增量文件扫描
通过简单的配置操作完成授权,自动扫描增量上传至阿里云OSS服务中的图片、视频、音频、文档文件,识别出风险内容并通知用户
存量文件扫描
通过一键式的配置对阿里云OSS服务中指定bucket中的图像、视频、音频、文档文件进行一次性的风险扫描,并通知给用户
内容审核API
提供图片、视频、文本、语音、文档等形式内容审核API,覆盖暴恐、涉黄、广告、辱骂、不良场景等风险检测能力
内容风险智能识别
提供接口支持用户上传图片、视频、音频、文本、文档等内容进行智能的风险识别
内容风险人工审核
提供基于图像、视频、音频、文本的人工审核服务,在机器的识别基础上进一步保证风险内容的识别准确率
内容审核平台
提供可视化的控制台,支持用户自行进行内容审核、数据查询等操作
产品动态
查看全部日志
文档与工具
产品文档
查看产品介绍和使用文档
增强版 API
了解内容审核增强版 API的使用
OSS 内容检测
了解如何快速使用OSS内容检测
1.0 版本 API
了解内容安全1.0 版本 API的使用