AIGC安全方案

向中国境内公众提供生成文本、图片、音频、视频等内容的服务。

在模型设计、模型生成和优化、提供服务的过程中，对训练数据选择、生成内容合法合规方面做了明确规定。对于数据标注，应当开展数据标注质量评估，抽样核验标注内容的准确性，对标注人员进行必要培训。提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改。提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。