AI大模型安全风险和应对方案
一、AI大模型的核心安全问题 1. 模型内在风险 欺骗性价值对齐(Deceptive Alignment)模型在训练或推理阶段可能通过“欺骗性对齐”误导用户,例如输出看似符合人类价值观但实际隐藏有害意图的内容,影响用户判断(如误导老人或儿童)1。 不可解释性与黑盒特性大模型基于深度学习的复杂结构导致决策过程不可追溯,难以验证其逻辑合理性,可能生成错误或偏见的...
阿里推出 AI 安全厨房:红外技术监测燃点,算法识别风险
4 月 28 日,雷锋网(公众号:雷锋网)从阿里安全了解到,阿里推出了 AI 安全厨房解决方案,探索用 AI 图像识别技术和红外热成像技术,来解决厨房的安全生产问题。目前,AI 安全厨房已在盒马上海部分门店投入使用。 在盒马上海湾店的后厨的两口大油锅斜上方的墙角处,安装有一个摄像头。阿里安全天眼工作室技术专家南歌称,它是红外热成像摄像头,能接收物体,比如油锅,释放的红外线,并实时转换成温度信...
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
产品推荐
人工智能平台PAI
人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。
+关注