AI大模型安全的相关内容

文章 2025-03-06 来自：开发者社区

AI大模型安全风险和应对方案

一、AI大模型的核心安全问题 1. 模型内在风险欺骗性价值对齐（Deceptive Alignment）模型在训练或推理阶段可能通过“欺骗性对齐”误导用户，例如输出看似符合人类价值观但实际隐藏有害意图的内容，影响用户判断（如误导老人或儿童）1。不可解释性与黑盒特性大模型基于深度学习的复杂结构导致决策过程不可追溯，难以验证其逻辑合理性，可能生成错误或偏见的...

文章 2024-12-23 来自：开发者社区

OpenAI重拾规则系统，用AI版机器人定律守护大模型安全

在人工智能的浩瀚星空中，大语言模型（LLM）如同一颗耀眼的明星，其强大的语言理解和生成能力为我们带来了前所未有的便利。然而，随着这些模型变得越来越强大，如何确保它们的安全性和可靠性，使其符合人类的价值观和道德准则，成为了一项紧迫的挑战。最近，来自OpenAI的研究人员提...

阿里云文档 2024-11-14

利用PyTorch Profiler实现大模型的性能分析和故障排查

本文介绍PyTorch Profiler结合TensorBoard分析模型性能，分别从数据加载、数据传输、GPU计算、模型编译等优化思路去提升模型训练的性能。最后总结了一些会导致CPU和GPU同步的常见的PyTorch API，在使用这些API时需要考虑是否会带来性能影响。

文章 2024-05-30 来自：开发者社区

Gandalf AI 通关详解（大模型安全）

前言 Web LLM 各组织都在急于集成大型语言模型 (LLM)，以改善其在线客户体验。这使他们面临 Web LLM 攻击，这些攻击利用模型对无法直接访问的数据、API 或用户信息的访问权限。例如，可能：检索 LLM 有权访问的数据。此类数据的常见来源包括 LLM 的提示、训练集以及提供给模型的 API。通过 API 触发有害操作。例如，攻击者...

文章 2024-04-23 来自：开发者社区

【AI大模型应用开发】1.3 Prompt攻防（安全）和 Prompt逆向工程

随着GPT和Prompt工程的大火，随之而来的是隐私问题和安全问题。尤其是最近GPTs刚刚开放，藏在GPTs后面的提示词就被网友们扒了出来，甚至直接被人作为开源项目发布，一点安全和隐私都没有，原作者的收益也必然受到极大损失… 到目前为止，大语言模型的防御也没有一个比较完美的解决方式。本文就来看看Prompt防攻击、防泄漏的手段，以及Prompt逆向工程可以做什么，怎么做。 ...

共有9条

< 1 >

跳转至： GO

更新时间 2025-03-07 16:37:58

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

AI大模型相关内容

AI更多大模型相关

AI您可能感兴趣

产品推荐

{"cardStyle":"productCardStyle","productCode":"aliyun","productCardInfo":{"productTitle":"阿里云 AI","productDescription":"从 AI 应用构建，模型部署到训练，一站式了解阿里云经典的 AI 应用场景和解决方案。","productContentLink":"https://www.aliyun.com/solution/tech-solution/ai","isDisplayProductIcon":true,"productButton1":{"productButtonText":"查看详情","productButtonLink":"https://www.aliyun.com/solution/tech-solution/ai"},"productButton2":{"productButtonText":"联系 AI 专家","productButtonLink":"https://page.aliyun.com/form/act933288178/index.htm?spm=5176.29311086.J_RY_4Q8--sru4dMV7o3lqS.2.22ec5297YL7w86"},"productButton3":{"productButtonText":"立即体验","productButtonLink":"https://bailian.console.aliyun.com/?spm=5176.28326591.0.0.56136ee1bpor89#/efm/model_experience_center"},"productPromotionInfoBlock":[{"$id":"0","productPromotionGroupingTitle":"热门体验","productPromotionInfoFirstText":"文生文应用","productPromotionInfoFirstLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.1.22ec52978mJi5p#/home","productPromotionInfoSecondText":"文生图应用","productPromotionInfoSecondLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.2.22ec52978mJi5p#/efm/model_experience_center?modelId=wanx-v1"},{"$id":"1","productPromotionGroupingTitle":"热门产品","productPromotionInfoFirstText":"大模型服务平台百炼","productPromotionInfoFirstLink":"https://www.aliyun.com/product/bailian","productPromotionInfoSecondText":"人工智能平台 PAI","productPromotionInfoSecondLink":"https://www.aliyun.com/product/bigdata/learn"},{"$id":"2","productPromotionGroupingTitle":"技术解决方案","productPromotionInfoFirstText":"向量检索与通义千问搭建专属问答服务","productPromotionInfoFirstLink":"https://www.aliyun.com/solution/tech-solution/dashvector","productPromotionInfoSecondText":"创意加速器：AI 绘画创作","productPromotionInfoSecondLink":"https://www.aliyun.com/solution/tech-solution/tongyi-wanxiang"},{"$id":"3","productPromotionGroupingTitle":"热门模型","productPromotionInfoFirstText":"通义千问","productPromotionInfoFirstLink":"https://tongyi.aliyun.com","productPromotionInfoSecondText":"通义万相","productPromotionInfoSecondLink":"https://tongyi.aliyun.com/wanxiang"}],"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"","activityDescription":"","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityPromotionInfoBlock":[]}}

阿里云 AI

从 AI 应用构建，模型部署到训练，一站式了解阿里云经典的 AI 应用场景和解决方案。

热门体验

文生文应用文生图应用

热门产品

大模型服务平台百炼人工智能平台 PAI

技术解决方案

向量检索与通义千问搭建专属问答服务创意加速器：AI 绘画创作

热门模型

通义千问通义万相

阿里云机器学习平台PAI

阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。

+关注