文章 2024-07-21 来自:开发者社区

破解ChatGPT惊人耗电!DeepMind新算法训练提效13倍,能耗暴降10倍

近日,DeepMind公司公布了一项名为“Switch Transformer”的新型算法,该算法有望在人工智能(AI)领域掀起一场能源消耗的革命。据DeepMind称,Switch Transformer在训练效率上比OpenAI的ChatGPT模型提高了13倍,同时将能耗降低了10倍。这一突破性的进展不仅为A...

文章 2024-07-20 来自:开发者社区

破解ChatGPT惊人耗电!DeepMind新算法训练提效13倍,能耗暴降10倍

最近,DeepMind 提出了一种名为 JEST(Joint Example Selection for Training)的新算法,该算法在多模态学习领域取得了重大突破。JEST 算法通过联合选择数据批次,显著提高了模型的训练效率和性能,同时大幅降低了能耗。 JEST 算法的核心思想是,在大规模预...

文章 2023-06-29 来自:开发者社区

7 Papers | DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU

目录:Faster sorting algorithms discovered using deep reinforcement learningVideo-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video UnderstandingPatch-based 3D Natural Scene Generation f....

7 Papers | DeepMind用AI重写排序算法;将33B大模型塞进单个消费级GPU
文章 2023-05-17 来自:开发者社区

排序、搜索、 动态规划,DeepMind用一个神经算法学习器给解决了

来自 DeepMind 等机构的研究者提出了一个通用神经算法学习器,其能够学习解决包括排序、搜索、贪心算法、动态规划、图形算法等经典算法任务,达到专家模型平均水平。近年来,基于深度神经网络的机器学习系统取得了巨大的进步,尤其是在以感知为主的任务方面。这些模型通常需要在分布内泛化,这意味着它们的训练集和验证集需要有输入预期分布。相比之下,想要模型在推理任务上表现出色,这就要求即使在分布外(out-....

排序、搜索、 动态规划,DeepMind用一个神经算法学习器给解决了
文章 2023-05-10 来自:开发者社区

再掀强化学习变革!DeepMind提出「算法蒸馏」:可探索的预训练强化学习Transformer

【新智元导读】该怎么把预训练Transformer范式用到强化学习里?(文末为论文作者的ppt讲解)在当下的序列建模任务上,Transformer可谓是最强大的神经网络架构,并且经过预训练的Transformer模型可以将prompt作为条件或上下文学习(in-context learning)适应不同的下游任务。大型预训练Transformer模型的泛化能力已经在多个领域得到验证,如文本补全、....

再掀强化学习变革!DeepMind提出「算法蒸馏」:可探索的预训练强化学习Transformer
文章 2023-05-10 来自:开发者社区

DeepMind攻克50年数学难题!AlphaZero史上最快矩阵乘法算法登Nature封面(2)

AI推动算法发现的自动化首先,我们将寻找矩阵乘法的有效算法问题转化为一个单人游戏。在这个游戏中,棋盘是一个三维张量(数字阵列),记录了当前算法离正确的程度。通过一组与算法指令相对应的允许移动,玩家试图修改张量并将其条目清零。当玩家成功做到这一点时,对于任何一对矩阵来说,都会产生一个可证明正确的矩阵乘法算法,而其效率则由将张量清零所需的步骤数来体现。这个游戏具有令人难以置信的挑战性--要考虑的可能....

DeepMind攻克50年数学难题!AlphaZero史上最快矩阵乘法算法登Nature封面(2)
文章 2023-05-10 来自:开发者社区

DeepMind攻克50年数学难题!AlphaZero史上最快矩阵乘法算法登Nature封面(1)

【新智元导读】DeepMind碾压人类高手的AI围棋大师AlphaZero,下一个目标是数学算法!现已发现50年以来最快的矩阵乘法算法。下围棋碾压人类的AlphaZero,开始搞数学算法了,先从矩阵乘法开始!在昨天DeepMind团队发表在Nature上的论文中,介绍了 AlphaTensor,这是第一个用于为矩阵乘法等基本计算任务发现新颖、高效、正确算法的AI系统。论文链接:https://w....

DeepMind攻克50年数学难题!AlphaZero史上最快矩阵乘法算法登Nature封面(1)
文章 2022-02-17 来自:开发者社区

当AI学会回忆:Deepmind提出长期信度分配新算法,登上Nature子刊

在进行目标导向的决策时,人类经常通过回忆过去的经验进行决策。这种回忆不仅是讲故事,还改变了我们未来的行动,并赋予我们跨时间地将行动和后果联系起来的重要计算能力。 对于AI,这种能力有助于解决长期信度分配问题(long-term credit assignment):即如何评估行为在长期行为序列中的效用。但人工智能中现有的信度分配方法无法解决行动与结果之间存在长时间延迟的任务。 DeepMind最....

当AI学会回忆:Deepmind提出长期信度分配新算法,登上Nature子刊
文章 2022-02-17 来自:开发者社区

为保护人类,DeepMind开发专项测试软件,以保障AI算法安全性

但即便有些算法测试中是安全的,在复杂的现实世界中仍有可能是不安全的。 近日,Alphabet旗下的人工智能公司DeepMind开发了一款测试软件,用以测试人工智能算法的安全性。 据悉,研究人员设计开发了一组2D游戏视频——gridworld,该游戏由一系列像素快组成,状似国际象棋的棋盘,能够从9个方面对人工智能算法进行安全评估,包括AI系统是否会进行自我修改...

为保护人类,DeepMind开发专项测试软件,以保障AI算法安全性
文章 2022-02-17 来自:开发者社区

强生进军医疗机器人、Deepmind利用深度学习算法检查乳腺癌X光,AI医疗的风口已到来?

合作是AI在医疗领域快速赋能的一大解决方式。 一直以来,强迫症、忧郁症等情绪类精神疾病都被业界认为是没有办法从生理上进行治愈的疾病,最近,在《自然》杂志上公布的最新AI+医疗的神经算法就可以借助脑植入物治疗你的强迫症,这是AI在医疗领域的应用之一,不止于此,各大公司已经在各个方面跃跃欲试 : 强生宣布开始做医疗机器人; Deepmind开始将深度学习算法用于乳腺癌...

强生进军医疗机器人、Deepmind利用深度学习算法检查乳腺癌X光,AI医疗的风口已到来?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

智能搜索推荐

智能推荐(Artificial Intelligence Recommendation,简称AIRec)基于阿里巴巴大数据和人工智能技术,以及在电商、内容、直播、社交等领域的业务沉淀,为企业开发者提供场景化推荐服务、全链路推荐系统开发平台、工程引擎组件库等多种形式服务,助力在线业务增长。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等