NeurIPS 2024：标签噪声下图神经网络有了首个综合基准库，还开源
图神经网络（GNNs）在处理图结构数据方面展现出了强大的潜力，尤其是在节点分类任务中。然而，GNNs的性能往往依赖于高质量的节点标签，而这些标签在现实世界中很难获得，因为它们可能来自不可靠的来源或受到对抗攻击的影响。因此，标签噪声在现实世界的图数据中很常见，会对GNNs的训练产生负面影...
NeurIPS 2022 | 如何提高存储、传输效率？参数集约型掩码网络效果显著
美国东北大学，罗切斯特理工等研究者提出参数集约型掩码网络，探索有限数量随机数的能力并提升神经网络储存和传输效率。为了处理更复杂的任务，近年来神经网络的规模也在不断变大，如何高效的储存和传输神经网络变得十分重要。另一方面，随着彩票假说（Lottery Ticket Hypothesis (LTH)）的提出，随机稀疏神经网络最近展现出很强的潜力，如何利用这种潜力来提高网络的存储和传输效率也很值得探索....
NeurIPS 2022 | Meta 提出二值transformer网络BiT，刷新NLP网络压缩极限
神经网络压缩一直被视为机器学习模型从实验室走向工业应用中的不可或缺的一步，而量化 (quantization) 又是神经网络压缩中最常用的方法之一。今天这篇 NeurIPS 论文 BiT 从实验和理论验证了极端压缩情况下的 1-bit 的 BERT 网络也能在自然语言处理的分类数据集 GLUE 上取得接近全精度网络的结果，将与全精度网络差距从之前方法的 16% 缩小到了仅 6%，被审稿人称赞是一....
NeurIPS 2021 | 华为诺亚Oral论文：基于频域的二值神经网络训练方法
二值神经网络（BNN）将原始全精度权重和激活用符号函数表征成 1-bit。但是由于常规符号函数的梯度几乎处处为零，不能用于反向传播，因此一些研究已经提出尝试使用近似梯度来减轻优化难度。然而，这些近似破坏了实际梯度的主要方向。基于此，在一篇 NeurIPS 2021 论文中，来自华为诺亚方舟实验室等机构的研究者提出使用傅里叶级数的组合来估计频域中符号函数的梯度以训练 BNN，即频域逼近 (FDA)....
英伟达工程师解读NeurIPS 2019最热趋势：贝叶斯深度学习、图神经网络、凸优化
51个研讨会，1428篇接收论文，13000名参会者，这就是今年的NeurIPS会议。这个一年一度的大型AI顶会，揭示了当前AI研究的哪些趋势呢？来自英伟达人工智能应用团队的计算机科学家Chip Huyen近日写了一篇非常干货的总结。本文内容包括：1. 解构深度学习的黑盒子2. 深度学习的新方法2.1 使用贝叶斯原理进行深度学习2.2 图神经网络2.3 凸优化3. 神经科学x机器学习4. 关键词....
NeurIPS 2019：两种视角带你了解网络可解释性的研究和进展
以下就两篇论文从两种不同的角度来描述研究者们对于泛化能力的理解和解释。论文 1：Intrinsic dimension of data representations in deep neural networks论文链接：https://arxiv.org/pdf/1905.12784v1.pdf对于一个深度网络，网络通过多层神经层渐进的转换输入，这其中的几何解释应该是什么样的呢？本文的作者通....
NeurIPS 2018提前看：可视化神经网络泛化能力
作者 Yuanyuan Li：几次转行，本科国际贸易，研究生转向统计，毕业后留在比利时，选择从事农用机械研发工作，主要负责图像处理，实现计算机视觉算法的落地。欣赏一切简单、优雅但有效地算法，试图在深度学习的簇拥者和怀疑者之间找到一个平衡。我追求生活的宽度，这也是为什么在工作之外，我也是机器之心的一名技术分析师。希望在这里和大家分享自己对于技术的理解，通过思想的碰撞拓宽思路和眼界。机器之心个人主页....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
域名解析DNS
关注DNS行业趋势、技术、标准、产品和最佳实践，连接国内外相关技术社群信息，追踪业内DNS产品动态，加强信息共享，欢迎大家关注、推荐和投稿。
+关注