从零开始深度学习：全连接层、损失函数与梯度下降的详尽指南
引言 在深度学习的领域，全连接层、损失函数与梯度下降是三块重要的基石。如果你正在踏上深度学习的旅程，理解它们是迈向成功的第一步。这篇文章将从概念到代码、从基础到进阶，详细剖析这三个主题，帮助你从小白成长为能够解决实际问题的开发者。 第一部分：全连接层——神经网络的基础单元 1.1 什么是全连接层？ 全连接层（Fully Connected Layer，简称FC层）是神经网络中最基本的组件之一。它....
深度学习笔记(十三):IOU、GIOU、DIOU、CIOU、EIOU、Focal EIOU、alpha IOU、SIOU、WIOU损失函数分析及Pytorch实现
IOU-loss 算法作用：Iou的就是交并比，预测框和真实框相交区域面积和合并区域面积的比值，计算公式如下，Iou作为损失函数的时候只要将其对数值输出就好了。算法代码： def Iou_loss(preds, bbox, eps=1e-6, reduction='mean'): ''' preds:[[x1,y1,x2,y2], [x1,y1,x2,y2],,,] bb...
深度学习之探索神经网络、感知器与损失函数
在当今的数字化时代，深度学习作为一种强大的机器学习技术，正在迅速改变着我们的生活方式。无论是智能推荐系统、自动驾驶车辆还是语音识别应用，深度学习都在背后默默地发挥作用。本文旨在为初学者提供一份深入浅出的指南，帮助理解神经网络的基础构造、感知器的工作机制以及损失函数在训练过程中的关键作用。 一、神经网络的基本构造 神经网络是一种模拟人脑神经元结构的计算模型，它由多个层级组成，每个层...
《零基础实践深度学习》2.5 手写数字识别之损失函数
2.5 手写数字识别之损失函数 第2.4节我们尝试通过更复杂的模型（经典的全连接神经网络和卷积神经网络），提升手写数字识别模型训练的准确性。本节我们继续将“横纵式”教学法从横向展开，如图1所示，探讨损失函数的优化对模型训练效果的影响。 图1：“横纵式”教学法 — 损失函数优化 损失函数是模型优化的目标ÿ...
深度学习中常用损失函数介绍
选择正确的损失函数对于训练机器学习模型非常重要。不同的损失函数适用于不同类型的问题。本文将总结一些常见的损失函数，并附有易于理解的解释、用法和示例 均方误差损失(MSE) loss_fn = nn.MSELoss()py 均方误差（Mean Squared Error，简称 MSE）损失是在监督学习中，特别是在回归问题中经常使用的一种损失函数。它计算了预测值与真实值之间差异的平方的平...
深度学习中损失函数和激活函数的选择
前言 本篇博客的目的是根据业务目标，为大家提供关于在构建神经网络时，如何根据需求选择合适的最终层激活函数和损失函数的指导和建议。 如果大家还没了解激活函数，可以参考：神经元和激活函数介绍 ...
深度学习常见的损失函数
1 分类任务在深度学习中, 损失函数是用来衡量模型参数的质量的函数, 衡量的方式是比较网络输出和真实输出的差异，损失函数在不同的文献中名称是不一样的，主要有以下几种命名方式：在深度学习的分类任务中使用最多的是交叉熵损失函数，所以在这里我们着重介绍这种损失函数。1.1 多分类任务在多分类任务通常使用softmax将logits转换为概率的形式，所以多分类的交叉熵损失也叫做softmax损失，它的计....
[深度学习实战]基于PyTorch的深度学习实战(上)[变量、求导、损失函数、优化器]（一）
一、前言 用了Matlab搭建神经网络才愈发感觉"人生苦短，我用PyTorch“是多么正确。毕竟新的神经网络架构还是得自己一点点敲，现在是一点都笑不出来了，指望Matlab提供的老框架和训练算法也做不出什么算法方法的突破，顶多就是在实现功能上方便点罢了。 本博文要求读者有一定的Python编程基础！，对机器学习和神经网络有一定的了解！。如果是零基础学习人群，请参看我之前的....
![[深度学习实战]基于PyTorch的深度学习实战(上)[变量、求导、损失函数、优化器]（一）](https://ucc.alicdn.com/pic/developer-ecology/u4n2puyxrj26a_c06960d9be3a46828d7fd91af0d80a2f.png)
[深度学习实战]基于PyTorch的深度学习实战(上)[变量、求导、损失函数、优化器]（二）
五、损失函数 损失函数，又叫目标函数，是编译一个神经网络模型必须的两个参数之一。另一个必不可少的参数是优化器。 损失函数是指用于计算标签值和预测值之间差异的函数，在机器学习过程中，有多种损失函数可供选择，典型的有距离向量，绝对值向量等。 上图是一个用来模拟线性方程自动学习的示意图。粗线是真实的线性方程，虚线是迭代过程的示意，w1 是第一次迭代的权重，w2 是第二次迭代的权重，w3 是第三次迭....
![[深度学习实战]基于PyTorch的深度学习实战(上)[变量、求导、损失函数、优化器]（二）](https://ucc.alicdn.com/pic/developer-ecology/u4n2puyxrj26a_39e6172217094f9584f942fdc87dd93c.png)
深度学习05】 交叉熵损失函数
基本损失函数损失函数作用1.计算出实际输出和目标之间的差距2.为我们更新输出提供依据（反向传播）交叉熵两个不同的模型比较，需要熵作为中介。比如，黄金和白银比较价值，需要把他们都换算为美元，才能对比1.信息量1.不同的信息，含有不同的信息量，假设下列对阵表中阿根廷的夺冠概率是1/8，A同学告诉我阿根廷夺冠了，那么这个信息量就很大了（因为它包括了阿根廷进了四强，决赛）；B同学告诉我阿根廷进决赛了，那....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
智能搜索推荐
智能推荐（Artificial Intelligence Recommendation，简称AIRec）基于阿里巴巴大数据和人工智能技术，以及在电商、内容、直播、社交等领域的业务沉淀，为企业开发者提供场景化推荐服务、全链路推荐系统开发平台、工程引擎组件库等多种形式服务，助力在线业务增长。
+关注