个人博客
余弦退火算法动态调整学习率 余弦退火算法动态调整学习率
余弦退火算法动态调整学习率余弦退火算法(Cosine Annealing with Warm Restarts) 是一种学习率调度策略,通过周期性调整学习率,在训练过程中动态平衡优化过程的探索(exploration)和收敛(converg
2025-03-20
标签平滑 标签平滑
标签平滑缓解过拟合及其数学原理标签平滑(Label Smoot缓解过拟合hing)是一种正则化技术,主要用于分类问题中,通过调整模型的目标函数来减少过拟合的风险。它的核心思想是不让模型对训练样本的预测过于自信,从而鼓励模型学习到更加泛化的特
2025-03-20
CRNN 卷积循环神经网络 CRNN 卷积循环神经网络
CRNN 卷积循环神经网络CRNN(Convolutional Recurrent Neural Network,卷积循环神经网络)是一种结合了卷积神经网络(CNN)和循环神经网络(RNN)的混合深度学习模型,主要用于处理序列建模与预测 任
2025-03-20
现代卷积神经网络-GoogLeNet-学习笔记 现代卷积神经网络-GoogLeNet-学习笔记
现代卷积神经网络-GoogLeNet GoogLeNet吸收了NiN中串联网络的思想,并在此基础上做了改进。 这篇论文的一个重点是解决了什么样大小的卷积核最合适的问题。GoogLeNet是第一次做到快100层卷积层(第一个做到超过100层的
2025-03-20
现代卷积神经网络-网络中的网络(NiN)-学习笔记 现代卷积神经网络-网络中的网络(NiN)-学习笔记
现代卷积神经网络-网络中的网络(NiN)-学习笔记NiN块 卷积层的输入和输出由四维张量组成,张量的每个轴分别对应样本、通道、高度和宽度,另外,全连接层的输入和输出通常是分别对应于样本和特征的二维张量。NiN的想法是在每个像素位置(针对每个
2025-03-20
现代卷积神经网络-VGG-学习笔记 现代卷积神经网络-VGG-学习笔记
现代卷积神经网络-VGG-学习笔记使用块的想法首先出现在牛津大学的视觉几何组(visual geometry group)的VGG网络中, 通过使用循环和子程序,可以很容易地在任何现代深度学习框架的代码中实现这些重复的架构。 VGG块 VG
2025-03-20
现代卷积神经网络-AlexNet-学习笔记 现代卷积神经网络-AlexNet-学习笔记
现代卷积神经网络-AlexNet-学习笔记AlexNet和LeNet的架构非常相似,这里提供的是一个稍微精简版本的AlexNet,去除了当年需要两个小型GPU同时运算的设计特点 AlexNet和LeNet的设计理念非常相似,但也存在显著差
2025-03-20
python 中 multiprocessing 模块在windows下报错解决 python 中 multiprocessing 模块在windows下报错解决
python 中 multiprocessing模块在windows下报错解决最近在写kaggle竞赛树叶分类问题的时候,运行到某行代码卡住运行不停止,检查jupyter 后台才发现报错 Traceback (most recent cal
2025-03-19
卷积神经网络 卷积神经网络
卷积神经网络卷积神经网络(convolutional neural network,CNN)是一类强大的、为处理图像数据而设计的神经网络。 基于卷积神经网络架构的模型在计算机视觉领域中已经占主导地位,当今几乎所有的图像识别、目标检测或语义分
2025-03-10