卷积神经网络(CNN)模型
一、概述
卷积神经网络(Convolutional Neural Network, CNN)是一种深度学习模型,广泛应用于图像识别、计算机视觉等领域。其设计理念源于对生物视觉皮层神经机制的模拟,核心原理是通过卷积、池化(下采样)、全连接等操作,自动提取输入数据的层级特征,完成分类或回归任务。
二、模型原理
一个典型卷积神经网络模型通常依次由输入层、卷积层、下采样层、全连接层、输出层等构成。该模型最主要的三个特点是局部感知、权值共享、下采样,局部感知和权值共享体现在卷积层,下采样体现在采样层。一个典型CNN结构图如下图所示
1.输入层
即输入数据,通常是图像,或其他结构化的数据。
2.卷积层
通过卷积核(Filter/Kernel)在输入数据(如图像)上滑动,每次仅与局部区域进行加权求和,模拟生物视觉的局部感知机制。如果输入数据为一张灰度图,那么卷积核为二维张量(如3×3),对应计算输入图像的值;如果输入数据为一张 RGB 图像(3 通道),则卷积核通常为三维张量(如 3×3×3),对应计算输入图像的多通道值。
同一个卷积核在滑动过程中参数(权重)保持不变,例如,一个输入图像用 3×3 的卷积核提取特征,只需学习 9 个参数,大幅减少模型参数量。卷积运算的结果称为特征映射,每个特征映射对应输入数据的一种特征(如边缘、纹理、颜色等)。该层操作有卷积核大小、步长(Stride)、填充(Padding)等关键参数。卷积核大小常见有 3×3、5×5 等;步长(Stride)是卷积核滑动的间隔,步长为 1 时逐像素滑动,步长为 2 时每隔一个像素滑动;填充(Padding)是指在输入数据边缘补零,保持特征图尺寸(如 “Same Padding” 使输出尺寸与输入相同)或控制尺寸缩小比例。通过叠加多个卷积核,可提取多维度特征。该层的输出通常叫做特征图(fature map)。
3.下采样层
下采样(Downsampling)也叫做池化(Pooling)。该层的一个作用是实现下采样,通过聚合局部区域特征(如取最大值或平均值),缩小特征图尺寸,减少计算量。另一个作用是实现平移不变性,使特征对输入数据的微小位移不敏感,增强模型鲁棒性。同样,该层的输出也可叫做特征图。
4.全连接层
经过多层卷积和池化操作后,特征图被展平为一维向量,输入到全连接层(Fully Connected Layer)。全连接层中的每个神经元与上一层的所有神经元相连,通过矩阵乘法和激活函数,将提取到的特征映射到预测输出。
5.输出层
经过多层计算之后,输出预测内容。对于分类任务,通常使用 Softmax 激活函数,输出各类别的概率分布;对于回归任务,通常可直接设计为一个以线性函数为激活函数的神经元,输出连续型变量值。
三、网络层级与深度的理解
1.低层级卷积层提取边缘、颜色、纹理等基础特征。
2.高层级通过多层卷积和池化,组合基础特征形成复杂语义(如 “眼睛”→“人脸”→“物体类别”)。
3.网络深度增加(层数增多),可提取更抽象的特征,但需解决梯度消失 / 爆炸问题(通过残差连接、批量归一化等技术优化)。
四、优势与应用
1. 优势
参数效率高:权值共享和局部感知减少参数量,适合处理高维数据(如图像)。
特征自动提取:无需人工设计特征,端到端学习从原始数据到标签的映射。
2. 应用领域
图像领域:分类、目标检测(如 YOLO、Faster R-CNN)、语义分割(如 U-Net)。
视频领域:行为识别(3D CNN)、视频生成。
其他领域:自然语言处理(文本 CNN)、医学影像分析、自动驾驶等。
3.一些典型CNN架构应用
模型 | 特点 |
---|---|
LeNet-5 | 首个成功应用于手写数字识别的 CNN,包含卷积层、池化层和全连接层。 |
AlexNet | 通过更深的结构(5 层卷积)和 Dropout 技术,在 ImageNet 竞赛中大幅提升准确率。 |
VGGNet | 使用小尺寸卷积核(3×3)堆叠增加深度,验证了深度对性能的重要性。 |
ResNet | 引入残差连接(Residual Connection),解决深层网络训练困难问题。 |
GoogLeNet | 采用 Inception 模块,并行使用不同尺寸卷积核,平衡计算量与特征多样性。 |
五、Python实现示例
(环境:Python 3.11,PyTorch 2.4.0)
import torch
import torch.nn as nn
import torch.optim as optim
from torchvision import datasets, transforms
from torch.utils.data import DataLoader
# 定义数据预处理
transform = transforms.Compose([
transforms.ToTensor(), # 转换为张量
transforms.Normalize((0.1307,), (0.3081,)) # 标准化处理
])
# 加载训练集和测试集
train_dataset = datasets.MNIST('data', train=True, download=True, transform=transform)
test_dataset = datasets.MNIST('data', train=False, transform=transform)
# 创建数据加载器
train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True)
test_loader = DataLoader(test_dataset, batch_size=1000)
# 定义卷积神经网络模型
class SimpleCNN(nn.Module):
def __init__(self):
super(SimpleCNN, self).__init__()
self.conv1 = nn.Conv2d(1, 10, kernel_size=5) # 输入通道1,输出通道10
self.conv2 = nn.Conv2d(10, 20, kernel_size=5) # 输入通道10,输出通道20
self.conv2_drop = nn.Dropout2d() # Dropout层,防止过拟合
self.fc1 = nn.Linear(320, 50) # 全连接层
self.fc2 = nn.Linear(50, 10) # 输出层,10个类别
def forward(self, x):
x = nn.functional.relu(nn.functional.max_pool2d(self.conv1(x), 2))
x = nn.functional.relu(nn.functional.max_pool2d(self.conv2_drop(self.conv2(x)), 2))
x = x.view(-1, 320) # 展平张量
x = nn.functional.relu(self.fc1(x))
x = nn.functional.dropout(x, training=self.training)
x = self.fc2(x)
return nn.functional.log_softmax(x, dim=1)
# 初始化模型、损失函数和优化器
model = SimpleCNN()
criterion = nn.NLLLoss() # 负对数似然损失函数
optimizer = optim.Adam(model.parameters(), lr=0.001) # Adam优化器
# 训练函数
def train(model, train_loader, optimizer, epoch):
model.train()
for batch_idx, (data, target) in enumerate(train_loader):
optimizer.zero_grad() # 梯度清零
output = model(data) # 前向传播
loss = criterion(output, target) # 计算损失
loss.backward() # 反向传播
optimizer.step() # 更新参数
if batch_idx % 100 == 0:
print(f'Train Epoch: {epoch} [{batch_idx * len(data)}/{len(train_loader.dataset)} '
f'({100. * batch_idx / len(train_loader):.0f}%)]\tLoss: {loss.item():.6f}')
# 测试函数
def test(model, test_loader):
model.eval()
test_loss = 0
correct = 0
with torch.no_grad():
for data, target in test_loader:
output = model(data)
test_loss += criterion(output, target).item() # 累加损失
pred = output.argmax(dim=1, keepdim=True) # 获取预测结果
correct += pred.eq(target.view_as(pred)).sum().item() # 统计正确预测数
test_loss /= len(test_loader.dataset)
print(f'\nTest set: Average loss: {test_loss:.4f}, '
f'Accuracy: {correct}/{len(test_loader.dataset)} '
f'({100. * correct / len(test_loader.dataset):.2f}%)\n')
# 训练模型
for epoch in range(1, 5): # 训练4个轮次
train(model, train_loader, optimizer, epoch)
test(model, test_loader)
End.
卷积神经网络(CNN)模型的更多相关文章
- 卷积神经网络(CNN)模型结构
在前面我们讲述了DNN的模型与前向反向传播算法.而在DNN大类中,卷积神经网络(Convolutional Neural Networks,以下简称CNN)是最为成功的DNN特例之一.CNN广泛的应用 ...
- 卷积神经网络(CNN)前向传播算法
在卷积神经网络(CNN)模型结构中,我们对CNN的模型结构做了总结,这里我们就在CNN的模型基础上,看看CNN的前向传播算法是什么样子的.重点会和传统的DNN比较讨论. 1. 回顾CNN的结构 在上一 ...
- 深度学习方法(五):卷积神经网络CNN经典模型整理Lenet,Alexnet,Googlenet,VGG,Deep Residual Learning
欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld. 技术交流QQ群:433250724,欢迎对算法.技术感兴趣的同学加入. 关于卷积神经网络CNN,网络和文献中 ...
- 卷积神经网络(CNN)反向传播算法
在卷积神经网络(CNN)前向传播算法中,我们对CNN的前向传播算法做了总结,基于CNN前向传播算法的基础,我们下面就对CNN的反向传播算法做一个总结.在阅读本文前,建议先研究DNN的反向传播算法:深度 ...
- 卷积神经网络CNN总结
从神经网络到卷积神经网络(CNN)我们知道神经网络的结构是这样的: 那卷积神经网络跟它是什么关系呢?其实卷积神经网络依旧是层级网络,只是层的功能和形式做了变化,可以说是传统神经网络的一个改进.比如下图 ...
- 【深度学习系列】手写数字识别卷积神经--卷积神经网络CNN原理详解(一)
上篇文章我们给出了用paddlepaddle来做手写数字识别的示例,并对网络结构进行到了调整,提高了识别的精度.有的同学表示不是很理解原理,为什么传统的机器学习算法,简单的神经网络(如多层感知机)都可 ...
- 深度学习之卷积神经网络(CNN)详解与代码实现(一)
卷积神经网络(CNN)详解与代码实现 本文系作者原创,转载请注明出处:https://www.cnblogs.com/further-further-further/p/10430073.html 目 ...
- 【深度学习系列】卷积神经网络CNN原理详解(一)——基本原理
上篇文章我们给出了用paddlepaddle来做手写数字识别的示例,并对网络结构进行到了调整,提高了识别的精度.有的同学表示不是很理解原理,为什么传统的机器学习算法,简单的神经网络(如多层感知机)都可 ...
- 卷积神经网络(CNN)学习笔记1:基础入门
卷积神经网络(CNN)学习笔记1:基础入门 Posted on 2016-03-01 | In Machine Learning | 9 Comments | 14935 Vie ...
- 深度学习之卷积神经网络CNN
转自:https://blog.csdn.net/cxmscb/article/details/71023576 一.CNN的引入 在人工的全连接神经网络中,每相邻两层之间的每个神经元之间都是有边相连 ...
随机推荐
- Codeforces Round 1007 (Div. 2) 比赛记录
Codeforces Round 1007 (Div. 2) 比赛记录 比赛链接 很喜欢的一场比赛,题目质量很高,不是手速场,做出题超级有成就感,赛时切掉了 A - D1,上大分了. B卡得有点久,其 ...
- 2D量测流程
- AI大模型的崛起:从技术突破到行业变革
在人工智能技术飞速发展的今天,AI大模型作为新一代的智能工具,正逐步渗透到各行各业,引领着数字化转型的新浪潮.前瞻产业研究院发布的一份关于AI大模型场景应用的报告显示,2023年,我国AI大模型行业规 ...
- 查看SELinux状态:
1./usr/sbin/sestatus -v ##如果SELinux status参数为enabled即为开启状态SELinux status: enabl ...
- [WPF] 在RichTextBox中输出Microsoft.Extension.Logging库的日志消息
背景 微软的日志库一般是输出到控制台的,但是在WPF中并不能直接使用控制台,需要AllocConsole. 但是这种做法个人觉得不太安全(一关闭控制台整个程序就退出了?).这时候就需要一个更加友好的方 ...
- Mybatis-Plus知识点详解
Mybatis-plus(简称MP),基于Mybatis的增强工具,保留了Mybatis的所有功能,同时增加了通用的CRUD,条件构造器,分页插件等等实用工具 特性 即拿即用:通过通用Mapper和S ...
- ISODate时间转换
private function formatISODate($dateTime) { $date = date("Y-m-d", strtotime($dateTime)); $ ...
- 【SpringCloud】Hystrix熔断器
Hystrix熔断器 概述 分布式系统面临的问题 分布式系统面临的问题 复杂分布式体系结构中的应用程序有数10个依赖关系,每个依赖关系在某些时候将不可避免地失败 服务雪崩 多个微服务之间调用的时候,假 ...
- 【SpringMVC】处理模型数据
处理模型数据 Spring MVC 提供了以下几种途径输出模型数据: ModelAndView: 处理方法返回值类型为 ModelAndView时, 方法体即可通过该对象添加模型数据 Map 及 Mo ...
- frameset frame 实例和用法
转
看这个比较好