文章来自公众号[机器学习炼丹术],回复"炼丹"即可获得海量学习资料哦! 目录 1 动态图的初步推导 2 动态图的叶子节点 3. grad_fn 4 静态图 本章节缕一缕PyTorch的动态图机制与Tensorflow的静态图机制(最新版的TF也支持动态图了似乎). 1 动态图的初步推导 计算图是用来描述运算的有向无环图 计算图有两个主要元素:结点(Node)和边(Edge): 结点表示数据 ,如向量.矩阵.张量; 边表示运算 ,如加减乘除卷积等: 上图是用计算图表示: \(y=(x+w…

动态图 vs. 静态图 在 fast.ai,我们在选择框架时优先考虑程序员编程的便捷性(能更方便地进行调试和更直观地设计),而不是框架所能带来的模型加速能力.这也正是我们选择 PyTorch 的理由,因为它是一个具有动态图机制的灵活框架. 依据采用动态计算或是静态计算的不同,可以将这些众多的深度学习框架划分成两大阵营,当然也有些框架同时具有动态计算和静态计算两种机制(比如 MxNet 和最新的 TensorFlow).动态计算意味着程序将按照我们编写命令的顺序进行执行.这种机制将使得调试更加容易…

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 什么是eager模式 2 TF1.0 vs TF2.0 3 获取导数/梯度 4 获取高阶导数 之前讲解了如何构建数据集,如何创建TFREC文件,如何构建模型,如何存储模型.这一篇文章主要讲解,TF2中提出的一个eager模式,这个模式大大简化了TF的复杂程度. 1 什么是…

文章来自微信公众号[机器学习炼丹术].我是炼丹兄,欢迎加我微信好友交流学习:cyx645016617. @ 目录 1 背景 2 深度可分离卷积 2.2 一般卷积计算量 2.2 深度可分离卷积计算量 2.3 网络结构 3 PyTorch实现 本来计划是想在今天讲EfficientNet PyTorch的,但是发现EfficientNet是依赖于SENet和MobileNet两个网络结构,所以本着本系列是给"小白"初学者学习的,所以这一课先讲解MobileNet,然后下一课讲解SENet,…

[机器学习炼丹术]的炼丹总群已经快满了,要加入的快联系炼丹兄WX:cyx645016617 参考目录: 目录 1 创建自定义网络层 2 创建一个完整的CNN 2.1 keras.Model vs keras.layers.Layer 之前讲过了如何用tensorflow构建数据集,然后这一节课讲解如何用Tensorflow2.0来创建模型. TF2.0中创建模型的API基本上都放到了它的Keras中了,Keras可以理解为TF的高级API,里面封装了很多的常见网络层.常见损失函数等. 后续会详细…

文章目录: 目录 1 模型三要素 2 参数初始化 3 完整运行代码 4 尺寸计算与参数计算 1 模型三要素 三要素其实很简单 必须要继承nn.Module这个类,要让PyTorch知道这个类是一个Module 在__init__(self)中设置好需要的组件,比如conv,pooling,Linear,BatchNorm等等 最后在forward(self,x)中用定义好的组件进行组装,就像搭积木,把网络结构搭建出来,这样一个模型就定义好了 我们来看一个例子: 先看__init__(self)函…

文章来自:微信公众号[机器学习炼丹术].欢迎关注支持原创 也欢迎添加作者微信:cyx645016617. 参考目录: 目录 1 基本函数 1.1 Compose 1.2 RandomChoice 1.3 RandomOrder 2 PIL上的操作 2.1 中心切割CenterCrop 2.2 随机切割RandomCrop 2.3 随机比例切割 2.4 颜色震颤ColorJitter 2.5 随机旋转RandomRotation 2.6 灰度化Grayscale 2.7 size 2.8 概率随机…

文章来自微信公众号[机器学习炼丹术].有什么问题都可以咨询作者WX:cyx645016617.想交个朋友占一个好友位也是可以的~好友位快满了不过. 参考目录: 目录 1 探索性数据分析 1.1 数据集基本信息 1.2 数据集可视化 1.3 类别是否均衡 2 训练与推理 2.1 构建dataset 2.2 构建模型类 2.3 训练模型 2.4 推理预测 在这个文章中,主要是来做一下MNIST手写数字集的分类任务.这是一个基础的.经典的分类任务.建议大家一定要跟着代码做一做,源码已经上传到公众号.…

文章来自微信公众号[机器学习炼丹术].我是炼丹兄,有什么问题都可以来找我交流,近期建立了微信交流群,也在朋友圈抽奖赠书十多本了.我的微信是cyx645016617,欢迎各位朋友. 参考目录: @ 目录 1 网络结构 2 参数量分析 3 PyTorch实现与解析 上一节课讲解了MobileNet的一个DSC深度可分离卷积的概念,希望大家可以在实际的任务中使用这种方法,现在再来介绍EfficientNet的另外一个基础知识-,Squeeze-and-Excitation Networks压缩-激活网…

参考目录: 目录 1 EfficientNet 1.1 概述 1.2 把扩展问题用数学来描述 1.3 实验内容 1.4 compound scaling method 1.5 EfficientNet的基线模型 2 PyTorch实现 文章来自微信公众号[机器学习炼丹术].我是炼丹兄,如果有疑问或者想要和炼丹兄交流的可以加微信:cyx645016617. efficientNet的论文原文链接: https://arxiv.org/pdf/1905.11946.pdf 模型扩展Model sca…