[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 什么是eager模式 2 TF1.0 vs TF2.0 3 获取导数/梯度 4 获取高阶导数 之前讲解了如何构建数据集,如何创建TFREC文件,如何构建模型,如何存储模型.这一篇文章主要讲解,TF2中提出的一个eager模式,这个模式大大简化了TF的复杂程度. 1 什么是…

文章来自公众号[机器学习炼丹术],回复"炼丹"即可获得海量学习资料哦! 目录 1 动态图的初步推导 2 动态图的叶子节点 3. grad_fn 4 静态图 本章节缕一缕PyTorch的动态图机制与Tensorflow的静态图机制(最新版的TF也支持动态图了似乎). 1 动态图的初步推导 计算图是用来描述运算的有向无环图 计算图有两个主要元素:结点(Node)和边(Edge): 结点表示数据 ,如向量.矩阵.张量; 边表示运算 ,如加减乘除卷积等: 上图是用计算图表示: \(y=(x+w…

文章目录: 目录 1 任务 2 实现思路 3 实现过程 3.1 引入必要库 3.2 创建训练集 3.3 搭建网络 3.4 设置优化器 3.5 训练网络 3.6 测试 1 任务 首先说下我们要搭建的网络要完成的学习任务: 让我们的神经网络学会逻辑异或运算,异或运算也就是俗称的"相同取0,不同取1" .再把我们的需求说的简单一点,也就是我们需要搭建这样一个神经网络,让我们在输入(1,1)时输出0,输入(1,0)时输出1(相同取0,不同取1),以此类推. 2 实现思路 因为我们的需求需要有两…

自动求导机制 本说明将概述Autograd如何工作并记录操作.了解这些并不是绝对必要的,但我们建议您熟悉它,因为它将帮助您编写更高效,更简洁的程序,并可帮助您进行调试. 从后向中排除子图 每个变量都有两个标志:requires_grad和volatile.它们都允许从梯度计算中精细地排除子图,并可以提高效率. 艾伯特(http://www.aibbt.com/)国内第一家人工智能门户 requires_grad 如果有一个单一的输入操作需要梯度,它的输出也需要梯度.相反,只有所有输入都不需要梯度…

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 0 为什么学TF 1 Tensorflow的安装 2 数据集构建 2 预处理 3 构建模型 4 优化器 5 训练与预测 0 为什么学TF 之前的15节课的pytorch的学习,应该是让不少朋友对PyTorch有了一个全面而深刻的认识了吧 (如果你认真跑代码了并且认真看文章了的…

[机器学习炼丹术]的炼丹总群已经快满了,要加入的快联系炼丹兄WX:cyx645016617 参考目录: 目录 1 创建自定义网络层 2 创建一个完整的CNN 2.1 keras.Model vs keras.layers.Layer 之前讲过了如何用tensorflow构建数据集,然后这一节课讲解如何用Tensorflow2.0来创建模型. TF2.0中创建模型的API基本上都放到了它的Keras中了,Keras可以理解为TF的高级API,里面封装了很多的常见网络层.常见损失函数等. 后续会详细…

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.NLP等多个学术交流分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 PIL读取图片 2 TF读取图片 3 TF构建数据集 本文的代码已经上传公众号后台,回复[PyTorch]获取. 1 PIL读取图片 想要把一个图片,转换成RGB3通道的一个张量,我们怎么做呢?大家第一反应应该是PIL这个库吧 from PIL import Image impor…

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 模型的构建 2 结构参数的存储与载入 3 参数的存储与载入 4 结构的存储与载入 本文主要讲述TF2.0的模型文件的存储和载入的多种方法.主要分成两类型:模型结构和参数一起载入,模型的结构载入. 1 模型的构建 import tensorflow.keras as ker…

文章来自:微信公众号[机器学习炼丹术].一个ai专业研究生的个人学习分享公众号 文章目录: 目录 torchvision 1 torchvision.datssets 2 torchvision.models 模型比较 torchvision 官网上的介绍(翻墙):The torchvision package consists of popular datasets, model architectures, and common image transformations for compu…

文章来自微信公众号[机器学习炼丹术].有什么问题都可以咨询作者WX:cyx645016617.想交个朋友占一个好友位也是可以的~好友位快满了不过. 参考目录: 目录 1 探索性数据分析 1.1 数据集基本信息 1.2 数据集可视化 1.3 类别是否均衡 2 训练与推理 2.1 构建dataset 2.2 构建模型类 2.3 训练模型 2.4 推理预测 在这个文章中,主要是来做一下MNIST手写数字集的分类任务.这是一个基础的.经典的分类任务.建议大家一定要跟着代码做一做,源码已经上传到公众号.…

文章来自微信公众号[机器学习炼丹术].我是炼丹兄,欢迎加我微信好友交流学习:cyx645016617. @ 目录 1 背景 2 深度可分离卷积 2.2 一般卷积计算量 2.2 深度可分离卷积计算量 2.3 网络结构 3 PyTorch实现 本来计划是想在今天讲EfficientNet PyTorch的,但是发现EfficientNet是依赖于SENet和MobileNet两个网络结构,所以本着本系列是给"小白"初学者学习的,所以这一课先讲解MobileNet,然后下一课讲解SENet,…

文章来自微信公众号:[机器学习炼丹术].作者WX:cyx645016617. 参考目录: 目录 1 池化层 1.1 最大池化层 1.2 平均池化层 1.3 全局最大池化层 1.4 全局平均池化层 2 Normalization 2.1 BN 2.2 LN 下篇的内容中,主要讲解这些内容: 四个的池化层: 两个Normalization层; 1 池化层 和卷积层相对应,每一种池化层都有1D,2D,3D三种类型,这里主要介绍2D处理图像的一个操作.1D和3D可以合理的类推. 1.1 最大池化层 tf…

文章目录: 目录 1 Dataset基类 2 构建Dataset子类 2.1 Init 2.2 getitem 3 dataloader 1 Dataset基类 PyTorch 读取其他的数据,主要是通过 Dataset 类,所以先简单了解一下 Dataset 类.在看很多PyTorch的代码的时候,也会经常看到dataset这个东西的存在.Dataset类作为所有的 datasets 的基类存在,所有的 datasets 都需要继承它. 先看一下源码: 这里有一个__getitem__函数,_…

文章目录: 目录 1 模型三要素 2 参数初始化 3 完整运行代码 4 尺寸计算与参数计算 1 模型三要素 三要素其实很简单 必须要继承nn.Module这个类,要让PyTorch知道这个类是一个Module 在__init__(self)中设置好需要的组件,比如conv,pooling,Linear,BatchNorm等等 最后在forward(self,x)中用定义好的组件进行组装,就像搭积木,把网络结构搭建出来,这样一个模型就定义好了 我们来看一个例子: 先看__init__(self)函…

文章转载自微信公众号:机器学习炼丹术.欢迎大家关注,这是我的学习分享公众号,100+原创干货. 文章目录: 目录 1 模型构建函数 1.1 add_module 1.2 ModuleList 1.3 Sequential 1.4 小总结 2 遍历模型结构 2.1 modules() 2.2 named_modules() 2.3 parameters() 3 保存与载入 本文是对一些函数的学习.函数主要包括下面四个方便: 模型构建的函数:add_module,add_module,add_mod…

文章来自:微信公众号[机器学习炼丹术].欢迎关注支持原创 也欢迎添加作者微信:cyx645016617. 参考目录: 目录 1 基本函数 1.1 Compose 1.2 RandomChoice 1.3 RandomOrder 2 PIL上的操作 2.1 中心切割CenterCrop 2.2 随机切割RandomCrop 2.3 随机比例切割 2.4 颜色震颤ColorJitter 2.5 随机旋转RandomRotation 2.6 灰度化Grayscale 2.7 size 2.8 概率随机…

文章来自微信公众号[机器学习炼丹术]. 上一节课,讲解了MNIST图像分类的一个小实战,现在我们继续深入学习一下pytorch的一些有的没的的小知识来作为只是储备. 参考目录: @ 目录 1 pytorch数据结构 1.1 默认整数与浮点数 1.2 dtype修改变量类型 1.3 变量类型有哪些 1.4 数据类型转换 2 torch vs numpy 2.1 两者转换 2.2 两者区别 3 张量 3.1 张量修改尺寸 3.2 张量内存存储结构 3.3 存储区 3.4 头信息区 1 pytorch…

参考目录: 目录 1 矩阵与标量 2 哈达玛积 3 矩阵乘法 4 幂与开方 5 对数运算 6 近似值运算 7 剪裁运算 这一课主要是讲解PyTorch中的一些运算,加减乘除这些,当然还有矩阵的乘法这些.这一课内容不多,作为一个知识储备.在后续的内容中,有用PyTorch来获取EfficientNet预训练模型以及一个猫狗给分类的实战任务教学. 加减乘除就不多说了,+-*/ 1 矩阵与标量 这个是矩阵(张量)每一个元素与标量进行操作. import torch a = torch.tensor([…

文章来自微信公众号[机器学习炼丹术].我是炼丹兄,有什么问题都可以来找我交流,近期建立了微信交流群,也在朋友圈抽奖赠书十多本了.我的微信是cyx645016617,欢迎各位朋友. 参考目录: @ 目录 1 网络结构 2 参数量分析 3 PyTorch实现与解析 上一节课讲解了MobileNet的一个DSC深度可分离卷积的概念,希望大家可以在实际的任务中使用这种方法,现在再来介绍EfficientNet的另外一个基础知识-,Squeeze-and-Excitation Networks压缩-激活网…

参考目录: 目录 1 EfficientNet 1.1 概述 1.2 把扩展问题用数学来描述 1.3 实验内容 1.4 compound scaling method 1.5 EfficientNet的基线模型 2 PyTorch实现 文章来自微信公众号[机器学习炼丹术].我是炼丹兄,如果有疑问或者想要和炼丹兄交流的可以加微信:cyx645016617. efficientNet的论文原文链接: https://arxiv.org/pdf/1905.11946.pdf 模型扩展Model sca…

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 为什么用tfrec文件 2 tfrec文件的内部结构 3 制作tfrec文件 4 读取tfrec文件 本文的代码已经上传公众号后台,回复[PyTorch]获取. 第一次接触到TFrec文件,我也是比较蒙蔽的其实: 可以看到文件是.tfrec后缀的,而且先记住这个文件是18…

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑答疑解惑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 Keras卷积层 1.1 Conv2D 1.2 SeparableConv2D 1.3 Conv2DTranspose 1.3.1 去卷积的例子1 1.3.2 去卷积的例子2 2 Keras参数初始化 2.1 正态分布 2.2 均匀分布 2.3 截尾正态分布 2.…

torch.autograd 包提供Tensor所有操作的自动求导方法. 数据结构介绍 autograd.Variable 这是这个包中最核心的类. 它包装了一个Tensor,并且几乎支持所有的定义在其上的操作.一旦完成了你的运算,你可以调用 .backward()来自动计算出所有的梯度,Variable有三个属性: 访问原始的tensor使用属性.data: 关于这一Variable的梯度则集中于 .grad: .creator反映了创建者,标识了是否由用户使用.Variable直接创建(No…

2018.4.25,Facebook 推出了 PyTorch 0.4.0 版本,在该版本及之后的版本中,torch.autograd.Variable 和 torch.Tensor 同属一类.更确切地说,torch.Tensor 能够追踪日志并像旧版本的 Variable 那样运行; Variable 封装仍旧可以像以前一样工作,但返回的对象类型是 torch.Tensor.这意味着我们的代码不再需要变量封装器. 相关链接: PyTorch 重磅更新,不只是支持 Windows PyTorch简…

人生苦短,我用 Python 前文传送门: 小白学 Python 数据分析(1):数据分析基础 小白学 Python 数据分析(2):Pandas (一)概述 小白学 Python 数据分析(3):Pandas (二)数据结构 Series 小白学 Python 数据分析(4):Pandas (三)数据结构 DataFrame 小白学 Python 数据分析(5):Pandas (四)基础操作(1)查看数据 小白学 Python 数据分析(6):Pandas (五)基础操作(2)数据选择 小白学…

人生苦短,我选Python 前文传送门 小白学 Python(1):开篇 小白学 Python(2):基础数据类型(上) 小白学 Python(3):基础数据类型(下) 小白学 Python(4):变量基础操作 小白学 Python(5):基础运算符(上) 小白学 Python(6):基础运算符(下) 小白学 Python(7):基础流程控制(上) 小白学 Python(8):基础流程控制(下) 小白学 Python(9):基础数据结构(列表)(上) 小白学 Python(10):基础数据结构(…

人生苦短,我用 Python 前文传送门: 小白学 Python 爬虫(1):开篇 小白学 Python 爬虫(2):前置准备(一)基本类库的安装 小白学 Python 爬虫(3):前置准备(二)Linux基础入门 小白学 Python 爬虫(4):前置准备(三)Docker基础入门 小白学 Python 爬虫(5):前置准备(四)数据库基础 小白学 Python 爬虫(6):前置准备(五)爬虫框架的安装 小白学 Python 爬虫(7):HTTP 基础 小白学 Python 爬虫(8):网页基…

人生苦短,我用 Python 前文传送门: 小白学 Python 爬虫(1):开篇 本篇内容较长,各位同学可以先收藏后再看~~ 在开始讲爬虫之前,还是先把环境搞搞好,工欲善其事必先利其器嘛~~~ 本篇文章主要介绍 Python 爬虫所使用到的请求库和解析库,请求库用来请求目标内容,解析库用来解析请求回来的内容. 开发环境 首先介绍小编本地的开发环境: Python3.7.4 win10 差不多就这些,最基础的环境,其他环境需要我们一个一个安装,现在开始. 请求库 虽然 Python 为我们内置了…

人生苦短,我用 Python 前文传送门: 小白学 Python 爬虫(1):开篇 小白学 Python 爬虫(2):前置准备(一)基本类库的安装 小白学 Python 爬虫(3):前置准备(二)Linux基础入门 小白学 Python 爬虫(4):前置准备(三)Docker基础入门 小白学 Python 爬虫(5):前置准备(四)数据库基础 小白学 Python 爬虫(6):前置准备(五)爬虫框架的安装 小白学 Python 爬虫(7):HTTP 基础 小白学 Python 爬虫(8):网页基…

人生苦短,我用 Python 前文传送门: 小白学 Python 爬虫(1):开篇 小白学 Python 爬虫(2):前置准备(一)基本类库的安装 小白学 Python 爬虫(3):前置准备(二)Linux基础入门 小白学 Python 爬虫(4):前置准备(三)Docker基础入门 小白学 Python 爬虫(5):前置准备(四)数据库基础 小白学 Python 爬虫(6):前置准备(五)爬虫框架的安装 小白学 Python 爬虫(7):HTTP 基础 小白学 Python 爬虫(8):网页基…