Chapter 4 1. 最小二乘和正规方程 1.1 最小二乘的两种视角 从数值计算视角看最小二乘法 我们在学习数值线性代数时,学习了当方程的解存在时,如何找到\(\textbf{A}\bm{x}=\bm{b}\)的解.但是当解不存在的时候该怎么办呢?当方程不一致(无解)时,有可能方程的个数超过未知变量的个数,我们需要找到第二可能好的解,即最小二乘近似.这就是最小二乘法的数值计算视角. 从统计视角看最小二乘法 我们在数值计算中学习过如何找出多项式精确拟合数据点(即插值),但是如果有大量的数据点,

#时间序列预测分析就是利用过去一段时间内某事件时间的特征来预测未来一段时间内该事件的特征.这是一类相对比较复杂的预测建模问题,和回归分析模型的预测不同,时间序列模型是依赖于事件发生的先后顺序的,同样大小的值改变顺序后输入模型产生的结果是不同的. #时间序列模型最常用最强大的的工具就是递归神经网络(recurrent neural network, RNN).相比与普通神经网络的各计算结果之间相互独立的特点,RNN的每一次隐含层的计算结果都与当前输入以及上一次的隐含层结果相关.通过这种方法,RNN

TensoFlow自动求导机制 『TensorFlow』第二弹_线性拟合&神经网络拟合_恰是故人归 下面做了三个简单尝试, 利用包含gradients.assign等tf函数直接构建图进行自动梯度下降 利用优化器计算出导数,再将导数应用到变量上 直接使用优化器不显式得到导数 更新参数必须使用assign,这也可能会涉及到控制依赖问题. # Author : Hellcat # Time : 2/20/2018 import tensorflow as tf tf.set_random_seed(

时间序列分解-STL分解法 [转载时请注明来源]:http://www.cnblogs.com/runner-ljt/ Ljt 作为一个初学者,水平有限,欢迎交流指正. STL(’Seasonal and Trend decomposition using Loess‘ )是以鲁棒局部加权回归作为平滑方法的时间序列分解方法. 其中Loess(locally weighted scatterplot smoothing,LOWESS or LOESS)为局部多项式回归拟合,是对两维散点图 进行平滑

3)plotting绘图 我们已经包装了几种常见的plot类型,以便轻松创建基本的可视化.这些可视化是由Plotly驱动的. Visdom支持下列API.由 Plotly 提供可视化支持. vis.scatter : 2D 或 3D 散点图 vis.line : 线图 vis.stem : 茎叶图 vis.heatmap : 热力图 vis.bar : 条形图 vis.histogram: 直方图 vis.boxplot : 箱型图 vis.surf : 表面图 vis.contour : 轮廓

记得在tensorflow的入门里,介绍梯度下降算法的有效性时使用的例子求一个二次曲线的最小值. 这里使用pytorch复现如下: 1.手动计算导数,按照梯度下降计算 import torch #使用梯度下降法求y=x^2+2x+1 最小值 从x=3开始 x=torch.Tensor([3]) for epoch in range(100): y=x**2+2*x+1 x-=(2*x+2)*0.05 #导数是 2*x+2 print('min y={1:.2}, x={0:.2}'.format

什么是TCN TCN全称Temporal Convolutional Network,时序卷积网络,是在2018年提出的一个卷积模型,但是可以用来处理时间序列. 卷积如何处理时间序列 时间序列预测,最容易想到的就是那个马尔可夫模型: \[P(y_k|x_k,x_{k-1},...,x_1) \] 就是计算某一个时刻的输出值,已知条件就是这个时刻之前的所有特征值.上面公式中,P表示概率,可以不用管这个,\(y_k\)表示k时刻的输出值(标签),\(x_k\)表示k时刻的特征值. 如果使用LSTM或

时间序列ARIMA模型 1.数据的平稳性与差分法 让均值和方差不发生明显的变化(让数据变平稳),用差分法 2.ARIMA模型-----差分自回归平均移动模型 求解回归的经典算法:最大似然估计.最小二乘法 在具体运用时,需要指定三个参数,即(p,d,q): 其中:p表示自回归的阶数,    d表示做几阶差分(一般做一阶差分),    q表示平均移动模型的阶数 3.相关函数的评估方法 选择p和q 自相关函数ACF(Autocorrelation Function) (1)有序的随机变量序列 与其自身

本章代码: https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson4/optimizer_methods.py https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson4/momentum.py 这篇文章主要介绍了 PyTorch 中的优化器,包括 3 个部分:优化器的概念.optimizer 的属性.optimizer 的方法. 优化器的概念 P

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 0 为什么学TF 1 Tensorflow的安装 2 数据集构建 2 预处理 3 构建模型 4 优化器 5 训练与预测 0 为什么学TF 之前的15节课的pytorch的学习,应该是让不少朋友对PyTorch有了一个全面而深刻的认识了吧 (如果你认真跑代码了并且认真看文章了的

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 为什么用tfrec文件 2 tfrec文件的内部结构 3 制作tfrec文件 4 读取tfrec文件 本文的代码已经上传公众号后台,回复[PyTorch]获取. 第一次接触到TFrec文件,我也是比较蒙蔽的其实: 可以看到文件是.tfrec后缀的,而且先记住这个文件是18

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 什么是eager模式 2 TF1.0 vs TF2.0 3 获取导数/梯度 4 获取高阶导数 之前讲解了如何构建数据集,如何创建TFREC文件,如何构建模型,如何存储模型.这一篇文章主要讲解,TF2中提出的一个eager模式,这个模式大大简化了TF的复杂程度. 1 什么是

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑答疑解惑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 Keras卷积层 1.1 Conv2D 1.2 SeparableConv2D 1.3 Conv2DTranspose 1.3.1 去卷积的例子1 1.3.2 去卷积的例子2 2 Keras参数初始化 2.1 正态分布 2.2 均匀分布 2.3 截尾正态分布 2.

[新闻]:机器学习炼丹术的粉丝的人工智能交流群已经建立,目前有目标检测.医学图像.时间序列等多个目标为技术学习的分群和水群唠嗑答疑解惑的总群,欢迎大家加炼丹兄为好友,加入炼丹协会.微信:cyx645016617. 参考目录: 目录 1 Keras卷积层 1.1 Conv2D 1.2 SeparableConv2D 1.3 Conv2DTranspose 1.3.1 去卷积的例子1 1.3.2 去卷积的例子2 2 Keras参数初始化 2.1 正态分布 2.2 均匀分布 2.3 截尾正态分布 2.

1 最优化概论 (1) 最优化的目标 最优化问题指的是找出实数函数的极大值或极小值,该函数称为目标函数.由于定位\(f(x)\)的极大值与找出\(-f(x)\)的极小值等价,在推导计算方式时仅考虑最小化问题就足够了.极少的优化问题,比如最小二乘法,可以给出封闭的解析解(由正规方程得到).然而,大多数优化问题,只能给出数值解,需要通过数值迭代算法一步一步地得到. (2) 有约束和无约束优化 一些优化问题在要求目标函数最小化的同时还要求满足一些等式或者不等式的约束.比如SVM模型的求解就是有约束优化

目录 前言 实现方法 总结 一.前言        今天要介绍的绝对是华丽的干货.比如我们从互联网上下载到了一系列(每天或者月平均等)的MODIS数据,我们怎么能够对比同一区域不同时间的数据情况,采用传统的方法可能只能将所有要参考的数据用ArcGIS等打开,然后费劲的一一对比等,不仅操作繁琐,搞不好日期等还会对应错.本文就是介绍使用Geotrellis动态加载时间序列数据,使我们能够自由选择日期浏览或者像动画一样循环展示一系列数据.直接进入干货. 二.实现方法 2.1 前台界面        前

我们在分析数据时,经常会碰到一种数据,它是由时间累积起来的,并按照时间顺序排列的一系列观测值,我们称为时间序列,它有点类似于重复测量数据,但是区别在于重复测量数据的时间点不会很多,而时间序列的时间点非常多,并且具有长期性.这种数据资料首先先后顺序不能改变,其次观测值之间不独立,因此普通的分析方法不再适用,需要专门的时间序列模型,这种时间序列分析关注的不再是变量间的关系,而是重点考察变量在时间方面的发展变化规律. 时间序列模型根据分析思想不同可以分为传统时间序列模型和现代时间序列模型 1.传统时间

传统线性模型的假设之一是因变量之间相互独立,并且如果自变量之间不独立,会产生共线性,对于模型的精度也是会有影响的.虽然完全独立的两个变量是不存在的,但是我们在分析中也可以使用一些手段尽量减小这些问题产生的影响,例如采用随机抽样减小因变量间的相关性,使其满足假设:采用岭回归.逐步回归.主成分回归等解决共线性的问题.以上解决方法做都会损失数据信息,而且似乎都是采取一种回避问题的态度而非解决问题,当碰到更复杂的情况例如因变量和自变量相互影响时,单靠回避是无法得到正确的分析结果的,那么有没有更好的直接解

标准的线性回归模型的假设之一是因变量方差齐性,即因变量或残差的方差不随自身预测值或其他自变量的值变化而变化.但是有时候,这种情况会被违反,称为异方差性,比如因变量为储蓄额,自变量为家庭收入,显然高收入家庭由于有更多的可支配收入,因此储蓄额差异较大,而低收入家庭由于没有过多的选择余地,因此储蓄会比较有计划和规律. 异方差性如果还是使用普通最小二乘法进行估计,那么会造成以下问题 1.估计量仍然具有无偏性,但是不具备有效性2.变量的显著性检验失去意义3.由于估计量变异程度增大,导致模型预测误差增大,精

[面试思路拓展] 对时间序列进行预测的方法有很多, 但如果只有几周的数据,而没有很多线性的趋势.各种实际的背景该如何去预测时间序列? 或许可以尝试下利用SVM去预测时间序列,那么如何提取预测的特征呢? 传统的做法是提取1.2.3.4.5.7.9.13个单位时间的数据作为特征进行预测: 举个例子进行分析,比如每天都有口香糖的销量,那么如何通过几周的数据预测明天的数据, 就可以选择前1.2.3.4.5.7.14天的数据作为特征,从而预测明天的数据, 通过构建特征,再选择核函数进行预测,其中调参的参数