N-gram 输入法后来提醒
nlp自然语言理解
一个向量映射到另一个空间,为什么是向量呢?
模型其实是向量,一张图片表示成向量,像素表示成rgb ,每一个维度 数的度
文本变成向量 one-hot representation
每一维度出现的次数
次序 位置 维度爆炸 一万个词一万个向量
矩阵的乘法 冗余很高

w对神经的影响,x受到的刺激 ;激活函数f(x1w1+x2w2+x3w3)输入的值足够大,输出1 激活;不够输出0,抑制;

w1w2w3 不同的神经元敏感程度是不同的
每一层是向量
表示每一层之间的关系 x1x2x3 每一个神经元的权重都是不同的
上一层的输入经过激活矩阵成为下一层的
每一层由前一层传递过来, 每一条边是个权值
输入总和进过激活函数,送给下一层
每一层的权重都固定下来,
一层一层套下来
sigmoid 模拟人的神经(激活和抑制);贝叶斯理论支持

随机初始化,要小一点;
cost error错误代价 输入 - 真正的 求平方差 几乎为零就是正确的 交叉熵

调整使err最小 对参数求导,得到每个参数求导;沿着导数相反的额方式走,
err 由y 由w 链式求导 梯度向下法、
传梯度越来越小 最后得到0 就没法训练了
卷积网络 可以跨梯度传

所有的词映射到空间,相似的词放到相近的位置

两个词语义相近:上下文语境相近去求出词向量,聚类
NLP wordtovector

第几维乘完了就是第几列

中文翻译成英文
中午、 中英文对应的矩阵 英文聚类

循环神经网络处理序列问题

反向传递计算梯度

http://projector.tensorflow.org/

拿官方语言训练,每个领域的语言不同,二次元、摄影的术语都不同,就不适应,新闻是最容易取得的没有什么特征的,先去训练模型

ML_入门的更多相关文章

  1. Angular2入门系列教程7-HTTP(一)-使用Angular2自带的http进行网络请求

    上一篇:Angular2入门系列教程6-路由(二)-使用多层级路由并在在路由中传递复杂参数 感觉这篇不是很好写,因为涉及到网络请求,如果采用真实的网络请求,这个例子大家拿到手估计还要自己写一个web ...

  2. ABP入门系列(1)——学习Abp框架之实操演练

    作为.Net工地搬砖长工一名,一直致力于挖坑(Bug)填坑(Debug),但技术却不见长进.也曾热情于新技术的学习,憧憬过成为技术大拿.从前端到后端,从bootstrap到javascript,从py ...

  3. Oracle分析函数入门

    一.Oracle分析函数入门 分析函数是什么?分析函数是Oracle专门用于解决复杂报表统计需求的功能强大的函数,它可以在数据中进行分组然后计算基于组的某种统计值,并且每一组的每一行都可以返回一个统计 ...

  4. Angular2入门系列教程6-路由(二)-使用多层级路由并在在路由中传递复杂参数

    上一篇:Angular2入门系列教程5-路由(一)-使用简单的路由并在在路由中传递参数 之前介绍了简单的路由以及传参,这篇文章我们将要学习复杂一些的路由以及传递其他附加参数.一个好的路由系统可以使我们 ...

  5. Angular2入门系列教程5-路由(一)-使用简单的路由并在在路由中传递参数

    上一篇:Angular2入门系列教程-服务 上一篇文章我们将Angular2的数据服务分离出来,学习了Angular2的依赖注入,这篇文章我们将要学习Angualr2的路由 为了编写样式方便,我们这篇 ...

  6. Angular2入门系列教程4-服务

    上一篇文章 Angular2入门系列教程-多个组件,主从关系 在编程中,我们通常会将数据提供单独分离出来,以免在编写程序的过程中反复复制粘贴数据请求的代码 Angular2中提供了依赖注入的概念,使得 ...

  7. wepack+sass+vue 入门教程(三)

    十一.安装sass文件转换为css需要的相关依赖包 npm install --save-dev sass-loader style-loader css-loader loader的作用是辅助web ...

  8. wepack+sass+vue 入门教程(二)

    六.新建webpack配置文件 webpack.config.js 文件整体框架内容如下,后续会详细说明每个配置项的配置 webpack.config.js直接放在项目demo目录下 module.e ...

  9. wepack+sass+vue 入门教程(一)

    一.安装node.js node.js是基础,必须先安装.而且最新版的node.js,已经集成了npm. 下载地址 node安装,一路按默认即可. 二.全局安装webpack npm install ...

随机推荐

  1. folder,source folder,package 区别

    source folder source folder下面的Java文件都会被编译,编译后的文件会被放在我们设置的某个文件夹下面(一般我们设置成WEB-INF/classes),source fold ...

  2. [BZOJ5249][九省联考2018]IIIDX(线段树)

    5249: [2018多省省队联测]IIIDX Time Limit: 40 Sec  Memory Limit: 512 MBSubmit: 32  Solved: 17[Submit][Statu ...

  3. JZ2440 裸机驱动 第6章 存储控制器

    本章目标:     了解S3C2410/S3C2440地址空间的布局     掌握如何通过总线形式访问扩展的外设,比如内存.NOR Flash.网卡等 ························ ...

  4. 【python】实例-读取已有文件的内容

    import os Filename=raw_input("please input filename that you will open: ") if os.path.exis ...

  5. 【Spring-AOP-学习笔记-6】@AfterThrowing增强处理简单示例

    项目结构 业务代码 @Component("hello") public class HelloImpl implements Hello {     // 定义一个简单方法,模拟 ...

  6. C# webBrowser 获取元素class属性值

    // he 是HtmlElement对象 // GetAttribute("class") 一直取空值 he.GetAttribute("className")

  7. Jmeter接口压测

    对于各个组件的使用,建议参考官方文档 1. Jmeter参数化,从txt文件读取. 1.txt

  8. Linux命令详解-ftp服务器配置

    1.ftp服务器配置 1.ftp安装: rpm –qa | grep ftp 2.查看安装内容: rpm-ql |more 3.启动ftp服务: service vsftpd start 4.配置文件 ...

  9. 比较有意思的原生态js拖拽写法----摘自javascript高级程序设计3

    var DragDrop = function () { var dragging = null; var diffX = 0; var diffY = 0; function handleEvent ...

  10. Python的collections模块中namedtuple结构使用示例

      namedtuple顾名思义,就是名字+元组的数据结构,下面就来看一下Python的collections模块中namedtuple结构使用示例 namedtuple 就是命名的 tuple,比较 ...