Pytorch官网的解释是:一个保存了固定字典和大小的简单查找表.这个模块常用来保存词嵌入和用下标检索它们.模块的输入是一个下标的列表,输出是对应的词嵌入. torch.nn.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None, norm_type=2, scale_grad_by_freq=False, sparse=False) 个人理解:这是一个矩阵类,里面初始化了一个随机矩阵,矩阵的长是字典的大…

自然语言中的常用的构建词向量方法,将id化后的语料库,映射到低维稠密的向量空间中,pytorch 中的使用如下: import torch import torch.utils.data as Data import torch.nn as nn import torch.nn.functional as F from torch.autograd import Variable word_to_id = {'hello':0, 'world':1} embeds = nn.Embedding(…

torch.nn Parameters class torch.nn.Parameter() 艾伯特(http://www.aibbt.com/)国内第一家人工智能门户,微信公众号:aibbtcom Variable的一种,常被用于模块参数(module parameter). Parameters 是 Variable 的子类.Paramenters和Modules一起使用的时候会有一些特殊的属性,即:当Paramenters赋值给Module的属性的时候,他会自动的被加到 Module的 参…

pytorch nn.Embeddingclass torch.nn.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None, norm_type=2, scale_grad_by_freq=False, sparse=False) num_embeddings (int) - 嵌入字典的大小 embedding_dim (int) - 每个嵌入向量的大小 padding_idx (int, optiona…

一.nn.Embedding.weight初始化分布 nn.Embedding.weight随机初始化方式是标准正态分布  ,即均值$\mu=0$,方差$\sigma=1$的正态分布. 论据1——查看源代码 ## class Embedding具体实现(在此只展示部分代码) import torch from torch.nn.parameter import Parameter from .module import Module from .. import functional as F…

参考:https://pytorch.org/docs/stable/nn.html torch.nn.init.constant_(tensor, val) 使用参数val的值填满输入tensor 参数: tensor:一个n维的torch.Tensor val:用于填满tensor的值 举例: w = torch.empty(,) nn.init.constant_(w, 0.3) 返回: tensor([[0.3000, 0.3000, 0.3000, 0.3000, 0.3000], […

https://pytorch.org/docs/stable/nn.html 1)卷积层 class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True) 二维卷积层, 输入的尺度是(N, Cin,H,W),输出尺度(N,Cout,Hout,Wout)的计算方式: 说明 stride: 控制相关系数的计算步长 dilation:…

参考:https://pytorch-cn.readthedocs.io/zh/latest/package_references/functional/#_1 class torch.nn.Softmax(input, dim) 或: torch.nn.functional.softmax(input, dim) 对n维输入张量运用Softmax函数,将张量的每个元素缩放到(0,1)区间且和为1.Softmax函数定义如下: 参数: dim:指明维度,dim=0表示按列计算:dim=1表示按行…

torch.nn.utils.clip_grad_norm(parameters, max_norm, norm_type=2) 1.梯度裁剪原理(http://blog.csdn.net/qq_29340857/article/details/70574528) 既然在BP过程中会产生梯度消失/爆炸(就是偏导无限接近0,导致长时记忆无法更新),那么最简单粗暴的方法,设定阈值,当梯度小于/大于阈值时,更新的梯度为阈值,如下图所示: 优点:简单粗暴 缺点:很难找到满意的阈值 2.nn.utils.…

class torch.nn.CrossEntropyLoss(weight=None, size_average=True, ignore_index=-100, reduce=True) 我这里没有详细解读这个损失函数的各个参数,仅记录一下在sru中涉及到的. sru中代码如下 criterion = nn.CrossEntropyLoss(size_average=False) 根据pytorch的官方文档 我得出的理解跟以上图片是一致的,图片来源:http://blog.csdn.net…