均匀分布
nn.init.uniform(tensor,a=0,b=1)
tensor -n维的torch.Tensor
a 均匀分布的下界,默认值为0
b 均匀分布的上界,默认值为1 正态分布
torcn.nn.init.normal(tensor,mean=0,std=1)
tensor n维的torch.Tensor
mean 正太分布的均值
std 正太分布的标准差
import torch
import torch.nn as nn import warnings
warnings.filterwarnings("ignore") w=torch.Tensor(3,5) # x_uniform=nn.init.uniform(tensor=w,a=2,b=6)
x_uniform=nn.init.uniform(tensor=w)
print("x_uniform",x_uniform) # x_normal=nn.init.normal(tensor=w,mean=10,std=2)
x_normal=nn.init.normal(tensor=w)
print("x_normal",x_normal) #xavier_uniform=nn.init.xavier_uniform(tensor=w,gain=1)
xavier_uniform=nn.init.xavier_uniform(tensor=w,gain=nn.init.calculate_gain('relu'))
print("xavier_uniform",xavier_uniform) #xavier_normal=nn.init.xavier_normal(tensor=w,gain=1)
xavier_normal=nn.init.xavier_normal(tensor=w,gain=nn.init.calculate_gain('relu'))
print("xavier_normal",xavier_normal) '''
x_uniform tensor([[0.2816, 0.4711, 0.8996, 0.7330, 0.5513],
[0.5623, 0.0418, 0.7624, 0.5373, 0.6279],
[0.1240, 0.9987, 0.3897, 0.9821, 0.1776]])
x_normal tensor([[-0.8959, 0.4796, -1.3757, -1.1037, 2.0843],
[ 0.0715, 0.4563, 1.2856, -0.9393, 0.1773],
[-0.9491, 0.0170, -0.8944, 0.7141, 1.3373]])
xavier_uniform tensor([[ 0.7476, -0.5736, -0.1695, 0.5489, -0.0284],
[ 1.0224, -0.8135, 0.1688, 0.3294, 0.4330],
[-1.1458, -0.4438, 0.5714, -0.9706, -1.0764]])
xavier_normal tensor([[ 0.3797, 0.4196, 1.0782, 0.0434, 0.6576],
[-0.2319, -0.1747, -0.9296, -0.8965, 0.3372],
[ 0.0703, 0.6307, -0.0976, 0.4038, -0.6067]]) '''

  

init.uniform / unit.normal的更多相关文章

  1. pytorch系列 -- 9 pytorch nn.init 中实现的初始化函数 uniform, normal, const, Xavier, He initialization

    本文内容:1. Xavier 初始化2. nn.init 中各种初始化函数3. He 初始化 torch.init https://pytorch.org/docs/stable/nn.html#to ...

  2. nginx unit的初探

    安装介绍: https://www.oschina.net/p/nginx-unit 可以看到,unit还是很强大的,居然特么都支持go 还有python 在/etc/yum.repos.d/unit ...

  3. 学习笔记TF037:实现强化学习策略网络

    强化学习(Reinforcement Learing),机器学习重要分支,解决连续决策问题.强化学习问题三概念,环境状态(Environment State).行动(Action).奖励(Reward ...

  4. C++ Style Languages: C++, Objective-C, Java, C#

    Hyperpolyglot.org From Hyperpolyglot.org C++ Style Languages: C++, Objective-C, Java, C# a side-by-s ...

  5. <<Differential Geometry of Curves and Surfaces>>笔记

    <Differential Geometry of Curves and Surfaces> by Manfredo P. do Carmo real line Rinterval I== ...

  6. 基于pytorch的CNN、LSTM神经网络模型调参小结

    (Demo) 这是最近两个月来的一个小总结,实现的demo已经上传github,里面包含了CNN.LSTM.BiLSTM.GRU以及CNN与LSTM.BiLSTM的结合还有多层多通道CNN.LSTM. ...

  7. Keras框架简介

    Keras是基于Theano的一个深度学习框架,它的设计参考了Torch,用Python语言编写,是一个高度模块化的神经网络库,支持GPU和CPU.使用文档在这:http://keras.io/,中文 ...

  8. <Differential Geometry of Curves and Surfaces>(by Manfredo P. do Carmo) Notes

    <Differential Geometry of Curves and Surfaces> by Manfredo P. do Carmo real line Rinterval I== ...

  9. 详细解读简单的lstm的实例

    http://blog.csdn.net/zjm750617105/article/details/51321889 本文是初学keras这两天来,自己仿照addition_rnn.py,写的一个实例 ...

随机推荐

  1. Jmeter(三)关联数组

    上一篇贴子讲到了利用后置处理器中的正则表达式实现了关联, 可以获取特定的动态参数. 但是还不能实现phpwind的随机发贴. 要实现随机发贴, 我们只用做一点小小修改就可以实现了. 匹配数字: 在匹配 ...

  2. ControlTemplate in WPF —— ItemsControl

    <ItemsControl Margin=" ItemsSource="{Binding Source={StaticResource myTodoList}}"& ...

  3. Linux监控命令之==>lsof

    一.命令说明 lsof 命令的原始功能是列出打开的文件的进程,但LINUX 下,所有的设备都是以文件的行式存在的,所以,lsof 的功能很强大. 二.参数说明 -a :列出打开文件存在的进程 -c&l ...

  4. CSS3 长度单位

    http://www.w3chtml.com/css3/units/length/vh.html https://www.html.cn/book/css/values/length/vh.htm . ...

  5. MYSQL5.5 linux安装

    1.常规的编译安装MYSQL 此种方法使用所有Mysql5.0 - 5.1 系列产品 比较常规的编译方式 2. 采用cmake 方式编译安装Mysql 3.二进制安装方式 免编译安装MYSQL 4.如 ...

  6. python学习之网络基础

    七 网络编程 7.1 C/S B/S架构 7.1.1 认识 Client : 客户端 Browser :浏览器 Server :服务器端 C/S:客户端与服务器之间的构架 B/S:浏览器与服务器之间的 ...

  7. (转)Maven的pom.xml文件配置使用

    转载:http://www.cnblogs.com/GarfieldTom/p/3707160.html <project xmlns="http://maven.apache.org ...

  8. amoeba 实现读写分离(借鉴)

    1.准备三台服务器 我的是centos7版本的 做MySQL的主从状态 可以参考 https://www.cnblogs.com/chenxiaodou/articles/11993283.html ...

  9. BUUOJ reverse 刮开有奖

    刮开有奖 这是一个赌博程序,快去赚钱吧!!!!!!!!!!!!!!!!!!!!!!!!!!!(在编辑框中的输入值,即为flag,提交即可) 注意:得到的 flag 请包上 flag{} 提交 拖到id ...

  10. Almost Sorted Array(o(nlgn)求解LIS)

    Almost Sorted Array Time Limit: 4000/2000 MS (Java/Others)    Memory Limit: 262144/262144 K (Java/Ot ...