动机 基于 Transformers 架构的大型语言模型 (LLM),如 GPT.T5 和 BERT,已经在各种自然语言处理 (NLP) 任务中取得了最先进的结果.此外,还开始涉足其他领域,例如计算机视觉 (CV) (VIT.Stable Diffusion.LayoutLM) 和音频 (Whisper.XLS-R).传统的范式是对通用网络规模数据进行大规模预训练,然后对下游任务进行微调.与使用开箱即用的预训练 LLM (例如,零样本推理) 相比,在下游数据集上微调这些预训练 LLM 会带来巨大…

这是Hinton的第14课,主要介绍了RBM和DBN的东西,这一课的课外读物有三篇论文<Self-taught learning- transfer learning from unlabeled data>和<A Fast Learning Algorithm for Deep Belief Nets>以及<To recognize shapes, first learn to generate images>.(ps:在下文中样本和采样来自同一个英文单词,泛化和生成…

作者|huggingface 编译|VK 来源|Github Transformers是TensorFlow 2.0和PyTorch的最新自然语言处理库 Transformers(以前称为pytorch-transformers和pytorch-pretrained-bert)提供用于自然语言理解(NLU)和自然语言生成(NLG)的最先进的模型(BERT,GPT-2,RoBERTa,XLM,DistilBert,XLNet,CTRL -) ,拥有超过32种预训练模型,支持100多种语言,并且在T…

本文内容源自「RTC Dev Meetup 丨语音处理在实时互动领域的技术实践和应用]的演讲分享,分享讲师为寰语科技语音识别研究主管马志强. 01 语音识别技术现状 1.语音成为万物互联时代人机交互关键入口,语音识别市场空间稳步提高 近几年来,语音识别技术已经逐步走进了我们的生活和工作中,特别是以 AI 语音助手为代表的语音交互功能也已经得到落地,应用到各类消费级产品当中,比如,智能手机.智能汽车.智能家电以及智能家居等.用户只需要唤醒语音助手,提供相应的指令,就可以使其帮助我们完成打电话.查天…

Scaling Instruction-Finetuned Language Models 论文发布了 FLAN-T5 模型,它是 T5 模型的增强版.FLAN-T5 由很多各种各样的任务微调而得,因此,简单来讲,它就是个方方面面都更优的 T5 模型.相同参数量的条件下,FLAN-T5 的性能相比 T5 而言有两位数的提高.Google 在 Hugging Face 上开源了 5 个 FLAN-T5 的 checkpoints,参数量范围从 8000 万 到 110 亿. 在之前的一篇博文中,我…

在之前的 博文 中,我们探讨了图机器学习的一些理论知识.这一篇我们将探索如何使用 Transformers 库进行图分类.(你也可以从 此处 下载演示 notebook,跟着一起做!) 目前,Transformers 中唯一可用的图 transformer 模型是微软的 Graphormer,因此本文的例子将会基于该模型.我们期待看到大家会使用并集成哪些其他模型进 . 软件 要学习本教程,需要安装 datasets 和 transformers (版本号 >= 4.27.2),你可以使用 pip…

深度神经网络(Deep Neural Networks, 简称DNN)是近年来机器学习领域中的研究热点,产生了广泛的应用.DNN具有深层结构.数千万参数需要学习,导致训练非常耗时.GPU有强大的计算能力,适合于加速深度神经网络训练.DNN的单机多GPU数据并行框架是腾讯深度学习平台的一部分,腾讯深度学习平台技术团队实现了数据并行技术加速DNN训练,提供公用算法简化实验过程.对微信语音识别应用,在模型收敛速度和模型性能上都取得了有效提升——相比单GPU 4.6倍加速比,数十亿样本的训练数天收敛,测…

转:http://blog.sina.com.cn/s/blog_66f725ba0101bw8i.html 关于语音识别的声学模型训练方法已经是比较成熟的方法,一般企业或者研究机构会采用HTK工具包.Kaldi等进行训练,目前从声学模型出发,提高系统性能的主要策略主要有: 1)增加训练数据.不同的训练数据也会对模型有一定的影响,例如,数据的男女均衡性.采集数据的channel.数据的背景噪声.发音人的方言等等. 2)采用比较好的模型训练方法.以前一般采用基于EM和Baum-Welch算法的最大…

专栏目录: 第一章:PyTorch之简介与下载 PyTorch简介 PyTorch环境搭建 第二章:PyTorch之60分钟入门 PyTorch入门 PyTorch自动微分 PyTorch神经网络 PyTorch图像分类器 PyTorch数据并行处理 第三章:PyTorch之入门强化 数据加载和处理 PyTorch小试牛刀 迁移学习 混合前端的seq2seq模型部署 保存和加载模型 第四章:PyTorch之图像篇 微调基于torchvision 0.3的目标检测模型 微调TorchVision模…

Torchvision模型微调 本文将深入探讨如何对 torchvision 模型进行微调和特征提取,所有这些模型都已经预先在1000类的magenet数据集上训练完成.将深入介绍如何使用几个现代的CNN架构,并将直观展示如何微调任意的PyTorch模型.由于每个模型架构是有差异的,因此没有可以在所有场景中使用的微调代码样板.然而,研究人员必须查看现有架构,对每个模型进行自定义调整. 将执行两种类型的转移学习:微调和特征提取. 在微调中,从预训练模型开始,更新新任务的所有模型参数,实质上是重新训…