ChatGPT 背后的英雄——AI芯片
本文分享自天翼云开发者社区《ChatGPT 背后的英雄——AI芯片》,作者:w****n
AI芯片能为人工智能应用提供所需的基础算力;按技术架构主要分为GPU、FPGA和ASIC。ChatGPT 有着大量复杂计算需求的 AI 模型, AI 芯片专门用于处理人工智能应用中的大量计算任务,是不可或缺的底层硬件。随着 AI 技术快速发展,AI 应用场景扩大至智能制造、家居、教育、医疗和金融等领域;而智能产品种类不断丰富,包括 ChatGPT 等 AIGC 产品持续升级对芯片算力提出更高要求,AI 芯片算力和需求旺盛增长。据 Frost&Sullivan 预计,2022-2026 年全球 AI 芯片市场规模将以 26.3%复合增速增长。从基础预生成 AI 到机器学习,最终达到深度学习,主要依赖于审阅庞大的数据集合、处理数据、生成算法模型、训练算法模型的能力,而 AI 芯片就是从处理数据到终端赋能的算力基础。AI 芯片主要分为三种,分别是 GPU, FPGA 与 ASIC 芯片。不同种类别的 AI 计算芯片有各自突出的优势和适用的领域,贯穿 AI 训练与推理阶段。目前 CPU 在人工智能领域中的应用有限,主要受限于 CPU 在 AI 训练方面的计算能力不足。
一 、GPU
GPU 作为显示芯片是可在个人电脑、工作站、游戏机和智能手机/平板电脑上做图像和图像相关运算工作的微处理器。随着互联网用户和网络应用兴起,数据体量逐渐庞大,数据中心对计算需求快速增加,GPU 凭借其相对通用灵活和适应并行计算等特性成为主要选择,GPU 也从最初专用于图像处理制作后逐渐应用于计算,是核心计算资源基础。目前来看,GPU 仍然是 AI 应用的主导芯片,主要因为它具有强大的计算能力和高通用适用性,广泛应用于各种图形处理、数值模拟及人工智能算法领域。较低的开发成本也时期能够快速在各个垂直下游领域被广泛应用,加速优化拓展。ChatGPT 作为有着大量复杂计算需求的 AI 模型,GPU 芯片成为能帮助其完成计算任务的关键硬件之一;随着深度学习技术发展,GPU 成为 AI 算法训练中重要硬件组成部分。同时,随着云计算技术发展,云端对 GPU 算力要求在不断提升。据机构 JPR 预测显示,2022-2026 年全球 GPU 出货量将以 6.3%复合增速增长;预计 2027 年行业市场规模将超320 亿美元。
二、FPGA
FPGA 是支持 AI 算力芯片的更优解,优点主要在于低延迟、优秀的能效比、较短的开发周期以及高度可编程能力,可以供给不同垂直行业使用。FPGA 是一种硬件可重构的集成电路芯片,通过在硅片上预先设计实现具有可编程特性,可通过软件重新配置芯片内部的资源来实现不同功能,广泛应用于数据中心、航空航天工程、人工智能、工业、物联网以及汽车等领域。FPGA 拥有软件的可编程性和灵活性、兼具硬件的并行性和低延时性,相较于 ASIC、GPU 等处理器更为灵活,具备上市周期和成本优势。在 5G 通信、人工智能等迭代升级周期频繁、技术不确定性较大的领域,FPGA 是较为理想的解决方案。随着全球新一代通信设备部署以及人工智能与自动驾驶技术等新兴市场领域需求的不断增长,前瞻产业研究院预计全球 FPGA 市场规模将从 2021 年的 82.9 亿美元增长至 2025 年的 125.2亿美元,年均复合增长率约为 10.8%,中国 FPGA 市场规模快速增长,预计 2021-2025 年规模复合增速 17.1%。
三、 ASIC
ASIC 是为特定用途而定制的集成电路,具有高性能、低能耗的特点,专用化程度最高,其特点同时适合 AI 训练和推理阶段的使用。ASIC 芯片包括 DPU 和 NPU 类别,其中,DPU主要承担网络、存储和安全的加速处理任务,旨在满足网络侧专用计算需求,适用于服务器量多、对数据传输速率要求严苛的场景。ASIC 应用领域广泛,包括医疗、工业、军事、航空等。其中虚拟币是主要应用领域之一,因相对 GPU、FPGA,ASIC 能效更高。目前 ASIC渗透率依然较低,主要由于其较高的研发成本与研发壁垒,因此市场份额显著小于 GPU。随着人工智能行业愈加成熟,蓬勃发展的下游应用对于上游研发成本的优化力不断增高,ASIC 芯片依赖于它的卓越性能及低功耗,将成为人工智能技术的首选。根据贝哲斯咨询预测,到 2027 年,全球 ASIC 市场规模预计将达 1677.49 亿元,2021-2027 年均复合增长率为 8.9%。
ChatGPT 背后的英雄——AI芯片的更多相关文章
- 深度 | AI芯片终极之战
深度 | AI芯片终极之战 https://mp.weixin.qq.com/s?__biz=MzA4MTQ4NjQzMw==&mid=2652712307&idx=1&sn= ...
- 一文看懂AI芯片竞争五大维度
下一波大趋势和大红利从互联网+让位于人工智能+,已成业界共识.在AI的数据.算法和芯片之三剑客中,考虑到AI算法开源的发展趋势,数据与芯片将占据越来越重要的地位,而作为AI发展支柱的芯片更是AI业的竞 ...
- 一文解读AI芯片之间的战争 (转)
2015年的秋天,北京的雨水比往年要多些,温度却不算太冷.这一年里,年仅23岁的姚颂刚刚拿到清华大学的毕业证书;32岁的陈天石博士毕业后已在中科院计算所待了整整8年;而在芯片界摸爬滚打了14年的老将何 ...
- 发布AI芯片昆仑和百度大脑3.0、L4自动驾驶巴士量产下线,这是百度All in AI一年后的最新答卷...
机器之心报道,作者:李泽南. 去年的 7 月 5 日,百度在北京国际会议中心开办了首届「AI 开发者大会」.在会上,百度首次喊出了「All in AI」的口号.一年的时间过去了,今天在同样地点举行的第 ...
- ChatGPT 背后核心技术的白话版
本文是关于ChatGPT 背后核心技术实现的一个通俗白话版,不涉及到的AI具体实现的技术细节哦. 在编排上增加了一些分割,内容具体如下: LLMs(大型语言模型) 如果将ChatGPT比作是动物,它就 ...
- Nvidia和Google的AI芯片战火蔓延至边缘端
AI 的热潮还在持续,AI 的战火自然也在升级.英伟达作为这一波 AI 浪潮中最受关注的公司之一,在很大程度上影响着 AI 的战局.上周在美国举行的 GTC 2019 上,黄仁勋大篇幅介绍了英伟达在 ...
- 人工智能AI芯片与Maker创意接轨(下)
继「人工智能AI芯片与Maker创意接轨」的(上)篇中,认识了人工智能.深度学习,以及深度学习技术的应用,以及(中)篇对市面上AI芯片的类型及解决方案现况做了完整剖析后,系列文到了最后一篇,将带领各位 ...
- 人工智能AI芯片与Maker创意接轨 (中)
在人工智能AI芯片与Maker创意接轨(上)这篇文章中,介绍人工智能与深度学习,以及深度学习技术的应用,了解内部真实的作业原理,让我们能够跟上这波AI新浪潮.系列文来到了中篇,将详细介绍目前市面上的各 ...
- 人工智能AI芯片与Maker创意接轨 (上)
近几年来人工智能(Artificial Intelligence, AI)喴的震天价响,吃也要AI,穿也要AI,连上个厕所也要来个AI智能健康分析,生活周遭食衣住行育乐几乎无处不AI,彷佛已经来到科幻 ...
- 深度 | AI芯片之智能边缘计算的崛起——实时语言翻译、图像识别、AI视频监控、无人车这些都需要终端具有较强的计算能力,从而AI芯片发展起来是必然,同时5G网络也是必然
from:https://36kr.com/p/5103044.html 到2020年,大多数先进的ML袖珍电脑(你仍称之为手机)将有能力执行一整套任务.个人助理将变的更加智能,它是打造这种功能的切入 ...
随机推荐
- Ansible常用功能说明 [异步、并发、委托等]
文章目录 Ansible的同步模式与异步模式 Ansible的异步和轮询 [async.poll] Ansible的并发限制 [serial.max_fail_percentage] Ansible的 ...
- (Python基础教程之六)Python中的关键字
Python基础教程 在SublimeEditor中配置Python环境 Python代码中添加注释 Python中的变量的使用 Python中的数据类型 Python中的关键字 Python字符串操 ...
- LinkedList原码分析(基于JDK1.6)
<Java集合类>一文中已经最List的基本操作进行说明,并且比较了ArrayList和LinkedList的效率.本文将进一步解析LinkedList. LinkedList也和Arra ...
- pikachu平台XXE漏洞通关教程详解
声明! 如涉及侵权马上删除文章,笔记只是方便各位师傅的学习和探讨,文章所提到的网站以及内容,只做学习交流,其他均与本人无关,切勿触碰法律底线,否则后果自负!!!! 文章来自个人csdn博客,地址:ht ...
- 2019-2020 ACM-ICPC Brazil Subregional Programming Contest
D. Denouncing Mafia 给定一颗树,然后给定\(k\)个起点,对于每个起点来说,从该点到根节点的一条链都会被染色,求最多有几个点会被染色 \(3 \leq n \leq 1e5, 1 ...
- 21stUESTC
数矩形 平面上有 \(n\) 个点,这 \(n\) 个点两两不重合.问这 \(n\) 个点可以组成多少个矩形 请注意:矩形的边不必平行于坐标轴. \(4 ≤ n ≤ 1000\) 保证这些点两两不重合 ...
- jmeter使用jdbc连接SQL server,执行SQL报错处理
前置环境参数:jdk-8u391-windows-x64,驱动:sqljdbc4.jar 备注:这是解决后的截图,将就用 问题一:使用jmeter5.5,使用jdbc连接SQL server,执行SQ ...
- 【Amadeus原创】Docker安装最新版wordpress
0.安装docker curl -fsSL https://get.docker.com | bash -s docker --mirror aliyun service docker start 1 ...
- 实现一个分布式调用(OkHttp+SpringBoot)
很多情况,trace是分布在不同的应用中的,最常用的远程调用方式就是Http. 在这种情况下,我们通常通过增加额外的Http Header传递Trace信息,然后将其组织起来. 本部分通过构建一个目前 ...
- OGC标准地图服务协议总结
OGC标准地图服务协议总结 1. WMS WMS(Web Map Service)是OGC(Open Geospatial Consortium)定义的一种地图服务协议.它允许客户端通过HTTP请求从 ...