聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀
6月1日,2023 阿里云峰会·粤港澳大湾区在广州举办,Serverless 加速创新分论坛如约亮相,阿里云函数计算 FC 聚焦 AIGC 应用开发,GPU 性能体验再升级,让 AIGC 应用开发更简单。
以更少的代码,实现业务创新
函数计算 FC 是一种以事件驱动为核心的全托管计算服务,用户只需编写代码并上传,函数计算就会自动准备好计算资源,以弹性、可靠的方式运行代码,并提供完整的可观测能力,大幅简化开发运维过程。
- 函数计算让开发更简单,函数计算 FC 目前支持 100+云产品事件驱动,帮助用户降低用云复杂度。作为全托管计算服务,函数计算内置日志采集监控告警,用户可以进行即时监控保证业务稳定性。函数计算应用中心上线 50+ 热门应用模版,用户可根据业务需求选择合适模版,实现一键部署,开箱即用。
- 函数计算让运维更高效,通过使用函数计算 FC,开发者可以轻松实现开发、构建、调试、部署到运维的全生命周期管理。函数计算 FC 计费粒度精细,按执行环境的内存和执行时间计费,计费粒度可达毫秒级,用户可以只为请求产生的资源消耗买单,按需自由选配,贴合自己的应用运行时开销选取规格,进一步降低资源闲置比例。预留模式作为函数计算 FC 消除冷启动的利器,闲置vCPU实例资源降至 0元/vCPU*秒。百毫秒冷启动,单客交付效率最高可达 2000 实例/秒。
- 函数计算让业务架构更先进,业务拆分到函数级别实现精细化管理,资源利用率可达 100%,真正实现运维0负担,效率提升3至10倍,成本降低30%至80%。
函数计算 GPU 性能再升级
2023 年,生成式 AI 迎来了集中爆发,同时带动 GPU 需求不断上涨,GPU 作为高性能计算硬件的重要组成部分,逐渐成为 AI 技术的核心驱动力,为 AIGC 的发展提供了强大支持。阿里云函数计算拥有极致弹性的 GPU 实例,以及大规格的函数计算性能实例,这部分是承载 AI 应用稳定、高性能推理的重要环节。
2022 年发布至今,函数计算 GPU 实现性能体验再升级。
- 用户配置更灵活,函数计算提供业界最小的 GPU 虚拟化粒度,显存规格最小至1GB。CPU 与 GPU 解耦,允许用户独立配置,同时支持GPUTuring/Ampere 两代卡型。
- 资源利用率更高,底层技术架构从 ECS 架构过渡到神龙 GPU 架构,业界首创多租安全 GPU 共享虚拟化方案,综合资源利用率提升 80%。精细化匹配 AI 推理负载类型,算力规格最小达到 1/16 T4、1/24 A10。
- 技术性能再提升,函数计算 GPU 冷启动时间从分钟级到秒级,性能提升 300%。行业首发 GPU 按需付费,切入准实时推理场景,支持 AIGC 热门场景,助力 AI 创业和生产力提升。
让 AIGC 应用开发更简单
AIGC 时代到来,AI 由之前生产内容的助攻,变为具备内容生成能力的“顶流”。人们惊叹于 AI 展现出的潜力,开始探索如何使用 AI 提高生产效率,然而在实际应用中,AI 应用开发技术的高门槛仍然让很多人望而却步,另外将 AI 应用部署到生产环境中需要考虑安全性、可靠性、可伸缩性、维护性等问题,也需要一定的技术能力和经验。普通开发者或者没有太多编程经验的人是否也能简单、快速开发 AIGC 应用,享受科技带来的红利呢?
函数计算+Serverless 应用聚焦 AIGC,致力于为 AI 开发者/企业提供高效能低成本的 AI 应用开发与部署服务。Serverless 架构具备高资源利用率与按量付费模式,服务端免运维等特性,让开发者真正实现 0 技术门槛开发 AIGC 应用。
完备的开发者套件,是开发者将 AI 应用部署到云原生架构必不可少的一环。
函数计算整合包括 Serverless 应用中心、Serverless Devs 等完备的 AIGC 应用上云套件,可以帮助开发者完成从 0 到 1 再到 N的业务开发,实现业务 Serverless 化,并提供全生命周期管理能力。通过使用 Serverless 应用中心,用户在部署应用之前无需进行额外的克隆、构建、打包和发布操作,即可快速部署和管理应用,帮助用户快速联动云上的上下游服务,轻松沉淀最佳实践。
函数计算具备完整的 AIGC 能力建设,积极拥抱开源生态,让阿里云产品与 LangChain 等 AI 框架高度集成。开发者可以在 ModelScope、HuggingFace 等开源生态和社区选择模型进行开发、部署。
基于函数计算+Serverless 应用中心,开发者可以轻松实现一键模型托管,5 分钟上手 AI 应用开发,效能提升 80%。后续 Serverless 应用中心会持续沉淀各行各业的典型 AI 应用案例模版,让用户可以更简单地了解和掌握。目前应用中心已经加入了通义千问、文生图、图生图、图生问等 10 多款热门 AI 应用模版。
通义千问预体验活动上线
阿里云提供 Serverless 函数计算产品试用资源,邀请您体验:Serverless 一键部署通义千问预体验、文生图、图生图、图生文、文生文 5 大经典 AI 场景,让您获得通义千问 30 次对话预体验机会,同时简单、高效实现一键部署图像生成、文字生成服务,速成 AIGC 创作家。双重奖品设置,完成任意一个体验场景可得社区 400 积分兑换奖品,还可参加 AI 生成图像比赛赢取 Airpods、阿里云定制蓝牙音箱及阿里云定制清雅杯!
体验地址:
https://developer.aliyun.com/topic/aigc_fc
您也可以与通义千问开启对话
通义千问体验界面
体验活动链接:https://developer.aliyun.com/topic/aigc_fc
聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀的更多相关文章
- Jsonql——给RESTful API插上一对翅膀
RESTful API是目前比较成熟的一套互联网应用程序的API设计理论,规范了服务端资源的定义及访问.我们团队服务端就采用了RESTful. 可是在现实开发过程中,还是有些问题. 客户端在获取资源的 ...
- 插上腾飞的翅膀:为asp.net core添加protobuf支持
没时间解释了,快上车. 通过NuGet获取Zaabee.AspNetCoreProtobuf Install-Package Zaabee.AspNetCoreProtobuf 在Startup.cs ...
- 使用函数计算三步实现深度学习 AI 推理在线服务
目前深度学习应用广发, 其中 AI 推理的在线服务是其中一个重要的可落地的应用场景.本文将为大家介绍使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖 ...
- 基于函数计算 + TensorFlow 的 Serverless AI 推理
前言概述 本文介绍了使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖.一键部署.本地调试以及压测评估, 全方位展现函数计算的开发敏捷特性.自动弹性伸缩 ...
- 从函数计算架构看 Serverless 的演进与思考
作者 | 杨皓然 阿里巴巴高级技术专家 导读:云计算之所以能够成为 DT 时代颠覆性力量,是因为其本质是打破传统架构模式.降低成本并简化体系结构,用全新的思维更好的满足了用户需求.而无服务器计算(S ...
- 一元建站-基于函数计算 + wordpress 构建 serverless 网站
前言 本文旨在通过 快速部署一个 wordpress 网站到阿里云函数计算平台 这个示例来展示 serverless web 新的开发模式, 包括 FUN 工具一键初始化 NAS, 同步网站到 NAS ...
- 函数计算: 让小程序开发进入 Serverless 时代
点击下载<不一样的 双11 技术:阿里巴巴经济体云原生实践> 本文节选自<不一样的 双11 技术:阿里巴巴经济体云原生实践>一书,点击上方图片即可下载! 作者 | 吴天龙(木吴 ...
- 函数计算自动化运维实战 2 -- 事件触发 eip 自动转移
函数计算 阿里云函数计算是一个事件驱动的全托管计算服务.通过函数计算,您无需管理服务器等基础设施,只需编写代码并上传.函数计算会为您准备好计算资源,以弹性.可靠的方式运行您的代码,并提供日志查询,性能 ...
- 快速部署 Spring PetClinic 到函数计算平台
简介 首先介绍下在本文出现的几个比较重要的概念: 函数计算(Function Compute):函数计算是一个事件驱动的服务,通过函数计算,用户无需管理服务器等运行情况,只需编写代码并上传.函数计算准 ...
- 独家对话阿里云函数计算负责人不瞋:你所不知道的 Serverless
作者 | 杨丽 出品 | 雷锋网产业组 "Serverless 其实离我们并没有那么遥远". 如果你是一名互联网研发人员,那么极有可能了解并应用过 Serverless 这套技术体 ...
随机推荐
- 【matlab混沌理论】1.4.双摆杆的不同参数模型
双摆杆运动模型.初始条件的微小差异,会导致千差万别的运动现象,这是混沌理论重要体现.主要考虑初始条件有两摆杆长度.质量.初始摆杆角度.重力加速度. input: % 参数定义 L1 = 1; % 第一 ...
- 记录一下工作中SQL Server数据库遇到的问题
解决查询同步人员信息,使用 case when then解决多IF判断问题 select LOCATION, cert_type, WEIXIN, MARRIAGE, RECORD_WAGE, SPE ...
- Celery架构和主要模块
**任务模块 ** 包含异步任务和定时任务.其中,异步任务通常在业务逻辑中被触发并发往任务队列,而定时任务由 Celery Beat 进程周期性地将任务发往任务队列. **消息中间件 Broker * ...
- Asp.net core Webapi 如何执行定时任务?
前言 在计算机系统中,定时执行一些后台任务是很常见的场景,比如定时发送邮件.备份数据等等. 那么,.NET 技术如何通过编程灵活地实现项目里复杂的自定义任务呢? 如果是 Windows 生态,通常来说 ...
- 单位换算详解:bit、Byte、bps、Bps、pps、Gbps的单位详细说明及换算
当谈论计算机存储和数据传输时,"bit"(比特)和"Byte"(字节)是两个常见的术语,它们具有不同的含义和用途. 位(bit):"位"来自 ...
- Windows Server 2012 R2在桌面上显示我的电脑等图标
从Windows 2012 开始,微软取消了服务器桌面个性化选项,如何重新调出配置界面,可以使用微软命令.方法如下: 按下「Win鍵」+「R」,在运行里输入: rundll32.exe shell3 ...
- 珍藏网站-关于路由器、WIFI协议等
路由器详解:为什么不要买AX3000路由器 https://zhuanlan.zhihu.com/p/403855533 包含以下专业名词和相关话题: RX/TX和MU-MIMO 20MHz/40MH ...
- 《代码整洁之道 Clean Code》学习笔记 Part 2 - 写出优雅的函数的10条建议
大师级程序员把系统当作故事来讲,而不是当作程序来写. TLDR 短小(不超过 20 行.缩进不超过 2 层) 只做一件事 保持在同一抽象层级 用多态替代 switch 取个好的函数名 函数参数越少越好 ...
- Java 设置PDF文档过期时间(有效期)
有些文档具有一定时效性,需在规定时间段内才可阅读查看,针对此类文档,需要设置文档的过期日期.时间等.下面以Java示例演示为例如何给PDF文档设置过期时间.需使用PDF类库, Free Spire.P ...
- JDK1.6在生产环境引起的坑
本文分享自华为云社区<[高并发]记一次JDK1.6在生产环境引起的坑!>,作者: 冰 河 . 最近有朋友遇到一个困惑:他写的程序在测试环境一点问题没有,但是发到生产环境却会频繁出现内存溢出 ...