聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀
6月1日,2023 阿里云峰会·粤港澳大湾区在广州举办,Serverless 加速创新分论坛如约亮相,阿里云函数计算 FC 聚焦 AIGC 应用开发,GPU 性能体验再升级,让 AIGC 应用开发更简单。
以更少的代码,实现业务创新
函数计算 FC 是一种以事件驱动为核心的全托管计算服务,用户只需编写代码并上传,函数计算就会自动准备好计算资源,以弹性、可靠的方式运行代码,并提供完整的可观测能力,大幅简化开发运维过程。
- 函数计算让开发更简单,函数计算 FC 目前支持 100+云产品事件驱动,帮助用户降低用云复杂度。作为全托管计算服务,函数计算内置日志采集监控告警,用户可以进行即时监控保证业务稳定性。函数计算应用中心上线 50+ 热门应用模版,用户可根据业务需求选择合适模版,实现一键部署,开箱即用。
- 函数计算让运维更高效,通过使用函数计算 FC,开发者可以轻松实现开发、构建、调试、部署到运维的全生命周期管理。函数计算 FC 计费粒度精细,按执行环境的内存和执行时间计费,计费粒度可达毫秒级,用户可以只为请求产生的资源消耗买单,按需自由选配,贴合自己的应用运行时开销选取规格,进一步降低资源闲置比例。预留模式作为函数计算 FC 消除冷启动的利器,闲置vCPU实例资源降至 0元/vCPU*秒。百毫秒冷启动,单客交付效率最高可达 2000 实例/秒。
- 函数计算让业务架构更先进,业务拆分到函数级别实现精细化管理,资源利用率可达 100%,真正实现运维0负担,效率提升3至10倍,成本降低30%至80%。
函数计算 GPU 性能再升级
2023 年,生成式 AI 迎来了集中爆发,同时带动 GPU 需求不断上涨,GPU 作为高性能计算硬件的重要组成部分,逐渐成为 AI 技术的核心驱动力,为 AIGC 的发展提供了强大支持。阿里云函数计算拥有极致弹性的 GPU 实例,以及大规格的函数计算性能实例,这部分是承载 AI 应用稳定、高性能推理的重要环节。
2022 年发布至今,函数计算 GPU 实现性能体验再升级。
- 用户配置更灵活,函数计算提供业界最小的 GPU 虚拟化粒度,显存规格最小至1GB。CPU 与 GPU 解耦,允许用户独立配置,同时支持GPUTuring/Ampere 两代卡型。
- 资源利用率更高,底层技术架构从 ECS 架构过渡到神龙 GPU 架构,业界首创多租安全 GPU 共享虚拟化方案,综合资源利用率提升 80%。精细化匹配 AI 推理负载类型,算力规格最小达到 1/16 T4、1/24 A10。
- 技术性能再提升,函数计算 GPU 冷启动时间从分钟级到秒级,性能提升 300%。行业首发 GPU 按需付费,切入准实时推理场景,支持 AIGC 热门场景,助力 AI 创业和生产力提升。
让 AIGC 应用开发更简单
AIGC 时代到来,AI 由之前生产内容的助攻,变为具备内容生成能力的“顶流”。人们惊叹于 AI 展现出的潜力,开始探索如何使用 AI 提高生产效率,然而在实际应用中,AI 应用开发技术的高门槛仍然让很多人望而却步,另外将 AI 应用部署到生产环境中需要考虑安全性、可靠性、可伸缩性、维护性等问题,也需要一定的技术能力和经验。普通开发者或者没有太多编程经验的人是否也能简单、快速开发 AIGC 应用,享受科技带来的红利呢?
函数计算+Serverless 应用聚焦 AIGC,致力于为 AI 开发者/企业提供高效能低成本的 AI 应用开发与部署服务。Serverless 架构具备高资源利用率与按量付费模式,服务端免运维等特性,让开发者真正实现 0 技术门槛开发 AIGC 应用。
完备的开发者套件,是开发者将 AI 应用部署到云原生架构必不可少的一环。
函数计算整合包括 Serverless 应用中心、Serverless Devs 等完备的 AIGC 应用上云套件,可以帮助开发者完成从 0 到 1 再到 N的业务开发,实现业务 Serverless 化,并提供全生命周期管理能力。通过使用 Serverless 应用中心,用户在部署应用之前无需进行额外的克隆、构建、打包和发布操作,即可快速部署和管理应用,帮助用户快速联动云上的上下游服务,轻松沉淀最佳实践。
函数计算具备完整的 AIGC 能力建设,积极拥抱开源生态,让阿里云产品与 LangChain 等 AI 框架高度集成。开发者可以在 ModelScope、HuggingFace 等开源生态和社区选择模型进行开发、部署。
基于函数计算+Serverless 应用中心,开发者可以轻松实现一键模型托管,5 分钟上手 AI 应用开发,效能提升 80%。后续 Serverless 应用中心会持续沉淀各行各业的典型 AI 应用案例模版,让用户可以更简单地了解和掌握。目前应用中心已经加入了通义千问、文生图、图生图、图生问等 10 多款热门 AI 应用模版。
通义千问预体验活动上线
阿里云提供 Serverless 函数计算产品试用资源,邀请您体验:Serverless 一键部署通义千问预体验、文生图、图生图、图生文、文生文 5 大经典 AI 场景,让您获得通义千问 30 次对话预体验机会,同时简单、高效实现一键部署图像生成、文字生成服务,速成 AIGC 创作家。双重奖品设置,完成任意一个体验场景可得社区 400 积分兑换奖品,还可参加 AI 生成图像比赛赢取 Airpods、阿里云定制蓝牙音箱及阿里云定制清雅杯!
体验地址:
https://developer.aliyun.com/topic/aigc_fc
您也可以与通义千问开启对话
通义千问体验界面
体验活动链接:https://developer.aliyun.com/topic/aigc_fc
聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀的更多相关文章
- Jsonql——给RESTful API插上一对翅膀
RESTful API是目前比较成熟的一套互联网应用程序的API设计理论,规范了服务端资源的定义及访问.我们团队服务端就采用了RESTful. 可是在现实开发过程中,还是有些问题. 客户端在获取资源的 ...
- 插上腾飞的翅膀:为asp.net core添加protobuf支持
没时间解释了,快上车. 通过NuGet获取Zaabee.AspNetCoreProtobuf Install-Package Zaabee.AspNetCoreProtobuf 在Startup.cs ...
- 使用函数计算三步实现深度学习 AI 推理在线服务
目前深度学习应用广发, 其中 AI 推理的在线服务是其中一个重要的可落地的应用场景.本文将为大家介绍使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖 ...
- 基于函数计算 + TensorFlow 的 Serverless AI 推理
前言概述 本文介绍了使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖.一键部署.本地调试以及压测评估, 全方位展现函数计算的开发敏捷特性.自动弹性伸缩 ...
- 从函数计算架构看 Serverless 的演进与思考
作者 | 杨皓然 阿里巴巴高级技术专家 导读:云计算之所以能够成为 DT 时代颠覆性力量,是因为其本质是打破传统架构模式.降低成本并简化体系结构,用全新的思维更好的满足了用户需求.而无服务器计算(S ...
- 一元建站-基于函数计算 + wordpress 构建 serverless 网站
前言 本文旨在通过 快速部署一个 wordpress 网站到阿里云函数计算平台 这个示例来展示 serverless web 新的开发模式, 包括 FUN 工具一键初始化 NAS, 同步网站到 NAS ...
- 函数计算: 让小程序开发进入 Serverless 时代
点击下载<不一样的 双11 技术:阿里巴巴经济体云原生实践> 本文节选自<不一样的 双11 技术:阿里巴巴经济体云原生实践>一书,点击上方图片即可下载! 作者 | 吴天龙(木吴 ...
- 函数计算自动化运维实战 2 -- 事件触发 eip 自动转移
函数计算 阿里云函数计算是一个事件驱动的全托管计算服务.通过函数计算,您无需管理服务器等基础设施,只需编写代码并上传.函数计算会为您准备好计算资源,以弹性.可靠的方式运行您的代码,并提供日志查询,性能 ...
- 快速部署 Spring PetClinic 到函数计算平台
简介 首先介绍下在本文出现的几个比较重要的概念: 函数计算(Function Compute):函数计算是一个事件驱动的服务,通过函数计算,用户无需管理服务器等运行情况,只需编写代码并上传.函数计算准 ...
- 独家对话阿里云函数计算负责人不瞋:你所不知道的 Serverless
作者 | 杨丽 出品 | 雷锋网产业组 "Serverless 其实离我们并没有那么遥远". 如果你是一名互联网研发人员,那么极有可能了解并应用过 Serverless 这套技术体 ...
随机推荐
- 神经网络入门篇:详解搭建神经网络块(Building blocks of deep neural networks)
搭建神经网络块 这是一个层数较少的神经网络,选择其中一层(方框部分),从这一层的计算着手.在第\(l\)层有参数\(W^{[l]}\)和\(b^{[l]}\),正向传播里有输入的激活函数,输入是前一层 ...
- 使用 PyTorch 完全分片数据并行技术加速大模型训练
本文,我们将了解如何基于 PyTorch 最新的 完全分片数据并行 (Fully Sharded Data Parallel,FSDP) 功能用 Accelerate 库来训练大模型. 动机 随着机器 ...
- 【UniApp】-uni-app-全局数据和局部数据
前言 好,经过上个章节的介绍完毕之后,了解了一下 uni-app-全局样式和局部样式 那么了解完了全局样式和局部样式之后,这篇文章我再来给大家介绍一下 UniApp 中全局数据和局部数据 搭建演示环境 ...
- SnagIt 9-12 注册码
SnagIt 9 注册码: AM5SC-8LWML-MVMWU-DTLGE-ERMBE SnagIt 10 注册码: 5HCAK-DEGMZ-EYABA-M4LCC-ACBE2DFKDA-JZ5FC- ...
- C# 获取系统DPI缩放比例以及分辨率大小
一般方法 System.Windows.Forms.Screen类 // 获取当前主屏幕分辨率 int screenWidth = Screen.PrimaryScreen.Bounds.Width; ...
- ElasticSearch之线程池
ElasticSearch节点可用的CPU核的数量,通常可以交给ElasticSearch来自行检测和判定,另外可以在``elasticsearch.yml`中显式指定.样例如下: node.proc ...
- 让 sdk 包静默升级的 SAO 操作,你见过几种?
拓展阅读 让 sdk 包静默升级的 SAO 操作,你见过几种? 业务背景 有时候为业务方提供了基础的 sdk 包,为了保证稳定性,一般都是 release 包. 但是每一次升级都非常痛苦,也不可能写一 ...
- Java 并发编程(五)读写锁
本文使用的 JDK 版本为 JDK 8 JUC 中关于读写锁的接口定义如下: // java.util.concurrent.locks.ReadWriteLock public interface ...
- String 类和 STL (Standard Template Library)
目录 一. string 类 1. 构造字符串 2. string类输入 3. 使用字符串 4. 其他string类方法 5. 字符串种类 一. string 类 很多应用程序都需要处理字符串.C语言 ...
- 神经网络基础篇:关于 python_numpy 向量的说明(A note on python or numpy vectors)
关于 python_numpy 向量的说明 主要讲Python中的numpy一维数组的特性,以及与行向量或列向量的区别.并说一下在实际应用中的一些小技巧,去避免在coding中由于这些特性而导致的bu ...