聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀
6月1日,2023 阿里云峰会·粤港澳大湾区在广州举办,Serverless 加速创新分论坛如约亮相,阿里云函数计算 FC 聚焦 AIGC 应用开发,GPU 性能体验再升级,让 AIGC 应用开发更简单。
以更少的代码,实现业务创新
函数计算 FC 是一种以事件驱动为核心的全托管计算服务,用户只需编写代码并上传,函数计算就会自动准备好计算资源,以弹性、可靠的方式运行代码,并提供完整的可观测能力,大幅简化开发运维过程。
- 函数计算让开发更简单,函数计算 FC 目前支持 100+云产品事件驱动,帮助用户降低用云复杂度。作为全托管计算服务,函数计算内置日志采集监控告警,用户可以进行即时监控保证业务稳定性。函数计算应用中心上线 50+ 热门应用模版,用户可根据业务需求选择合适模版,实现一键部署,开箱即用。
- 函数计算让运维更高效,通过使用函数计算 FC,开发者可以轻松实现开发、构建、调试、部署到运维的全生命周期管理。函数计算 FC 计费粒度精细,按执行环境的内存和执行时间计费,计费粒度可达毫秒级,用户可以只为请求产生的资源消耗买单,按需自由选配,贴合自己的应用运行时开销选取规格,进一步降低资源闲置比例。预留模式作为函数计算 FC 消除冷启动的利器,闲置vCPU实例资源降至 0元/vCPU*秒。百毫秒冷启动,单客交付效率最高可达 2000 实例/秒。
- 函数计算让业务架构更先进,业务拆分到函数级别实现精细化管理,资源利用率可达 100%,真正实现运维0负担,效率提升3至10倍,成本降低30%至80%。
函数计算 GPU 性能再升级
2023 年,生成式 AI 迎来了集中爆发,同时带动 GPU 需求不断上涨,GPU 作为高性能计算硬件的重要组成部分,逐渐成为 AI 技术的核心驱动力,为 AIGC 的发展提供了强大支持。阿里云函数计算拥有极致弹性的 GPU 实例,以及大规格的函数计算性能实例,这部分是承载 AI 应用稳定、高性能推理的重要环节。
2022 年发布至今,函数计算 GPU 实现性能体验再升级。
- 用户配置更灵活,函数计算提供业界最小的 GPU 虚拟化粒度,显存规格最小至1GB。CPU 与 GPU 解耦,允许用户独立配置,同时支持GPUTuring/Ampere 两代卡型。
- 资源利用率更高,底层技术架构从 ECS 架构过渡到神龙 GPU 架构,业界首创多租安全 GPU 共享虚拟化方案,综合资源利用率提升 80%。精细化匹配 AI 推理负载类型,算力规格最小达到 1/16 T4、1/24 A10。
- 技术性能再提升,函数计算 GPU 冷启动时间从分钟级到秒级,性能提升 300%。行业首发 GPU 按需付费,切入准实时推理场景,支持 AIGC 热门场景,助力 AI 创业和生产力提升。
让 AIGC 应用开发更简单
AIGC 时代到来,AI 由之前生产内容的助攻,变为具备内容生成能力的“顶流”。人们惊叹于 AI 展现出的潜力,开始探索如何使用 AI 提高生产效率,然而在实际应用中,AI 应用开发技术的高门槛仍然让很多人望而却步,另外将 AI 应用部署到生产环境中需要考虑安全性、可靠性、可伸缩性、维护性等问题,也需要一定的技术能力和经验。普通开发者或者没有太多编程经验的人是否也能简单、快速开发 AIGC 应用,享受科技带来的红利呢?
函数计算+Serverless 应用聚焦 AIGC,致力于为 AI 开发者/企业提供高效能低成本的 AI 应用开发与部署服务。Serverless 架构具备高资源利用率与按量付费模式,服务端免运维等特性,让开发者真正实现 0 技术门槛开发 AIGC 应用。
完备的开发者套件,是开发者将 AI 应用部署到云原生架构必不可少的一环。
函数计算整合包括 Serverless 应用中心、Serverless Devs 等完备的 AIGC 应用上云套件,可以帮助开发者完成从 0 到 1 再到 N的业务开发,实现业务 Serverless 化,并提供全生命周期管理能力。通过使用 Serverless 应用中心,用户在部署应用之前无需进行额外的克隆、构建、打包和发布操作,即可快速部署和管理应用,帮助用户快速联动云上的上下游服务,轻松沉淀最佳实践。
函数计算具备完整的 AIGC 能力建设,积极拥抱开源生态,让阿里云产品与 LangChain 等 AI 框架高度集成。开发者可以在 ModelScope、HuggingFace 等开源生态和社区选择模型进行开发、部署。
基于函数计算+Serverless 应用中心,开发者可以轻松实现一键模型托管,5 分钟上手 AI 应用开发,效能提升 80%。后续 Serverless 应用中心会持续沉淀各行各业的典型 AI 应用案例模版,让用户可以更简单地了解和掌握。目前应用中心已经加入了通义千问、文生图、图生图、图生问等 10 多款热门 AI 应用模版。
通义千问预体验活动上线
阿里云提供 Serverless 函数计算产品试用资源,邀请您体验:Serverless 一键部署通义千问预体验、文生图、图生图、图生文、文生文 5 大经典 AI 场景,让您获得通义千问 30 次对话预体验机会,同时简单、高效实现一键部署图像生成、文字生成服务,速成 AIGC 创作家。双重奖品设置,完成任意一个体验场景可得社区 400 积分兑换奖品,还可参加 AI 生成图像比赛赢取 Airpods、阿里云定制蓝牙音箱及阿里云定制清雅杯!
体验地址:
https://developer.aliyun.com/topic/aigc_fc
您也可以与通义千问开启对话
通义千问体验界面
体验活动链接:https://developer.aliyun.com/topic/aigc_fc
聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀的更多相关文章
- Jsonql——给RESTful API插上一对翅膀
RESTful API是目前比较成熟的一套互联网应用程序的API设计理论,规范了服务端资源的定义及访问.我们团队服务端就采用了RESTful. 可是在现实开发过程中,还是有些问题. 客户端在获取资源的 ...
- 插上腾飞的翅膀:为asp.net core添加protobuf支持
没时间解释了,快上车. 通过NuGet获取Zaabee.AspNetCoreProtobuf Install-Package Zaabee.AspNetCoreProtobuf 在Startup.cs ...
- 使用函数计算三步实现深度学习 AI 推理在线服务
目前深度学习应用广发, 其中 AI 推理的在线服务是其中一个重要的可落地的应用场景.本文将为大家介绍使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖 ...
- 基于函数计算 + TensorFlow 的 Serverless AI 推理
前言概述 本文介绍了使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖.一键部署.本地调试以及压测评估, 全方位展现函数计算的开发敏捷特性.自动弹性伸缩 ...
- 从函数计算架构看 Serverless 的演进与思考
作者 | 杨皓然 阿里巴巴高级技术专家 导读:云计算之所以能够成为 DT 时代颠覆性力量,是因为其本质是打破传统架构模式.降低成本并简化体系结构,用全新的思维更好的满足了用户需求.而无服务器计算(S ...
- 一元建站-基于函数计算 + wordpress 构建 serverless 网站
前言 本文旨在通过 快速部署一个 wordpress 网站到阿里云函数计算平台 这个示例来展示 serverless web 新的开发模式, 包括 FUN 工具一键初始化 NAS, 同步网站到 NAS ...
- 函数计算: 让小程序开发进入 Serverless 时代
点击下载<不一样的 双11 技术:阿里巴巴经济体云原生实践> 本文节选自<不一样的 双11 技术:阿里巴巴经济体云原生实践>一书,点击上方图片即可下载! 作者 | 吴天龙(木吴 ...
- 函数计算自动化运维实战 2 -- 事件触发 eip 自动转移
函数计算 阿里云函数计算是一个事件驱动的全托管计算服务.通过函数计算,您无需管理服务器等基础设施,只需编写代码并上传.函数计算会为您准备好计算资源,以弹性.可靠的方式运行您的代码,并提供日志查询,性能 ...
- 快速部署 Spring PetClinic 到函数计算平台
简介 首先介绍下在本文出现的几个比较重要的概念: 函数计算(Function Compute):函数计算是一个事件驱动的服务,通过函数计算,用户无需管理服务器等运行情况,只需编写代码并上传.函数计算准 ...
- 独家对话阿里云函数计算负责人不瞋:你所不知道的 Serverless
作者 | 杨丽 出品 | 雷锋网产业组 "Serverless 其实离我们并没有那么遥远". 如果你是一名互联网研发人员,那么极有可能了解并应用过 Serverless 这套技术体 ...
随机推荐
- 洛谷P2757 [国家集训队]等差子序列 (hash+线段树)
题目连接 这题只要令 $len=3$看是否符合即可.因为是一个 $1$到 $n$的排列,考虑数列中项,那么对于一个数 $x$,令 $k=\max(n-x, x-1)$,只要存在 $d\in(1,k)$ ...
- 如何用java的虚拟线程连接数据库
我觉得这个很简单 首先确保你idea支持jdk21. 然后把idea编译成的目标字节码设置为21版本的 然后编写代码. 创建虚拟线程的方式有: Runnable runnable = () -> ...
- 关于git 解决分支冲突问题(具体操作,包含截图,教你一步一步解决冲突问题)
当在Git中有多个开发者在同一个分支上工作时,可能会发生分支冲突.分支冲突指的是多个开发者在同一时间修改相同的代码文件,导致Git无法自动合并这些更改. 比如说:我在github上进行了md文件的修改 ...
- Input type (torch.FloatTensor) and weight type (torch.cuda.FloatTensor) should be the same(解决)
问题描述 在使用pytorch训练经典的MNIST数据集时,运行时,出现了以下的问题: Input type (torch.FloatTensor) and weight type (torch.cu ...
- 如何将 Python 项目打包成 exe,另带卸载功能!
前言 虽然我是做 web 的,但是对 Python 的众多开源项目一直都很关注.像之前的 stable diffusion 的 AI 绘画,和 so-vits-svc 音色替换等源码的部署文档都很完善 ...
- bash shell笔记整理——basename和dirname命令
bashname命令作用 去掉给定name的目录部分,如果指定了 SUFFIX, 就 同时去掉SUFFIX(后缀).具体看示例吧. bashname语法 Usage: basename NAME [S ...
- Selenium-无头模式headless
无头模式适合的场景: 部署到没有gui界面的服务器,比如linux 开发环境测试完全没问题后可以使用无头模式,提高selenium速度. # 使用headless无界面浏览器模式 chrome_opt ...
- ElasticSearch之cat nodes API
命令样例如下: curl -X GET "https://localhost:9200/_cat/nodes?v=true&pretty" --cacert $ES_HOM ...
- Mysql索引失效的几种原因-mysql-suo-yin-shi-xiao-de-ji-zhong-yuan-yin
title: Mysql索引失效的几种原因 date: 2021-07-15 17:13:59.019 updated: 2021-12-26 17:43:12.489 url: https://ww ...
- STM32CubeMX教程3 GPIO输入 - 按键响应
1.准备材料 开发板(STM32F407G-DISC1) ST-LINK/V2驱动 STM32CubeMX软件(Version 6.10.0) keil µVision5 IDE(MDK-Arm) 2 ...