频道栏目

华西新闻  >  资讯  >  正文

2024亚马逊云科技中国峰会:生成式AI三层技术栈,持续深耕基础设施创新

2024-06-21 15:44:00   来源: 天虎科技
0

5月30日,为期两天的2024亚马逊云科技中国峰会在上海·世博中心落下帷幕。

本届峰会围绕"生成式AI全球前沿创新与本地实践、生成式AI赋能十大行业全价值链创新、创新架构和跨代技术革新云上实践"三大核心主题,集结了来自全球各地多位顶尖级云计算及人工智能技术专家、业界领袖和企业高管,共探生成式AI技术在各行各业中的创新应用新场景。

亚马逊云科技推出生成式AI三层技术栈,全方位赋能企业AI创新

亚马逊云科技大中华区产品总经理陈晓建在峰会上发表主题演讲《生成式AI重塑时代》。他指出,科技正在重塑每一个时代,每一项技术创新都伴随着几十年的发明和新想法的诞生。亚马逊云科技作为云计算的先驱,将网络、存储、数据库和计算等技术转变为可配置资源,消除了管理基础设施和数据中心的冗余工作。

数据显示,亚马逊云科技在全球33个地区提供超过200项全功能的服务,每项服务都旨在消除创新障碍,降低创新门槛。

为了更好地支持企业在生成式AI时代的创新,亚马逊云科技推出了生成式AI三层技术栈。在底层基础设施方面,以GPU和自研芯片为代表,用于基础模型的训练以及在生产环境中运行推理。陈晓建强调,亚马逊云科技是客户使用NVIDIA GPU的卓越选择。Amazon UltraCluster提供了超大规模、超高带宽以及超高稳定的高性能计算集群,为大规模AI模型训练提供了强大支持。此外,亚马逊云科技还推出了自研芯片,如Amazon Trainium和Amazon Inferentia,可分别将训练成本降低高达50%,推理成本降低高达40%。

在中间层工具方面,以Amazon Bedrock为代表,提供访问所需基础模型以及构建和扩展生成式AI应用程序的工具。Amazon Bedrock提供四大差异化价值:模型选择、模型定制、应用集成和负责任AI。用户可以通过单一的API访问来自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亚马逊等领先人工智能公司的高性能基础模型。陈晓建还宣布,来自零一万物的Yi-1.5 6B/9B/34B的基础模型在中国区域正式上线SageMaker Jumpstart,来自百川智能的Baichuan-2 7B基础模型也即将上线中国区域的SageMaker Jumpstart。

在顶层应用方面,以Amazon Q为代表的开箱即用的生成式AI应用程序,用户无需任何专业知识即可快速上手生成式AI。陈晓建宣布,Amazon Q Developer、Amazon Q Business和Amazon Q in QuickSight均已正式可用。Amazon Q Developer可以协助开发人员完成从编码、测试、升级应用到故障排查、安全扫描和修复、优化云资源等繁琐重复的工作。


架构演进连接未来想象,亚马逊云科技持续深耕基础设施创新

亚马逊云科技大中华区解决方案架构总经理代闻在峰会上发表主题演讲《架构演进连接未来想象》。他强调,在生成式AI时代,技术架构演讲应当关注两个方面:变化的技术和不变的需求。所有技术工作者应当主动拥抱生成式AI,积极地升级技能、应用这项变革性的技术;同时在技术架构的演进过程中锚定不变的原则,在技术变革的浪潮中找到前进的灯塔方向。

代闻指出,技术架构演进过程中不变的三个主题需求是:基础组件能力、架构体系创新和多元技术融合。

在基础组件能力方面,亚马逊云科技通过Nitro系统实现了计算能力的飞跃。从2006年到2017年,亚马逊云科技用了11年的时间,将一种EC2做到了70种;但从2017年到2023年短短6年的时间里,EC2的数量种类从70种发展到了750种,为所有的负载提供合适的计算实例。Nitro系统将网络、存储的虚拟化、虚拟机的管理、安全、监控都卸载到了专门的硬件上,使得服务器部分100%为用户实例所用,主机的性能损耗几乎为0。

在网络方面,亚马逊云科技开发了新的网络传输协议SRD(Scalable Reliable Datagram)和数据中心路由协议SIDR(Scalable Intent Driven Routing),实现了亚秒级的路由收敛,进一步扩大了数据中心网络的规模。基于这些创新,亚马逊云科技建成了超大规模数据中心网络UltraCluster,支持的GPU实例可以到两万台。

在架构体系创新方面,亚马逊云科技通过创新实现了系统的高韧性和高效率。以Amazon IAM(身份和访问管理)为例,它采用了控制平面和数据平面分离的设计,即使控制平面全面故障,每个区域的身份验证和授权都可以继续正常运行。在效率方面,亚马逊云科技推出了Firecracker轻量级虚拟化技术,旨在快速启动和管理容器化工作负载,提升资源效率和安全性。Amazon Lambda SnapStart则通过对已初始化环境的内存和磁盘状态进行Firecracker快照并缓存,将函数启动速度提高了10倍。

在多元技术融合方面,面对生成式AI应用的多元化需求,亚马逊云科技提供了专门构建的数据服务,包括关系型数据库、非关系型数据库、数据仓库,以及各种批式/流式的数据采集和分析服务。代闻强调,只有专门构建才能在单一技术上实现最优性能和成本。此


代闻最后强调,技术架构演进过程中不变的三个主题需求是基础组件能力、架构体系创新和多元技术融合。他呼吁所有技术工作者积极推进架构演进,连接未来的想象。

我要爆料(有奖爆料:20元--1000元)我要爆料 网络爆料台 随时随地,极速爆料

虚假新闻邮箱爆料:130069110@qq.com

虚假新闻举报电话:028-86969039

电话爆料:028-96111

邮箱爆料:130069110@qq.com

微信关注 天虎科技

天虎科技

聚焦科技深度报道和创投连接
微信号:tianhukeji

虎探小程序

封面新闻华西都市报官方微博

华西都市报电子版 点击阅读

华西都市报电子版

返回顶部