一文详解阿里云AI大基建

图片地址：https://n.sinaimg.cn/front20241031ac/225/w1280h545/20241031/dd80-c73aebea00233d286afa9797270d3c7d.jpg

编者按：面向AI时代，阿里云基础设施是如何创新与发展的？计算、网络、存储、服务器、集群、可观测等，阿里云全新升级的AIInfra到底有哪些重磅更新？基于阿里云副总裁、弹性计算和存储产品线负责人吴结生在2024云栖大会上的演讲，本文详解阿里云在AI时代的数字基础设施大布局和新进展。01AI时代需要什么样的云基础设施？云计算一直在践行 Scaling Law，为千行百业的数字化升级提供大规模可扩展的算力、存力及网络等资源，满足客户业务规模的扩展、AI 模型的扩展等需求。云计算让AI变得更普惠，帮助客户在云上更加容易使用 AI 技术。目前，中国有超过 50% 的大模型公司跑在阿里云上，80% 的科技企业运行在阿里云上。AI 发展对云基础设施提出了新要求：首先，AI 负载对计算提出了更大需求。一些前沿的大模型训练，每一年对算力需求的增长大概有 4-5 倍。比如 Llama-3.1-405B，对算力的需求较 Llama2.0 提升了 50