华为云CloudMatrix 384超节点再出圈,昇腾AI云服务解锁超级算力
基于华为384超节点的昇腾云引关注
在华为展区中,华为384超节点真机与基于CloudMatrix 384超节点的华为云新一代昇腾AI云服务备受关注,超节点首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,算力规模300 PFlops,成功打破跨机通信带宽性能瓶颈,实现从服务器级到矩阵级的资源供给模式转变。
更令观众关注的是华为云的昇腾AI云服务,让超节点能够以云服务的形态实现按需用、随心用,降低企业应用先进智算基础设施的门槛,同时直接使用华为云成熟的软件栈和工具链,为自身研发、部署、应用大模型赋予全新的加速度,为“百模千态”时代做好软硬一体的底座支持。
同时华为云CloudMatrix 384超节点还具备四大技术特点:首先,吞吐突破性能强,可实现软硬件协同优化,单卡Decoding吞吐达到2300Tokens;其次,主流模型覆盖多,沉淀了行业主流160+模型,可高效支撑模型迁移;同时,专家并行效率高,国内首创大规模专家并行方案,可实现系统级优化支撑更大吞吐、更低decode时延;以及规模灵活,规模灵活,初始投资小,每年迭代发布新版本,可实现弹性灵活按需用,这些都能够更好地支撑“AI+”的落地需求。
值得关注的是,本届大会还特别设立了“中国人工智能产业创新成果展”,向公众讲述中国人工智能发展的重要里程碑,华为云CloudMatrix 384和华为云ModelArts Studio大模型开发平台列其中,凸显了华为云构筑智算底座、支撑“AI+”落地的重要贡献。
支撑千行万业“AI+”应用
除了领先的算力基础设施,在具身智能领域华为云的CloudRobo具身智能开发与运行平台,结合了具身多模态生成大模型、具身规划大模型、具身执行大模型等能力,为企业提供端到端的具身智能解决方案。国家地方共建人形机器人创新中心(简称“上海国地中心”)依托该平台,与华为云联合构建了虚实融合的具身数据生成与增广流水线,不同类型的机器人均可快速接入系统,并可实现自动生成抓取、搬运、分拣等任务的轨迹数据,节约数据采集成本达90%,使得工业机器人在流水线上的应用进程大大提速。
展区上华为云带来的众多行业垂直解决方案,以及携手客户伙伴共创的最新实践,吸引了来自各行业的与会企业代表驻足。如,华为云与北铁所合作打造铁路大模型和高铁动车智能巡检机器人,助力中国铝业集团打造有色金属行业首个大模型“坤安”,与玖天气象合作通过“AI+气象”助力新能源发电提质增效,与能科科技合作打造AI工业链赋能“智造”,华为云Stack赋能钢铁热轧毫米级控制钢板,AI CITY架构赋能人工智能系统化创新,打造未来城市新范式等,成为千行万业拥抱大模型的坚实支撑。
当下,公众对AI的期许在于如何与产业相结合,解决生产生活中的实际问题。华为云在本次大会上充分展现了如何利用自身的“尖刀技术”与行业垂直解决方案,携手各产业“解产业难题、做行业难事”,用AI重塑千行万业。未来,华为云也将持续深耕数智“黑土地”,携手客户及伙伴共绘未来智能世界新图景。
1、交通运输部:7月21日—7月27日全国货运物流有序运行,2021物流运输时间