微软高管称AI性能仅20%，建厂无用

9月14日消息，据报道，微软Azure硬件系统与基础设施总裁Rani Borkar近日表示，单纯增加存储芯片产能无法解决AI基础设施的瓶颈。许多AI系统由多层架构组成，受限于数据传输延迟与带宽限制，系统往往仅能发挥约20%的实际性能。以微软自研AI加速器Maia 200为例，Borkar表示微软并非只靠增加存储容量处理瓶颈。Maia 200采用台积电3nm工艺，搭载216GB HBM3e高带宽内存，同时从模型压缩、数据科学与架构设计三方面降低KV Cache需求。此举降低延迟的同时减少昂贵加速器因拥塞、故障恢复或配置不当而闲置。AI机柜功耗已从数十千瓦升至数百千瓦，数据中心园区以吉瓦规模规划。微软提出的“有效产出”新指标，正将AI基建竞争从堆砌芯片数量转向系统级效率比拼。

　　免责声明：本答案或内容为用户上传，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。 如遇侵权请及时联系本站删除。