
月之暗面旗下大模型Kimi K3因采用线性注意力机制KDA(Kimi Delta Attention)而引发市场对英伟达GPU需求可能下降的担忧。但半导体研究机构SemiAnalysis近日发布报告称,该判断存在偏差,K3的实际硬件需求反而可能更高。
K3参数规模超过2.8万亿,模型权重容量超过1.5TB HBM,且采用WideEP(专家并行)策略将896个专家模块分布到多颗GPU上,导致专家间数据交换需要更强的网络互联能力。SemiAnalysis指出,KDA节省的KV缓存通信或被WideEP的权重交换需求部分抵消。月之暗面透露,高效推理需至少64颗芯片的扩展域,这与英伟达GB200/GB300 NVL72架构高度匹配。
不过,知情人士指出,华为昇腾950 SuperPod同样支持64颗芯片配置,具备类似NVLink的统一总线能力,可扩展至1024颗NPU,因此K3带来的硬件需求增长并不独家利好英伟达。SemiAnalysis援引杰文斯悖论认为,更高效的推理成本将推动更多AI应用落地,进而刺激GPU、HBM、DRAM及网络设备长期需求。但也有观点认为,若头部AI公司大规模采用线性注意力,长上下文推理对内存和互联的需求可能下降。
声明:文章不代表CHAINTT观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险 自担!转载请注明出处:https://www.chaintt.cn/61339.html