SemiAnalysis:Kimi K3线性注意力机制不会削弱GPU需求,反而可能刺激硬件增长

半导体分析机构SemiAnalysis指出,月之暗面Kimi K3虽采用线性注意力降低KV缓存通信,但2.8万亿参数和WideEP策略将增加GPU和网络需求,杰文斯悖论或推动长期硬件扩容。

SemiAnalysis:Kimi K3线性注意力机制不会削弱GPU需求,反而可能刺激硬件增长

月之暗面旗下大模型Kimi K3因采用线性注意力机制KDA(Kimi Delta Attention)而引发市场对英伟达GPU需求可能下降的担忧。但半导体研究机构SemiAnalysis近日发布报告称,该判断存在偏差,K3的实际硬件需求反而可能更高。

K3参数规模超过2.8万亿,模型权重容量超过1.5TB HBM,且采用WideEP(专家并行)策略将896个专家模块分布到多颗GPU上,导致专家间数据交换需要更强的网络互联能力。SemiAnalysis指出,KDA节省的KV缓存通信或被WideEP的权重交换需求部分抵消。月之暗面透露,高效推理需至少64颗芯片的扩展域,这与英伟达GB200/GB300 NVL72架构高度匹配。

芝麻开门

芝麻开门(Gateio)

注册芝麻开门享最高$2,800好礼。

币安

币安(Binance)

币安是世界领先的数字货币交易平台,查看注册活动与当前权益。

不过,知情人士指出,华为昇腾950 SuperPod同样支持64颗芯片配置,具备类似NVLink的统一总线能力,可扩展至1024颗NPU,因此K3带来的硬件需求增长并不独家利好英伟达。SemiAnalysis援引杰文斯悖论认为,更高效的推理成本将推动更多AI应用落地,进而刺激GPU、HBM、DRAM及网络设备长期需求。但也有观点认为,若头部AI公司大规模采用线性注意力,长上下文推理对内存和互联的需求可能下降。

声明:文章不代表CHAINTT观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险 自担!转载请注明出处:https://www.chaintt.cn/61339.html

上一篇 2026年7月20日 10:59
下一篇 2026年7月20日 11:29

相关推荐

风险提示:防范以"数字货币""区块链"名义进行非法集资的风险