据 Beating 和《The Information》监测到的报道,Moonshot AI 已开始就 Kimi K4 展开讨论,规模比 K3 大得多,尽管该公司仍在积极寻求英伟达 Blackwell 芯片,并面临显著的硬件限制。《The Information》还报道称,K3 的部分训练是在中国完成的,而非仅在泰国数据中心完成。
K3 的部署在达到 28 万亿参数时已通过连接多个各自配备 8 张 GPU 的服务器完成;由于单台算力容量不足,这些服务器分布在不同的中国云服务提供商上。自 K3 上线以来,运营算力已受到挤压;由于用户需求激增,公司在 48 小时内暂停了新的订阅。目前而言,K4 的时间表仍未确定,取决于额外 Blackwell 芯片的可用性。