月之暗面釋出開源模型 Kimi K3：2.8 萬億引數

月之暗面在 7 月 17 日 正式釋出了其最新的開源大模型 Kimi K3，這是全球首個引數規模達到 3 萬億級別 的開源模型，具體引數為 2.8 萬億。

從技術架構來看，Kimi K3 基於 KDA 混合線性注意力機制（Kimi Delta Attention）和 注意力殘差（Attention Residuals）技術構建。這些設計旨在最佳化長序列處理的計算效率與模型效能。同時，該模型原生支援 視覺理解 能力，並擁有 100 萬 token 的上下文視窗，這意味著它可以一次性處理超長文本或程式碼，為複雜任務提供連貫的推理基礎。

在應用場景上，Kimi K3 主要瞄準 長程程式設計、知識工作和推理 等前沿智慧領域。長上下文視窗使其在處理大型程式碼庫、長篇學術研究或複雜邏輯鏈時具備天然優勢。

此次釋出將開源模型的引數規模推升至萬億級別的新高度，直接加劇了與 SpaceXAI（原 xAI）旗下 Grok、Meta 的 Llama 以及 DeepSeek 等主流開源及閉源模型的競爭。對於開發者生態而言，一個高效能、原生多模態且完全開源的萬億級模型，可能降低前沿 AI 應用的開發門檻，並推動社群圍繞其技術路線進行二次創新。月之暗面此舉也表明了其在開源領域爭奪話語權的意圖。