博客

Kimi K3.1 Pro 开源权重:模型多大、许可证怎么规定、本地部署要什么显卡,还是直接用 API

快速答案

Kimi K3.1 Pro 的权重已经在 Hugging Face 上:moonshotai/Kimi-K3.1-Pro。按模型卡,它是 MoE 架构,总参数 2.8T、激活参数 104B,上下文 1,048,576 token,支持文字和图片输入,权重用 MXFP4 量化训练,整套权重约 1.56 TB。

  • 许可证: Kimi K3.1 Pro License 很宽松,可以用、改、微调、再分发,只有两条限制针对规模很大的公司(见下文)。
  • 硬件: vLLM 的官方配方用一组 8 卡张量并行:两个 GB300 托盘、一台 B300 节点或一台 AMD MI355X 节点。这是数据中心级别的机器,不是工作站。
  • 只想用模型: 直接调 API 的 kimi-k3.1-pro。TeamoRouter 已支持,一个 Key 就能在 Claude Code、Codex 或任何 OpenAI 兼容客户端里用。月之暗面官方标价是输入每百万 token $2、输出每百万 $10。

新账号余额为 $0,第一次请求前先充值。 最低 $5 即可充值。如果请求返回 402(OpenAI 格式下是 400),提示「wallet balance is insufficient」,说明余额为空,base URL 和 Key 都配对了,充值后重试即可。

不想自己部署?用 API 调 Kimi K3.1 Pro,获取 Key

这次放出了什么

来自模型卡:

Kimi K3.1 Pro
架构 MoE,896 个路由专家,每个 token 选 16 个,另有 2 个共享专家
参数量 总 2.8T,激活 104B
上下文 1,048,576 token
注意力 Kimi Delta Attention 加 Gated DeepSeek Sparse Attention(替换了 K3 的全注意力层,长上下文更省)
模态 文字和图片(视觉编码器 MoonViT-V2,4.01 亿参数)
权重 MXFP4 权重 / MXFP8 激活,量化感知训练;Hugging Face 上约 1.56 TB
推荐推理引擎 vLLM、SGLang、TokenSpeed

月之暗面说这是它最强的 3T 级模型,在 Kimi K3 基础上做了大规模强化学习,编程、3D 创作、金融研究和事实准确性提升最大(技术博客)。思考始终开启,深度用 reasoning_effort 调(low、high、max,默认 max)。

许可证用大白话说

Kimi K3.1 Pro License 允许免费使用、复制、修改、微调和再分发,保留版权声明即可。只有两条限制,针对规模很大的情况:

  • 大型「模型即服务」业务: 如果你把模型推理或微调以 API 等形式卖给第三方,且集团任意连续 12 个月收入超过 2000 万美元,商用前要和月之暗面另签协议。
  • 超大产品: 基于它的商业产品月活超过 1 亿或月收入超过 2000 万美元的,界面上要显著标注「Kimi K3.1-Pro」。

不对外提供模型能力的内部使用,以及通过月之暗面官方产品和认证推理合作方使用,这两条都不适用。上线前请自己读一遍许可证原文,这里只是概括,不是法律意见。

自己部署要什么

  • 存储和显存: 光权重就约 1.56 TB,长上下文还要额外留 KV cache。
  • 显卡: vLLM 的基础配置是一组 8 卡张量并行——两个 GB300 托盘或一台 B300 节点,AMD 是一台 MI355X 节点。配方注明吞吐没调优。
  • 软件: 较新的 vLLM(配方里写的是 0.34.0),加 --trust-remote-code 和 kimi_k3 的工具调用、推理解析器;SGLang、TokenSpeed 各有部署指南。
  • 多轮对话要注意: 模型卡要求后续轮次把上一轮完整的 assistant 消息原样传回,包括 reasoning_content 和 tool_calls。

自己部署还是调 API

自己跑权重 调 API
前期投入 一台 8 卡 Blackwell 级或 MI355X 节点 无
计费方式 硬件和电费,忙闲都要付 按 token:官方标价每百万输入 $2、输出 $10
部署和维护 推理服务、升级、监控都要自己管 一个 base URL 加一个 Key
扩容 买或租更多机器 服务商负责
数据 留在自己机器上 发给 API 服务商
微调 可以 TeamoRouter 不提供

数据必须留在本地、调用量又大又稳定、或者要微调的,适合自己部署。想试模型、用它写代码、或者用量起伏大的,调 API 更省钱也更快上手。

用 API 调 Kimi K3.1 Pro

Claude Code。 指向 TeamoRouter 并设置模型:

bash
export ANTHROPIC_BASE_URL=https://api.teamorouter.com
export ANTHROPIC_AUTH_TOKEN="你的 TeamoRouter Key"
export ANTHROPIC_MODEL=kimi-k3.1-pro

模型 ID 照原样填 kimi-k3.1-pro,不要加 [1m] 后缀,加了目前会报错。更多配置见 Kimi K3.1 Pro 接入 Claude Code。

OpenAI SDK。 只改 base_url 和模型名:

python
from openai import OpenAI

client = OpenAI(base_url="https://api.teamorouter.com/v1", api_key="sk-teamo-...")
response = client.chat.completions.create(
    model="kimi-k3.1-pro",
    messages=[{"role": "user", "content": "写一个解析 ISO 8601 时长的 Python 函数。"}],
)
print(response.choices[0].message.content)

TeamoRouter 的当前价格见模型页。余额 $5 起充,可以用支付宝或银行卡,也可以用 USDT、USDC 或 ETH(USDT 充值步骤),没有月费。

常见问题

Kimi K3.1 Pro 开源了吗?

权重已在 Hugging Face 公开,用的是 Kimi K3.1 Pro License,允许商用、修改和再分发,只对规模很大的公司有两条限制。

Kimi K3.1 Pro 有多大?

总参数 2.8T,每个 token 激活 104B;MXFP4 权重约 1.56 TB。

能用一张显卡或 Mac 跑吗?

完整模型不行。vLLM 官方配方用 8 张数据中心级显卡(B300、GB300 或 MI355X 级别)做一组张量并行。

API 版本和开源权重是同一个模型吗?

是。月之暗面官方 API 和 TeamoRouter 上的 kimi-k3.1-pro 都是 Kimi K3.1 Pro。

相关阅读

准备好接入了吗?登录控制台 · 购买额度 · 创建 API Key,三步即可开始。