快速答案
Kimi K3.1 Pro 的权重已经在 Hugging Face 上:moonshotai/Kimi-K3.1-Pro。按模型卡,它是 MoE 架构,总参数 2.8T、激活参数 104B,上下文 1,048,576 token,支持文字和图片输入,权重用 MXFP4 量化训练,整套权重约 1.56 TB。
- 许可证: Kimi K3.1 Pro License 很宽松,可以用、改、微调、再分发,只有两条限制针对规模很大的公司(见下文)。
- 硬件: vLLM 的官方配方用一组 8 卡张量并行:两个 GB300 托盘、一台 B300 节点或一台 AMD MI355X 节点。这是数据中心级别的机器,不是工作站。
- 只想用模型: 直接调 API 的
kimi-k3.1-pro。TeamoRouter 已支持,一个 Key 就能在 Claude Code、Codex 或任何 OpenAI 兼容客户端里用。月之暗面官方标价是输入每百万 token $2、输出每百万 $10。
新账号余额为 $0,第一次请求前先充值。 最低 $5 即可充值。如果请求返回 402(OpenAI 格式下是 400),提示「wallet balance is insufficient」,说明余额为空,base URL 和 Key 都配对了,充值后重试即可。
不想自己部署?用 API 调 Kimi K3.1 Pro,获取 Key
这次放出了什么
来自模型卡:
| Kimi K3.1 Pro | |
|---|---|
| 架构 | MoE,896 个路由专家,每个 token 选 16 个,另有 2 个共享专家 |
| 参数量 | 总 2.8T,激活 104B |
| 上下文 | 1,048,576 token |
| 注意力 | Kimi Delta Attention 加 Gated DeepSeek Sparse Attention(替换了 K3 的全注意力层,长上下文更省) |
| 模态 | 文字和图片(视觉编码器 MoonViT-V2,4.01 亿参数) |
| 权重 | MXFP4 权重 / MXFP8 激活,量化感知训练;Hugging Face 上约 1.56 TB |
| 推荐推理引擎 | vLLM、SGLang、TokenSpeed |
月之暗面说这是它最强的 3T 级模型,在 Kimi K3 基础上做了大规模强化学习,编程、3D 创作、金融研究和事实准确性提升最大(技术博客)。思考始终开启,深度用 reasoning_effort 调(low、high、max,默认 max)。
许可证用大白话说
Kimi K3.1 Pro License 允许免费使用、复制、修改、微调和再分发,保留版权声明即可。只有两条限制,针对规模很大的情况:
- 大型「模型即服务」业务: 如果你把模型推理或微调以 API 等形式卖给第三方,且集团任意连续 12 个月收入超过 2000 万美元,商用前要和月之暗面另签协议。
- 超大产品: 基于它的商业产品月活超过 1 亿或月收入超过 2000 万美元的,界面上要显著标注「Kimi K3.1-Pro」。
不对外提供模型能力的内部使用,以及通过月之暗面官方产品和认证推理合作方使用,这两条都不适用。上线前请自己读一遍许可证原文,这里只是概括,不是法律意见。
自己部署要什么
- 存储和显存: 光权重就约 1.56 TB,长上下文还要额外留 KV cache。
- 显卡: vLLM 的基础配置是一组 8 卡张量并行——两个 GB300 托盘或一台 B300 节点,AMD 是一台 MI355X 节点。配方注明吞吐没调优。
- 软件: 较新的 vLLM(配方里写的是 0.34.0),加
--trust-remote-code和kimi_k3的工具调用、推理解析器;SGLang、TokenSpeed 各有部署指南。 - 多轮对话要注意: 模型卡要求后续轮次把上一轮完整的 assistant 消息原样传回,包括
reasoning_content和tool_calls。
自己部署还是调 API
| 自己跑权重 | 调 API | |
|---|---|---|
| 前期投入 | 一台 8 卡 Blackwell 级或 MI355X 节点 | 无 |
| 计费方式 | 硬件和电费,忙闲都要付 | 按 token:官方标价每百万输入 $2、输出 $10 |
| 部署和维护 | 推理服务、升级、监控都要自己管 | 一个 base URL 加一个 Key |
| 扩容 | 买或租更多机器 | 服务商负责 |
| 数据 | 留在自己机器上 | 发给 API 服务商 |
| 微调 | 可以 | TeamoRouter 不提供 |
数据必须留在本地、调用量又大又稳定、或者要微调的,适合自己部署。想试模型、用它写代码、或者用量起伏大的,调 API 更省钱也更快上手。
用 API 调 Kimi K3.1 Pro
Claude Code。 指向 TeamoRouter 并设置模型:
export ANTHROPIC_BASE_URL=https://api.teamorouter.com
export ANTHROPIC_AUTH_TOKEN="你的 TeamoRouter Key"
export ANTHROPIC_MODEL=kimi-k3.1-pro
模型 ID 照原样填 kimi-k3.1-pro,不要加 [1m] 后缀,加了目前会报错。更多配置见 Kimi K3.1 Pro 接入 Claude Code。
OpenAI SDK。 只改 base_url 和模型名:
from openai import OpenAI
client = OpenAI(base_url="https://api.teamorouter.com/v1", api_key="sk-teamo-...")
response = client.chat.completions.create(
model="kimi-k3.1-pro",
messages=[{"role": "user", "content": "写一个解析 ISO 8601 时长的 Python 函数。"}],
)
print(response.choices[0].message.content)
TeamoRouter 的当前价格见模型页。余额 $5 起充,可以用支付宝或银行卡,也可以用 USDT、USDC 或 ETH(USDT 充值步骤),没有月费。
常见问题
Kimi K3.1 Pro 开源了吗?
权重已在 Hugging Face 公开,用的是 Kimi K3.1 Pro License,允许商用、修改和再分发,只对规模很大的公司有两条限制。
Kimi K3.1 Pro 有多大?
总参数 2.8T,每个 token 激活 104B;MXFP4 权重约 1.56 TB。
能用一张显卡或 Mac 跑吗?
完整模型不行。vLLM 官方配方用 8 张数据中心级显卡(B300、GB300 或 MI355X 级别)做一组张量并行。
API 版本和开源权重是同一个模型吗?
是。月之暗面官方 API 和 TeamoRouter 上的 kimi-k3.1-pro 都是 Kimi K3.1 Pro。