DeepSeek Harness
类型选 OpenAI 兼容;Provider ID practestic,Base URL 填上方地址,模型填 deepseek/deepseek-flash。
PRACTESTIC
赤色词元
用一套协议接通 DeepSeek、Kimi、智谱、MiniMax、阿里云百炼、火山方舟与腾讯云 TokenHub。 客户持有自己的虚拟 Key,网关负责鉴权、模型路由、转发与用量记录。
http://127.0.0.1:3919/v1
http://127.0.0.1:3919/v1/chat/completions
Authorization: Bearer vk-…
三步完成第一次调用。网关只监听本机,应用与网关需要在同一台机器上。
PRACTESTIC 会为每个客户生成独立的 vk- 虚拟 Key,并按需开通对应平台。
平台真实 Key 由 PRACTESTIC 托管,不会下发给调用方。
把客户端的 API 地址改为 http://127.0.0.1:3919/v1,协议选择 OpenAI 兼容。
模型 ID 使用 平台/模型,例如 deepseek/deepseek-flash。完整列表见 模型广场。
服务默认绑定 127.0.0.1,不会暴露到局域网或公网。
如果需要跨机访问,请自行在前面加反向代理与访问控制。
所有 /v1 请求都必须携带客户虚拟 Key。平台真实 Key 不会下发给客户端。
Authorization: Bearer vk-xxxxxxxxxxxxxxxx
| 情况 | HTTP | 返回 |
|---|---|---|
| 缺少 Authorization 或格式错误 | 401 | invalid api key |
| 虚拟 Key 不存在或已轮换 | 401 | invalid api key |
| 客户被禁用 | 403 | user disabled |
http://127.0.0.1:3919/v1OpenAI Chat CompletionsBearer 虚拟 Keyprovider/modeltext/event-stream127.0.0.1 only
网关实现了 OpenAI Chat Completions 的核心语义,因此任何支持自定义 Base URL 的 OpenAI 客户端都可以直接接入。
上游平台返回的字段、错误与 usage 会原样透传。
返回当前客户可调用、且未被连通性检测标记为不可用的对话模型。没有平台 Key 的厂商、 非对话模型、权限外模型都不会出现。
curl http://127.0.0.1:3919/v1/models \
-H "Authorization: Bearer $PRACTESTIC_API_KEY"
{
"object": "list",
"data": [
{
"id": "deepseek/deepseek-flash",
"object": "model",
"owned_by": "deepseek",
"context_length": 1000000,
"max_output_tokens": 384000,
"input_modalities": ["text", "image"],
"reasoning": {
"parameter": "reasoning_effort",
"levels": [
{ "name": "off", "value": "none" },
{ "name": "low", "value": "low" },
{ "name": "high", "value": "high" },
{ "name": "max", "value": "max" }
]
}
}
]
}
| 字段 | 类型 | 说明 |
|---|---|---|
id | string | 全局唯一模型 ID,格式 provider/model |
owned_by | string | 平台标识:deepseek / kimi / zhipu / minimax / bailian / volcengine / tencent |
context_length | number | null | 上下文窗口,单位 tokens |
max_output_tokens | number | null | 最大输出 tokens |
input_modalities | string[] | 输入模态:text / image / video / audio |
reasoning | object | null | 推理档位定义,见 推理档位 |
不同平台可能提供同一个模型,例如 kimi/kimi-k3 与 tencent/kimi-k3。
带平台前缀的 ID 永远路由到指定平台;不带前缀时优先选择该客户有 Key 的平台。
发起对话补全。网关会把 provider/model 还原成平台原始模型 ID,再转发到对应上游。
{
"model": "deepseek/deepseek-flash",
"messages": [
{ "role": "system", "content": "你是一个简洁的助手。" },
{ "role": "user", "content": "用一句话解释 MoE。" }
],
"temperature": 0.7,
"max_tokens": 512,
"stream": false
}
| 参数 | 必需 | 说明 |
|---|---|---|
model | 是 | 模型 ID,推荐使用 provider/model |
messages | 是 | OpenAI 消息数组,role 支持 system / user / assistant / tool |
stream | 否 | 设为 true 时返回 SSE;网关自动请求上游包含 usage |
temperature | 否 | 透传给上游,取值范围以各平台文档为准 |
max_tokens | 否 | 透传给上游的最大输出 token 数 |
tools / tool_choice | 否 | 透传;是否支持取决于具体模型 |
reasoning_effort | 否 | 推理强度,取值见 推理档位 |
{
"id": "chatcmpl-…",
"object": "chat.completion",
"model": "deepseek-flash",
"choices": [
{
"index": 0,
"message": { "role": "assistant", "content": "MoE 用多个专家网络…" },
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 24,
"completion_tokens": 96,
"total_tokens": 120
}
}
把 stream 设为 true,网关以 SSE 原样透传上游数据块,并在末尾补齐带 usage 的数据块。
data: {"id":"chatcmpl-…","choices":[{"delta":{"content":"MoE"}}]}
data: {"id":"chatcmpl-…","choices":[{"delta":{"content":" 用多个"}}]}
data: {"id":"chatcmpl-…","choices":[{"delta":{},"finish_reason":"stop"}],
"usage":{"prompt_tokens":24,"completion_tokens":96,"total_tokens":120}}
data: [DONE]
stream_options.include_usage = true,便于统计真实 token。499,已产生的 usage 仍会写入本地账本。
/v1/models 的 reasoning 字段给出该模型支持的参数名与档位值。
没有该字段的模型不支持预设,请求里传了也可能被上游忽略或拒绝。
| 平台 / 模型 | 参数 | 可用档位 |
|---|---|---|
| DeepSeek | reasoning_effort | none / low / high / max |
| Kimi K3 系列 | reasoning_effort | low / high / max(不能关闭思考) |
| 智谱 GLM-5.3 | reasoning_effort | low / high / max |
| 智谱 GLM-5.2 | reasoning_effort | none / minimal / low / medium / high / xhigh / max |
| 智谱 GLM-5 / 5.1 / 4.7 | thinking.type | disabled / enabled |
| 火山方舟推理模型 | reasoning_effort | none / minimal / low / medium / high / xhigh / max |
{
"model": "deepseek/deepseek-flash",
"messages": [{ "role": "user", "content": "证明根号 2 是无理数" }],
"reasoning_effort": "high"
}
任何支持 OpenAI 兼容接口的客户端都可以接入,只需要三项配置。
http://127.0.0.1:3919/v1客户的 vk-… 虚拟 Key从 /v1/models 选择类型选 OpenAI 兼容;Provider ID practestic,Base URL 填上方地址,模型填 deepseek/deepseek-flash。
添加自定义 OpenAI 提供商,API Host 填 Base URL(不带 /v1 时以客户端要求为准),粘贴虚拟 Key。
使用 ChatOpenAI(base_url=…, api_key=…),模型名传 provider/model。
OpenAI Python / Node SDK 均可;网关兼容 Bearer 认证与标准 JSON 请求体。
from openai import OpenAI
client = OpenAI(
base_url="http://127.0.0.1:3919/v1",
api_key="vk-xxxxxxxxxxxxxxxx",
)
resp = client.chat.completions.create(
model="kimi/kimi-k3.1-pro",
messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)
import OpenAI from 'openai';
const client = new OpenAI({
baseURL: 'http://127.0.0.1:3919/v1',
apiKey: process.env.PRACTESTIC_API_KEY,
});
const resp = await client.chat.completions.create({
model: 'tencent/hy4',
messages: [{ role: 'user', content: '你好' }],
});
console.log(resp.choices[0].message.content);
目录由各平台官方接口与文档同步,并在每次更新后执行真实连通性检测。 不可用的模型会从网关隐藏,但保留在模型页并标记原因。
| 平台 | 模型条目 | 对话模型 | 实测可用 | 官网 |
|---|---|---|---|---|
| 正在读取模型目录… | ||||
目录中的原始 ID 可能被多个平台复用。网关统一加上平台前缀,
例如 volcengine/deepseek-v4-1-flash-261017。调用时传完整 ID 最稳妥。
| HTTP | 含义 | 排查方向 |
|---|---|---|
400 | 请求体不合法 | 检查 JSON、model 与 messages |
401 | 虚拟 Key 无效 | 确认 Key 未被轮换,且请求头为 Bearer |
403 | 客户被禁用,或模型不在权限内 | 检查客户状态与模型权限 |
404 | 模型不存在 | 先请求 /v1/models,使用返回的完整 ID |
499 | 客户端主动断开 | 客户端超时或手动取消;用量按已产生部分记录 |
502 | 上游连接失败 | 平台网络、DNS 或代理异常,稍后重试 |
503 | 缺少平台 Key 或上游不可用 | 联系 PRACTESTIC 补齐该平台 Key,或换一个模型 |
4xx / 5xx | 上游原样返回 | 平台侧限流、余额不足或参数错误,按响应体处理 |
网关自身的错误统一为:
{
"error": {
"message": "model not allowed",
"type": "gateway_error",
"code": 403
}
}
usage:输入 / 输出 tokens、请求数、模型、状态与耗时。只返回同时满足以下条件的模型:该客户有对应平台 Key、模型为对话类且状态可用、 没有在最近一次连通性检测中失败、并且在客户权限范围内。
使用带平台前缀的完整 ID,例如 kimi/kimi-k3 与 tencent/kimi-k3。
完整 ID 会精确路由,不会串台。
联系 PRACTESTIC 为该客户开通对应平台,系统会尝试创建平台 Key。 平台登录失效时需要先重新登录,再重试。
网关会向上游请求 include_usage。若某平台仍不返回 usage,
该次请求会以缺失 usage 记入账本,不会伪造数字。
可以。PRACTESTIC 支持为每个客户配置允许的模型列表;不在列表中的模型会返回
403 model not allowed,也不会出现在该客户的 /v1/models 中。
联系 PRACTESTIC 轮换或停用。轮换后旧 Key 立即失效;停用客户后该客户的所有请求返回
403 user disabled。