Llmer API 接入指南
一个接入入口,按模型选择合适的协议。这里记录的是 Llmer 的实际接入方式,而不是所有上游平台功能的承诺。
OpenAI 兼容 Base URL
https://llmer.eliroot.com/v1Anthropic 兼容服务根地址
https://llmer.eliroot.comhttps://llmer.ry.live 或 https://ry.live,对应 API 路径保持不变。客户端需要 Base URL 还是完整接口地址,请按其字段说明填写,避免遗漏或重复 /v1。01快速开始
不要把真实密钥写进网页前端、代码仓库、截图或工单。本文不提供在线密钥输入框,也不会在浏览器中调用模型。
curl --fail-with-body -sS --max-time 30 \
https://llmer.eliroot.com/v1/models \
-H "Authorization: Bearer ${LLMER_API_KEY:?请先设置 LLMER_API_KEY}"返回 data[].id 是该密钥可见的模型名;能列出模型不等于所有推理功能都已通过验证。接着运行对应协议的短请求。
02选择模型与协议
| 请求中的模型名 | 优先使用 | 兼容情况 |
|---|---|---|
deepseek-v4.1-flash | Chat Completions | 本地部署的 DeepSeek-V4.1-Flash;Anthropic 普通与流式对话已实测,工具调用有限制。 |
gpt-5.6-lunagpt-5.6-solgpt-5.6-terragpt-6-astra | Responses | 现有渠道启用了 Chat → Responses 兼容转换;不代表上游全部参数或工具均可映射。 |
jev-latest | Decisions | TypeSafe Jev 原生结构化决策;支持概率判断、分类和评分,不是聊天模型。 |
模型的实时价格与账户适用折扣请查看模型广场;下方 Jev 价格仅为更新日快照。模型名称已恢复为 deepseek-v4.1-flash,请同步更新客户端;原别名 eliroot-flash 不再使用。
03Chat Completions 推荐 deepseek-v4.1-flash
POST /v1/chat/completions · 使用 Bearer 鉴权,输入对话放在 messages。
curl --fail-with-body -sS --max-time 120 \
https://llmer.eliroot.com/v1/chat/completions \
-H "Authorization: Bearer ${LLMER_API_KEY:?请先设置 LLMER_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-v4.1-flash",
"messages": [{"role": "user", "content": "23+19等于多少?只输出数字。"}],
"max_tokens": 512,
"stream": false
}'普通响应从 choices[0].message.content 读取文本。开启流式时,将 stream 改为 true 并给 curl 加 -N;逐个处理 SSE 数据块中的 choices[].delta,不要将整段流作为一个 JSON 解析。
GPT 的 Chat 请求通过 Llmer 转换至 Responses。优先使用下一节的原生 Responses 示例;特殊参数、工具或客户端工作流需要单独验证。
04Responses 推荐 GPT 系列
POST /v1/responses · 使用 Bearer 鉴权,输入放在 input。下面采用已验收的流式请求结构。
curl --fail-with-body -sS -N --max-time 120 \
https://llmer.eliroot.com/v1/responses \
-H "Authorization: Bearer ${LLMER_API_KEY:?请先设置 LLMER_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-5.6-terra",
"input": [{
"type": "message",
"role": "user",
"content": [{"type": "input_text", "text": "Reply with exactly RESPONSES_OK."}]
}],
"max_output_tokens": 128,
"stream": true
}'按事件处理输出:response.output_text.delta 提供文本增量,response.completed 表示正常完成。不要用 Chat 的 choices 解析器读取 Responses。错误、失败事件或中途断开不等于成功完成。
messages,Responses 使用 input。上游平台的文件、搜索、后台任务、会话持久化等功能,并不因端点可访问就自动在本站开放。05Anthropic Messages 有限兼容
POST /v1/messages · 使用 x-api-key 和 anthropic-version: 2023-06-01。这是协议转换,不是 Claude 模型服务。
curl --fail-with-body -sS --max-time 120 \
https://llmer.eliroot.com/v1/messages \
-H "x-api-key: ${LLMER_API_KEY:?请先设置 LLMER_API_KEY}" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-v4.1-flash",
"max_tokens": 512,
"system": "请简洁回答。",
"messages": [{"role": "user", "content": [{"type": "text", "text": "23+19等于多少?只输出数字。"}]}]
}'读取 content 中 type="text" 的文本块。系统提示词使用顶层 system。流式调用加 "stream": true 与 curl -N;已实测收到 message_start、content_block_delta、message_stop 等事件。
已验证:普通对话与文本 SSE 可用;测试脚本主动执行工具结果回传后,可以完成工具往返。这不等于标准 Agent 能自动完成工具调用。
已知问题:返回内容包含 tool_use 工具块,但 stop_reason 是 end_turn,而不是 tool_use。补测 Chat 接口同样发现:存在 tool_calls 时,finish_reason 仍为 stop;当前转换逻辑将它映射为 end_turn。
使用影响:依赖结束标记驱动工具执行的 Anthropic 客户端或 Agent 可能提前结束。本接口目前仅建议用于已验证的普通对话与文本流式场景,不应视为完整 Anthropic 工具兼容。恢复模型名 deepseek-v4.1-flash 不会解决此问题。
处理边界:本次仅更新说明,不修改服务。后续若修复,应在响应转换层对完整有效的工具调用纠正结束标记,同时覆盖普通响应与流式收尾;不得把截断、拒绝、断流或不完整参数误标为可执行工具调用。修复并完成回归测试前,保留此限制。
尚未验收图片、扩展思考、缓存控制、流式工具参数、多工具并行或完整 Claude Code / WorkBuddy 工作流。请勿将基础接口测试通过等同于这些功能已兼容。
06Jev 结构化决策 jev-latest
POST /v1/decisions · 使用本站 API Key 的 Bearer 鉴权与 Content-Type: application/json。输入为 state + questions,响应为 answers,适合工单分类、规则判断和评分。
/v1/decisions,不是 TypeSafe 官方的 /v1/systemone。不要直接套用默认访问 /v1/systemone 的 SDK,也不要把 Jev 配成 Chat Completions、Responses 或 Anthropic 聊天模型。Agent 可通过独立 HTTP 工具调用此接口。请求字段与三种题型
model 填 jev-latest;state 是待评估的字符串、对象或数组;questions 是非空对象。每个问题需有 type 和 instructions,后者同样接受字符串、对象或数组。问题键名仅用于对应返回结果,请把实际判断要求写入 instructions。
| type | criteria(本站当前支持范围) | 读取结果 |
|---|---|---|
noul · 是非判断 | 可省略;或以 true、false 为键,字符串描述判断标准。 | answers.问题名.noul:0–1 的“是”概率,不是布尔值。 |
choice · 分类 | 必填;1–255 个选项的对象,值为字符串描述或 null。 | choice 为选项名;probabilities 为分布,另有 confidence。 |
score · 评分 | 必填;按顺序排列的 2–10 个字符串等级。 | score 为 0 到等级数减 1 之间的加权值,可为小数;另有 legend、probabilities、confidence。 |
curl --fail-with-body -sS --max-time 120 \
https://llmer.eliroot.com/v1/decisions \
-H "Authorization: Bearer ${LLMER_API_KEY:?请先设置 LLMER_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "jev-latest",
"state": "客户反馈被重复扣款,需要今天协助处理。",
"questions": {
"billing": {
"type": "noul",
"instructions": "这是否属于账单问题?"
},
"team": {
"type": "choice",
"instructions": "应交由哪个支持团队处理?",
"criteria": {"billing": "付款、账单与退款", "technical": "软件故障"}
},
"urgency": {
"type": "score",
"instructions": "评估这条工单的紧急程度。",
"criteria": ["低", "中", "高"]
}
}
}'下面仅为响应结构示意,概率、置信度与用量不是固定结果。不要使用聊天接口的 choices 或文本增量解析器。
{
"model": "jev-1.13.0",
"answers": {
"billing": {"type": "noul", "noul": 0.98},
"team": {
"type": "choice", "choice": "billing",
"probabilities": {"billing": 0.98, "technical": 0.02},
"confidence": 0.86
},
"urgency": {
"type": "score", "score": 1.65,
"legend": {"0": "低", "1": "中", "2": "高"},
"probabilities": {"0": 0.05, "1": 0.25, "2": 0.70},
"confidence": 0.40
}
},
"usage": {"input_tokens": 363, "output_tokens": 62}
}计费、上下文与兼容边界
- 2026-09-21 基础价格:$0.0525/百万输入 tokens,输出免费。按上游
usage.input_tokens计费,usage.output_tokens仍记录用量;实际扣款按账户折扣和平台额度舍入,实时价格以模型广场为准。 - 官方上下文限制:整次请求 64k tokens,
state加最长单题 32k tokens。仅文本及文本结构化数据,不支持图片、音频或视频输入。 - 不支持 SSE;省略
stream。不使用聊天的messages、max_tokens、max_output_tokens或reasoning_effort。输出为固定类型答案,没有通用文本最大输出设置。 - 当前本站只开放
jev-latest,实测响应模型为jev-1.13.0;稳定别名可能随上游发布变化。不要据此推断版本号或 preview 可直接作为本站请求名。 - 本站适配暂不接受嵌套对象/数组形式的
criteria,请使用上表的字符串或null形式。结构校验通过不代表判断一定正确;重要决策需人工复核,并用自己的中文业务样本评估准确率。
07客户端怎么填
| 客户端类型 | 地址 | 模型与注意事项 |
|---|---|---|
| OpenAI 兼容客户端 / SDK | https://llmer.eliroot.com/v1 | Chat 推荐 deepseek-v4.1-flash;GPT 优先选择 Responses 模式。 |
| Anthropic SDK / 兼容客户端 | https://llmer.eliroot.com | deepseek-v4.1-flash;由客户端追加 /v1/messages,工具限制见上文。 |
| Jev / 自定义 HTTP 工具 | https://llmer.eliroot.com/v1/decisions | jev-latest;POST JSON,Bearer 鉴权,读取 answers,不选择聊天协议。 |
| 要求“完整请求 URL”的工具 | 域名 + 对应完整端点 | 例如 https://llmer.eliroot.com/v1/chat/completions。 |
API Key 一栏填写本站密钥,不填写上游厂商密钥。客户端字段名及自动拼接行为不同,保存后检查实际请求路径,尤其避免 /chat/completions 缺少 /v1 或出现 /v1/v1/…。
08排查与使用建议
| 现象 | 先检查 |
|---|---|
| 401 / 鉴权失败 | 密钥是否正确、有效;请求头是否符合所选协议。 |
| 无模型权限 / 无可用渠道 | 密钥模型限制、账户分组与模型授权;先查看 /v1/models。 |
| 200 但返回 HTML | 很可能请求到了网页。检查路径与 Content-Type;200 本身不代表推理成功。 |
| 400 / 参数不支持 | 先用本文最小示例,确认协议、输入格式、token 上限,再逐项加入参数。 |
| 429 / 繁忙 | 降低客户端并发,采用有上限的退避重试;不要无限重试或瞬间提交大量请求。 |
| 502 / 连接超时 / 流中断 | 记录时间和请求 ID,区分网关、上游与网络问题。已开始输出的请求可能已产生用量,盲目重试可能重复计费。 |
示例的 120 秒是客户端等待上限,不是响应时效承诺。长上下文或繁忙请求可能更慢。敏感数据先脱敏,AI 输出的重要结论需核实。
需要帮助?
联系王工:18975732490 · eliroot.zhu@gmail.com
请提供模型名、调用域名与路径、发生时间(含时区)、HTTP 状态、Request ID 和脱敏错误;不要发送完整 API Key。
Llmer