免费在 GitHub 公开中文介绍

omni-inference

通过OmniRoute为AI智能体接入文本与图像生成、语音合成、音频转写、文本嵌入、网页搜索及正文获取功能，支持组合调用多种AI能力。

原文查看原文说明

The core OpenAI-compatible inference endpoints: chat completions, embeddings, images, audio (TTS/STT), moderations, rerank, and the Responses API. The primary integration surface for AI agents.

cheaper-inference/OmniRoute

集成工具OpenAI

AI 评分70分/ 100 查看安装方法

适用场景

接入聊天与图像生成功能
添加语音合成与音频转写
将文本转换为用于搜索的数值表示
联动网页搜索与正文获取

中文介绍

功能

omni-inference通过OmniRoute的API，为AI智能体接入文本生成、图像生成、语音合成和音频转写功能。它还支持生成文本嵌入，即用于搜索等任务的文本数值表示，以及网页搜索和页面正文获取。聊天调用示例涵盖OpenAI格式、Anthropic Messages格式和OpenAI Responses API，并说明如何查询可用模型。

适用场景

适合希望从智能体调用多种AI功能的情况。可以考虑将音频转写结果以字幕格式接收，把合成语音保存为文件，或以Markdown格式获取页面内容。也可以使用模型组合，依次尝试多个连接目标。

使用示例

“为智能体接入聊天和图像生成的调用。”
“转写这个音频文件，并以字幕格式返回结果。”
“将网页搜索与页面正文获取连接起来。”

注意事项

需要设置OMNIROUTE_URL和OMNIROUTE_KEY。API身份验证使用Bearer令牌或会话Cookie。可用的图像尺寸、语音种类、输入长度及文件大小上限因模型和服务提供方而异。

本介绍由 AI（OpenAI Codex）根据公开的 SKILL.md 撰写。准确的规格请查看下方原文。

客观评估

AI 仅根据 SKILL.md 的内容，从 4 个方面进行了评估。星标数和热度不计入评估。

指令清晰度能否看出何时使用、做什么: A良好概述明确列出聊天、图像和音频推理API及其智能体集成用途。
步骤具体性步骤、输入输出和示例是否具体: B部分不足所提供的片段列出API方法和路径，但没有请求正文或响应示例。
安全性发送数据、删除文件、执行命令等是否有说明: B部分不足列出了获取凭据和删除操作的API，但未提供执行前的确认步骤。
安装难易度所需工具和 API 密钥是否少且有说明: B部分不足说明了令牌获取路径和身份验证方式，但没有OmniRoute的安装步骤。

总分按每项 A=25 分、B=15 分、C=5 分相加。由 AI（OpenAI Codex）于 2026年10月22日评估。仅供参考，安装前请同时查看原文。

如果您认为评估有误，请申请复核

包含的文件（2）

SKILL.md21.5 KB
references/endpoints.md42.5 KB

SKILL.md（原文）

安装前可以查看交给 AI 代理的指令内容。

Overview

The core OpenAI-compatible inference endpoints: chat completions, embeddings, images, audio (TTS/STT), moderations, rerank, and the Responses API. The primary integration surface for AI agents.

Authentication

All requests require a valid Bearer token or session cookie. Obtain a token via POST /api/auth/login or configure REQUIRE_API_KEY=false for local development.

Endpoints

Payloads

See the full OpenAPI specification at GET /api/openapi/spec or docs/openapi.yaml for detailed request/response schemas.

Chat completions

Requires OMNIROUTE_URL and OMNIROUTE_KEY. See entry-point SKILL for setup.

Endpoints

POST $OMNIROUTE_URL/v1/chat/completions — OpenAI format
POST $OMNIROUTE_URL/v1/messages — Anthropic Messages format
POST $OMNIROUTE_URL/v1/responses — OpenAI Responses API

Discover

curl $OMNIROUTE_URL/v1/models | jq '.data[].id'

Combos (e.g. auto, cost-optimized, subscription) auto-fallback through multiple providers.

OpenAI format example

curl -X POST $OMNIROUTE_URL/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-4-7",
    "messages": [{"role": "user", "content": "Refactor this function"}],
    "stream": true
  }'

Anthropic format example

curl -X POST $OMNIROUTE_URL/v1/messages \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-4-7",
    "max_tokens": 4096,
    "messages": [{"role": "user", "content": "Hi"}]
  }'

Tool use

Supports OpenAI tools array and Anthropic tools block. Tool results auto-compressed via RTK (47 filters: git-diff, grep, test-jest, terraform-plan, docker-logs, etc.) — 20-40% token savings. Disable per-request with X-Omniroute-Rtk: off header.

Reasoning / thinking

Anthropic extended thinking and OpenAI Responses reasoning blocks are forwarded verbatim. Cached automatically via reasoning cache.

Errors

401 → invalid API key
400 invalid_model → model not in registry; check /v1/models
503 circuit_open → provider circuit breaker tripped; retry later or use combo
429 rate_limited → honor Retry-After; consider using a combo for auto-fallback

Image generation

Requires OMNIROUTE_URL and OMNIROUTE_KEY. See entry-point SKILL for setup.

Endpoints

POST $OMNIROUTE_URL/v1/images/generations — Text-to-image
POST $OMNIROUTE_URL/v1/images/edits — Image edit (mask)
POST $OMNIROUTE_URL/v1/images/variations — Variations

Discover

curl $OMNIROUTE_URL/v1/models/image | jq '.data[]'

Returns { id, owned_by, sizes:[...], capabilities:[...] } per model.

Generate example

curl -X POST $OMNIROUTE_URL/v1/images/generations \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "dall-e-3",
    "prompt": "a red bicycle on a wet street, photoreal",
    "n": 1,
    "size": "1024x1024",
    "response_format": "b64_json"
  }'

Response: { created, data: [{ url? or b64_json, revised_prompt }] }

Errors

400 invalid_size → not supported by this model; check /v1/models/image
400 content_policy_violation → blocked by provider safety
503 → provider unavailable; try another model in /v1/models/image

Text-to-speech

Requires OMNIROUTE_URL and OMNIROUTE_KEY. See entry-point SKILL for setup.

Endpoint

POST $OMNIROUTE_URL/v1/audio/speech — returns binary audio (mp3/opus/wav/flac)

Discover

curl $OMNIROUTE_URL/v1/models/tts | jq '.data[]'

Each entry includes voices:[...] for the available voice names per provider.

Example

curl -X POST $OMNIROUTE_URL/v1/audio/speech \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "tts-1",
    "input": "Hello from OmniRoute.",
    "voice": "alloy",
    "response_format": "mp3"
  }' --output speech.mp3

Voices

Voice names vary by provider. Check /v1/models/tts — each entry has voices:[...]. Common OpenAI voices: alloy, echo, fable, onyx, nova, shimmer.

Errors

400 invalid_voice → voice not supported by this model
400 input_too_long → input exceeds model character limit
503 → provider unavailable; try another model in /v1/models/tts

Speech-to-text

Requires OMNIROUTE_URL and OMNIROUTE_KEY. See entry-point SKILL for setup.

Endpoints

POST $OMNIROUTE_URL/v1/audio/transcriptions — multipart upload, returns text
POST $OMNIROUTE_URL/v1/audio/translations — transcribe + translate to English

Discover

curl $OMNIROUTE_URL/v1/models/stt | jq '.data[]'

Example

curl -X POST $OMNIROUTE_URL/v1/audio/transcriptions \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -F "file=@audio.mp3" \
  -F "model=whisper-1" \
  -F "response_format=verbose_json"

Response: { text, language, duration, segments?:[{ start, end, text }] }

Supported formats

Audio: mp3, mp4, mpeg, mpga, m4a, wav, webm. Response formats: json, text, srt, verbose_json, vtt.

Errors

400 invalid_file_format → unsupported audio format
400 file_too_large → exceeds provider limit (usually 25MB)
503 → provider unavailable; try another model in /v1/models/stt

Embeddings

Requires OMNIROUTE_URL and OMNIROUTE_KEY. See entry-point SKILL for setup.

Endpoint

POST $OMNIROUTE_URL/v1/embeddings

Discover

curl $OMNIROUTE_URL/v1/models/embedding | jq '.data[]'

Each entry: { id, owned_by, dimensions, max_input_tokens }.

Example

curl -X POST $OMNIROUTE_URL/v1/embeddings \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-3-large",
    "input": ["first text", "second text"],
    "encoding_format": "float"
  }'

Response: { data:[{ embedding:[...], index }], usage:{ prompt_tokens, total_tokens } }

Batch input

input accepts a string or array of strings (up to provider batch limit, typically 2048 items).

Errors

400 input_too_long → input exceeds max_input_tokens for this model
400 invalid_encoding_format → use float or base64
503 → provider unavailable; try another model in /v1/models/embedding

Web search

Requires OMNIROUTE_URL and OMNIROUTE_KEY. See entry-point SKILL for setup.

Endpoint

POST $OMNIROUTE_URL/v1/web/search — unified search format

Discover

curl $OMNIROUTE_URL/v1/models/web | jq '.data[] | select(.kind == "webSearch")'

Example

curl -X POST $OMNIROUTE_URL/v1/web/search \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "tavily/search",
    "query": "OmniRoute github latest release",
    "max_results": 5,
    "include_answer": true
  }'

Response: { answer?, results:[{ url, title, content, score }] }

Parameters

Field	Type	Description
`model`	string	Provider model from `/v1/models/web`
`query`	string	Search query
`max_results`	number	Max results (default: 5)
`include_answer`	boolean	Include AI-synthesized answer
`search_depth`	string	`basic` or `advanced` (Tavily)

Errors

400 query_too_long → shorten the search query
503 → provider unavailable; try another model in /v1/models/web

Web fetch

Requires OMNIROUTE_URL and OMNIROUTE_KEY. See entry-point SKILL for setup.

Endpoint

POST $OMNIROUTE_URL/v1/web/fetch

Discover

curl $OMNIROUTE_URL/v1/models/web | jq '.data[] | select(.kind == "webFetch")'

Example

curl -X POST $OMNIROUTE_URL/v1/web/fetch \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jina/reader",
    "url": "https://anthropic.com",
    "format": "markdown"
  }'

Response: { url, title, markdown, links?:[...], images?:[...] }

Parameters

Field	Type	Description
`model`	string	Provider from `/v1/models/web` (e.g. `jina/reader`, `firecrawl/scrape`)
`url`	string	URL to fetch
`format`	string	`markdown` (default), `html`, `text`

Errors

400 invalid_url → URL must be http/https
403 blocked → provider blocked by target site; try a different model
503 → provider unavailable; try another model in /v1/models/web

评价

还没有评价。欢迎分享你的使用感受。

无需登录即可发表。欢迎分享使用感受、提问，或说明在哪些环境下无法运行。

还没有评论。来写第一条吧。

同一仓库的技能

cli-a2a

免费有简介AI 评分 90分

通过命令行向OmniRoute的A2A服务器发送任务，查看执行历史和日志，监控或取消任务，并交互测试智能体之间的通信。

检查服务器状态和可用技能
使用JSON输入调用技能
查看任务执行历史和日志

cheaper-inference/OmniRoute8万2026年10月22日更新

cli-backup-sync

免费有简介AI 评分 70分

通过命令行备份和恢复OmniRoute数据，涵盖增量备份、加密、云端同步、定时执行设置，以及同步文件的导出和导入，并可设置备份保留数量。

更改配置前备份数据
设置定时备份及保留数量
将数据同步至云端

cheaper-inference/OmniRoute8万2026年10月22日更新

cli-batches

免费

Submit groups of AI requests as batch jobs with the OmniRoute command line. Manage input files, monitor or cancel jobs, save results and errors, and incorporate batch processing into automated build and deployment workflows.

中文简介正在准备中。当前显示英语简介。

Submitting AI requests from a JSONL file
Monitoring batch jobs and waiting for completion
Saving batch results and error details

cheaper-inference/OmniRoute8万2026年10月22日更新

cli-chat

免费有简介AI 评分 90分

从终端向LLM提问，逐步显示回答或进行交互对话。支持从文件或标准输入读取提示词、选择模型和指定系统提示词。

在终端向AI提问
使用文件内容作为输入
逐步显示回答并保存到文件

cheaper-inference/OmniRoute8万2026年10月22日更新

cli-compression

免费有简介AI 评分 80分

通过命令行管理缩短提示词的压缩设置，调整RTK过滤器、Caveman规则及多种方式的组合，并用实际输入预览结果。

用实际输入查看压缩结果
调整RTK和Caveman规则
比较多种压缩方式

cheaper-inference/OmniRoute8万2026年10月22日更新

cli-contexts

免费有简介AI 评分 80分

通过命令行调整传给AI的信息处理设置和RTK过滤器，切换OmniRoute连接，以JSON导入导出配置，并查看或使会话失效。

调整令牌预算和过滤器
切换已保存的服务器连接
以JSON导入导出连接配置

cheaper-inference/OmniRoute8万2026年10月22日更新

查看 cheaper-inference 的全部技能

报告此技能的问题

安装

用命令安装

npx skills add https://github.com/cheaper-inference/OmniRoute --skill omni-inference

粘贴到终端中运行（需要 Node.js）。可以选择安装到 Claude Code、Codex 等代理。

让代理安装

请安装以下 Agent Skill。
https://github.com/cheaper-inference/OmniRoute/tree/release/v3.8.53/skills/omni-inference

请先检查 SKILL.md 和附带文件的内容，确认没有可疑的处理（向外部发送数据、读取认证信息等）后，再放到 ~/.claude/skills/omni-inference/（Claude Code）或 ~/.agents/skills/omni-inference/（Codex）。

把这段文字直接发给 Claude Code 或 Codex，它会先检查内容再安装。

在 GitHub 查看源代码

仓库: cheaper-inference/OmniRoute
星标: 79,640
复刻: 11,588
分类: 数据与 AI
许可证: MIT
原文语言: 英语
最后更新: 2026年10月22日

技能是给 AI 代理的指令和脚本的集合。cccskills 不保证其内容的安全性，安装前请务必确认内容。