跳到正文
cccskills
免费在 GitHub 公开

self-hosted

Use for local LLM fallback, failover, and Ollama health.

中文简介正在准备中。当前显示原文说明。

查看安装方法

包含的文件(1)

  • SKILL.md2.4 KB

SKILL.md(原文)

安装前可以查看交给 AI 代理的指令内容。

Self-Hosted Independence — Local LLM Fallback + Auto-Failover

Erkennt lokale LLM-Provider (Ollama, llama.cpp), generiert Fallback-Config, überwacht Health von primary + fallback, und schaltet bei 3× Fehlschlag automatisch auf local um.

Verfügbare CLI-Befehle

# Alle Provider prüfen
python scripts/self-hosted.py --check

# Status + Config anzeigen
python scripts/self-hosted.py --status

# Manuell umschalten
python scripts/self-hosted.py --switch-to local
python scripts/self-hosted.py --switch-to primary
python scripts/self-hosted.py --switch-to auto

# Benchmark (Latenz remote vs local)
python scripts/self-hosted.py --bench

# JSON-Report
python scripts/self-hosted.py --report

# Setup: Ollama installieren + Modelle laden
python scripts/self-hosted.py --setup

Wichtige Pfade

PfadBeschreibung
~/.self-hosted/config.jsonKonfiguration (primary, fallback, failover)
~/.self-hosted/state.jsonLaufender State (active_provider, failures, history)
~/scripts/self-hosted.pyHauptscript
~/scripts/self-hosted-cron.pyCron-Wrapper (alle 5 Min)

Auto-Failover

  • Prüft primary (OpenRouter/Remote) alle 60s
  • Wenn 3× hintereinander fehlschlägt → automatisch auf local (Ollama)
  • Wenn primary wieder da ist → automatische Recovery (nach 3 erfolgreichen Checks)
  • History der letzten 100 Health-Checks in state.json

Fallback-Plan

  1. Ollama mit qwen3.5:latest (oder phi4-mini:latest)
  2. CPU-Modus mit qwen3:1.7b (tiny model) falls kein GPU-Modell verfügbar
  3. llama.cpp auf localhost:8080 (OpenAI-kompatibel) wird ebenfalls erkannt

Auto-Detection

Das Script erkennt beim Start automatisch das beste verfügbare Ollama-Modell:

  • Bevorzugt deepseek-coder-Modelle, dann qwen3.5, phi4-mini
  • Wählt automatisch einen kleinen CPU-Modus (qwen3:1.7b / phi4-mini)
  • Die Config wird nur einmal generiert und kann manuell editiert werden

Setup (Erstinstallation)

python scripts/self-hosted.py --setup

Das lädt automatisch (abhängig von Verfügbarkeit):

  • deepseek-coder (falls vorhanden)
  • qwen3.5:latest (Standard)
  • phi4-mini:latest (Fallback)
  • qwen3:1.7b (CPU-Modus)

Exit-Codes

  • 0 = alles OK (primary aktiv)
  • 1 = Fallback aktiv (local läuft, primary down)
  • 2 = kein LLM verfügbar

评价

还没有评价。欢迎分享你的使用感受。

评论

无需登录即可发表。欢迎分享使用感受、提问,或说明在哪些环境下无法运行。

还没有评论。来写第一条吧。

提交后会立即公开。请勿填写邮箱、电话等个人信息。URL 最多 2 个。

0 / 1000 字

此表单受 reCAPTCHA 保护,适用 Google 的隐私权政策和服务条款。

同一仓库的技能

Build integrated IS/BS/CF financial workbooks in Excel.

中文简介正在准备中。当前显示原文说明。

openamer/openamer82026年10月22日 更新

a2a-swarm

免费

Run and grow the OpenAmer Agent-to-Agent swarm: identity, trust, node-to-node ask, signed skill/insight sharing, and the autonomous self-learning loop.

中文简介正在准备中。当前显示原文说明。

openamer/openamer82026年10月22日 更新

Use for A/B experiments on OpenAmer configs and skills.

中文简介正在准备中。当前显示原文说明。

openamer/openamer82026年10月22日 更新

Roleplay a hostile user to find and triage UX pain points.

中文简介正在准备中。当前显示原文说明。

openamer/openamer82026年10月22日 更新

Agent mesh: master/worker nodes, HTTP delegation, heartbeat.

中文简介正在准备中。当前显示原文说明。

openamer/openamer82026年10月22日 更新

Use for agentic commerce payments tasks. Candidate synthesized from trend radar; awaiting trial promotion.

中文简介正在准备中。当前显示原文说明。

openamer/openamer82026年10月22日 更新

查看 openamer 的全部技能

报告此技能的问题