Switchyard nedir, neyi çözer?
Claude Code, OpenCode, Codex gibi agent araçları tek görevde onlarca kez model çağırır: dosyayı oku, grep yap, küçük refactor, plan çıkar, kodu üret. Hepsini en pahalı modele yollarsan fatura şişer.
NVIDIA Switchyard açık kaynak proxy'dir. localhost:4000'da ayağa kalkar, gelen istekleri routes.toml'daki kurallara göre farklı modellere yönlendirir. İstemci için Switchyard sanki OpenAI/Anthropic'in kendisi — tek fark base URL.
- Basit iş → ucuz model: dosya okuma, grep, küçük refactor → GLM-4.7 / Kimi K2
- Zor iş → premium: planlama, mimari, zor debug → Opus 4.5 / GPT-5
Kurulum — 5 dakikada hazır
1) Switchyard'ı kur
cargo install --locked switchyard-server
# veya kaynaktan
git clone https://github.com/NVIDIA-NeMo/Switchyard
cd Switchyard
cargo build --release
# binary: ./target/release/switchyard-server
2) routes.toml — OpenCode için
Dosyayı ~/.config/switchyard/routes.toml veya Switchyard/routes.toml konumuna koy:
schema_version = 1
[llm_clients.openrouter]
format = "openai_chat"
base_url = "https://openrouter.ai/api/v1"
api_key_env = "OPENROUTER_API_KEY"
[targets.capable]
id = "anthropic/claude-opus-4.5"
llm_client = "openrouter"
[targets.efficient]
id = "z-ai/glm-4.7"
llm_client = "openrouter"
[routes.switchyard]
id = "switchyard"
type = "stage_router"
capable_target = "capable"
efficient_target = "efficient"
picker = "efficient_first"
confidence_threshold = 0.5
Direkt anahtarların varsa OpenRouter yerine [llm_clients.anthropic] ve [llm_clients.openai] ayrı ayrı tanımlayıp targets.capable.llm_client="anthropic" yapabilirsin.
3) Proxy'i çalıştır
switchyard-server --config routes.toml --dry-run
# → server OK: routes: ["switchyard"]
switchyard-server --config routes.toml --host 127.0.0.1 --port 4000
# OpenAI: http://localhost:4000/v1/chat/completions (model: "switchyard")
# Anthropic: http://localhost:4000/v1/messages (model: "switchyard")
İstemciyi bağla — kod değişmez, sadece URL
Claude Code
export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_MODEL="switchyard"
claude
Codex / OpenAI uyumlu
export OPENAI_BASE_URL="http://localhost:4000/v1"
export OPENAI_MODEL="switchyard"
OpenCode
# Yöntem 1 — env ile
export OPENAI_BASE_URL="http://localhost:4000/v1"
opencode run --model openai/switchyard "selam"
# Yöntem 2 — opencode.json (kalıcı)
{
"$schema": "https://opencode.ai/config.json",
"model": "openai/switchyard",
"provider": { "openai": { "baseURL": "http://localhost:4000/v1" } }
}
Ne zaman değer?
Değmez: ayda 20$ altı, haftada birkaç prompt. Mantıklı: günde yüzlerce agent call, CI'da kod üretimi, büyük refactor — faturalı kullanımda %20-30 tasarruf yüzlerce dolar eder.
Sonuç
Switchyard sihir değil, ekonomi: pahalı zekayı sadece gerektiğinde çağır. Kod değişmiyor, sadece base URL.
Yorumlar (0)
Henüz yorum yok. İlk yorumu sen bırak.