Circuit Breaker e failover
Claudex include un circuit breaker integrato per ogni profilo fornitore, con failover automatico verso fornitori di backup quando vengono rilevati guasti.
Stati del circuit breaker
Sezione intitolata “Stati del circuit breaker” success ┌──────────────┐ │ │ ▼ failure │ Closed ────────► Open ▲ │ │ timeout │ │ expired ▼ └─────────── HalfOpen │ failure → back to Open| Stato | Comportamento |
|---|---|
| Closed | Funzionamento normale. Le richieste passano. I guasti vengono contati. |
| Open | Le richieste vengono bloccate. Attiva il failover verso i fornitori di backup. |
| HalfOpen | Dopo il timeout di recupero, viene consentita una richiesta sonda. Successo -> Closed; Guasto -> torna a Open. |
Parametri predefiniti
Sezione intitolata “Parametri predefiniti”| Parametro | Valore |
|---|---|
| Soglia di guasto | 3 guasti consecutivi |
| Timeout di recupero | 30 secondi |
Configurazione del failover
Sezione intitolata “Configurazione del failover”Definisci fornitori di backup nel tuo profilo per abilitare il failover automatico:
[[profiles]]name = "grok"provider_type = "OpenAICompatible"base_url = "https://api.x.ai/v1"api_key = "xai-..."default_model = "grok-3-beta"backup_providers = ["deepseek", "chatgpt"] # catena di failoverQuando grok fallisce 3 volte consecutivamente:
- Il circuit breaker si apre per
grok - La richiesta viene riprovata con
deepseek - Se anche
deepseekfallisce, si provachatgpt - Ogni fornitore di backup ha il proprio circuit breaker indipendente
Retry OAuth 401
Sezione intitolata “Retry OAuth 401”Per i profili OAuth, le risposte HTTP 401 ricevono un trattamento speciale:
- Il proxy invalida il token OAuth corrente
- Tenta un caricamento fresco del token dalla catena di credenziali
- Riprova la richiesta con il nuovo token
- Conta come guasto per il circuit breaker solo se anche il retry fallisce
Questo impedisce che la scadenza temporanea dei token attivi failover non necessari.
Controllo dello stato
Sezione intitolata “Controllo dello stato”Un controllo dello stato in background viene eseguito ogni ~30 secondi, inviando richieste sonda leggere a tutti i profili abilitati. Lo stato viene visualizzato nella dashboard TUI con codifica a colori:
- Verde: sano
- Giallo: degradato (guasti recenti)
- Rosso: circuit breaker aperto