Comparatif
Agentic Gateway face à LiteLLM
Nous devons beaucoup à LiteLLM : son modèle de données et sa logique de transformation par fournisseur nous ont inspirés. Voici où nous nous distinguons, honnêtement.
| Capacité | Agentic Gateway | LiteLLM Proxy |
|---|---|---|
| Surface OpenAI-compatible (/v1) | ||
| Clés virtuelles, budgets, multi-tenant | ||
| Guardrails par tenant | ||
| Suivi des coûts au token | ||
| Streaming SSE | ||
| Langage / runtime | Rust, binaire unique | Python |
| Taille de l'image Docker (mesurée) | 103 Mo | 1,2 Go |
| Catalogue modèles embarqué (sans réseau) | ||
| Sessions persistantes orientées agents | ||
| Router : retry / fallback / load-balancing | ||
| Cache de réponses | ||
| Observabilité (Langfuse, MLflow…) | ||
| MCP gateway, agents A2A | ||
| Maturité de l'écosystème | Jeune | Très large |
disponible partiel / en cours absent
Quand nous choisir
Trois cas où Rust change la donne
Empreinte réduite
Une image de 103 Mo contre plus d'1 Go : démarrage rapide, déploiement léger, peu de mémoire au repos.
Workloads agentiques
Des agents qui enchaînent des centaines d'appels bénéficient des sessions persistantes et du pooling HTTP/2.
Surface d'attaque réduite
Un binaire, pas d'interpréteur ni de dépendances Python à patcher. Les secrets fournisseurs ne quittent jamais le process.
Prêt à mettre vos LLM sous contrôle ?
Déployez le gateway en une commande, ou laissez-nous l'héberger pour vous.