Un seul endpoint pour tous vos LLM. Sous contrôle.
Agentic Gateway présente une API OpenAI-compatible devant 187 fournisseurs. Clés virtuelles par client, budgets, guardrails et suivi des coûts au token, le tout dans un binaire Rust que vous hébergez ou que nous opérons.
Aucune carte requise pour le plan gratuit · Auto-hébergement open-core · Compatible SDK OpenAI
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://gateway.votre-domaine.com/v1",
apiKey: "sk-agentic-…", // clé virtuelle, budget 50 $
});
const res = await client.chat.completions.create({
model: "anthropic/claude-sonnet-4", // ou openai/gpt-4o-mini, gemini/…
messages: [{ role: "user", content: "Bonjour" }],
stream: true,
});Le plan de contrôle qui manque entre vos apps et les fournisseurs
Chaque équipe finit par réécrire la même couche : routage, clés, coûts, filtres. Nous l'avons écrite une fois, en Rust, et nous la maintenons.
Clés virtuelles par tenant
Émettez des clés sk-agentic-… par client, projet ou agent. Hachées côté serveur, révocables en un clic, jamais liées à une clé fournisseur.
Budgets et coûts au token
Un plafond en dollars par clé. Le coût est calculé à chaque réponse à partir de la grille tarifaire de 2 593 modèles, synchronisée chaque semaine.
Guardrails
Motifs bloqués, taille maximale d'entrée, par tenant. Les requêtes refusées répondent en format OpenAI, vos SDK ne cassent pas.
Une API, 187 fournisseurs
Nommez le modèle provider/model et le gateway traduit : Anthropic, Gemini, Bedrock, Azure, Ollama… 28 transformations natives.
Streaming SSE natif
Les tokens arrivent au fil de l'eau, avec le décompte d'usage dans le dernier chunk. Testez-le dans le playground de la console.
Rust, un seul binaire
Pas de runtime Python, pas de GIL. Une image Docker de quelques dizaines de Mo, Postgres pour la persistance, et c'est tout.
Tout votre trafic LLM, lisible d'un coup d'œil
La console parle au gateway avec votre master key, et à rien d'autre. Chaque chiffre affiché vient du gateway.
Providers
Ajoutez la clé d'un fournisseur, testez-la en un clic, retirez-la. Les modèles correspondants deviennent appelables.
Tenants et clés
Un tenant par client. Clés virtuelles avec libellé et budget, jauge de consommation, révocation.
Usage et journal
Coût par jour, par modèle, par clé ou par provider. Journal de chaque requête avec latence et erreurs.
Guardrails
Motifs bloqués et taille maximale d'entrée par tenant, lus et appliqués directement sur le gateway.
Playground
Testez un modèle avec une vraie clé virtuelle, en streaming, avec le coût renvoyé par le gateway.
Catalogue
Contexte, prix par million de tokens et capacités de chaque modèle, filtrés sur ce qui est appelable.
Prêt à mettre vos LLM sous contrôle ?
Déployez le gateway en une commande, ou laissez-nous l'héberger pour vous.