Construit par Grantity, pour des équipes qui mettent des LLM en production
Nous avons commencé par une bibliothèque Rust pour nos propres agents. Le gateway est né quand il a fallu facturer, plafonner et auditer ce que ces agents consommaient.
Bibliothèque agentic-llm-provider : registry de 2 593 modèles, coût, 28 transformations fournisseur.
Gateway axum + Postgres : clés virtuelles, budgets, guardrails, usage, console.
Router avec fallback, cache de réponses, observabilité, hébergement Cloud UE.
Ce que nous faisons de vos secrets
Clés hachées
Les clés virtuelles sont stockées en SHA-256. La valeur en clair n'existe qu'au moment de l'émission, dans la réponse HTTP.
Secrets fournisseurs isolés
OPENAI_API_KEY et consorts vivent dans l'environnement du gateway. Aucun endpoint ne les renvoie.
Journal d'usage
Chaque requête est tracée (tenant, modèle, tokens, coût), sans conserver le contenu des messages par défaut.
Parlons de votre cas
Réponse sous un jour ouvré.
Prêt à mettre vos LLM sous contrôle ?
Déployez le gateway en une commande, ou laissez-nous l'héberger pour vous.