We are at re:Invent 2026Book my merch

LiteLLM

Vos dépenses LiteLLM, à côté de votre facture cloud.

Cloud Intelligence™ importe les dépenses mesurées par votre proxy LiteLLM auto-hébergé à chaque appel, étiquetées par fournisseur, modèle, clé virtuelle, équipe, fonctionnalité et client final. Juste à côté du reste de vos dépenses IA et cloud.

Exporteur open source · Ne lit jamais les prompts ni les réponses · Collecte toutes les 5 minutes

LiteLLM · October
$27,900
anthropic48%openai37%bedrock15%
Tokens
3.2B
Virtual keys
64
Customers
140
By model and provider
claude-sonnet-5 anthropic$9,800
gpt-5 openai$7,100
claude-haiku-4-5 bedrock$3,900
gpt-4.1-mini openai$2,600
text-embedding-3-small openai$600

La solution de confiance des équipes qui routent leur trafic LLM de production via LiteLLM

Akamai
Blumira
Chess.com
Current
OneFootball
Promptly
Recurly
Lusha
Mux

ce que nous importons

Les données LiteLLM, dans les dimensions que vous utilisez déjà.

Chaque appel de modèle est associé aux dimensions standard de Cloud Analytics, avec des labels pour le fournisseur, le modèle, la clé virtuelle, l'équipe, la fonctionnalité, le client et le tag.

Cloud AnalyticsLiteLLMExample
ProviderDataHub dataset nameLiteLLM
ServiceUpstream model provideranthropic
SKUModel name callers requestclaude-sonnet-5
Plus LiteLLM labels
providermodelvirtual_keyteamfeaturecustomertagcost_basis
Polled every 5 minutes · visible in about 15 minutes

ce que vous pouvez en faire

Des logs de la gateway à la prise de décision

Coûts par fonctionnalité

Analysez par fonctionnalité, client, clé virtuelle, équipe ou tag.

Couverture des tags de fonctionnalité

Visualisez la part des dépenses portant un label de fonctionnalité.

Comparaison entre fournisseurs

Tokens et coût estimé par fournisseur en amont, côte à côte.

GenAI Intelligence

LiteLLM avec vos autres fournisseurs d'IA, dans un seul dashboard.

Budgets et alertes

Des garde-fous sur les dépenses de la gateway, avant même l'arrivée des factures fournisseurs.

Allocations

Attribuez les dépenses LiteLLM aux équipes et aux clients, par clé ou par label.

opérationnel en quelques minutes

Connectez LiteLLM en trois étapes

1

Créez un token API.

Depuis votre profil, avec le scope DataHubAdmin. Il ne s'affiche qu'une seule fois.

2

Lancez l'exporteur.

Un petit conteneur à côté de votre proxy. Votre clé admin LiteLLM reste en local.

3

Vos dépenses en quelques minutes.

Les événements apparaissent dans Cloud Analytics environ 15 minutes après l'export.

Open source, sous licence Apache-2.0. Arrêtez l'exporteur à tout moment.

Commencer gratuitement

Frequently asked
questions

Comment fonctionne l'intégration LiteLLM ?

Vous exécutez l'exporteur open source litellm-datahub-exporter à côté de votre proxy. Il interroge les API de dépenses de votre proxy et envoie les événements vers l'API DataHub : nous n'avons donc besoin d'aucun accès réseau à votre environnement.

De quoi ai-je besoin avant de commencer ?

Un proxy LiteLLM auto-hébergé en version 1.65 ou ultérieure, avec la journalisation des dépenses activée, un abonnement DataHub inclus dans votre offre, et un token API avec le scope DataHubAdmin. Sur les proxys en version 1.65, exécutez l'exporteur en mode quotidien.

Le coût correspond-il à un montant facturé ?

Non. LiteLLM estime le coût à partir de sa grille tarifaire des modèles et des tokens rapportés : considérez-le donc comme du showback. Chaque événement porte un label cost_basis: estimated, et vous pouvez rapprocher les montants grâce à nos intégrations Anthropic et OpenAI.

À quelle fréquence les données sont-elles mises à jour, et quel historique puis-je importer ?

Par défaut, l'exporteur interroge le proxy toutes les cinq minutes, et les événements apparaissent environ 15 minutes après leur envoi. Définissez BACKFILL_DAYS au premier lancement ; l'historique est limité par la durée de rétention de vos logs de dépenses et par la fenêtre de deux ans de DataHub.

Comment attribuer les dépenses aux fonctionnalités et aux clients ?

Définissez le paramètre user d'OpenAI pour le client et transmettez une fonctionnalité dans spend_logs_metadata. L'équipe et la clé virtuelle proviennent de la clé LiteLLM, et les tags des tags de requête LiteLLM.

L'exporteur voit-il mes prompts ?

Non. L'exporteur ne lit ni ne transmet jamais le contenu des prompts ou des réponses, et votre clé admin LiteLLM ne quitte jamais votre réseau.

Connectez LiteLLM. Sachez ce que coûte chaque appel de modèle.

Exporteur open source. Vos dépenses en quelques minutes.