Cloud Intelligence™Cloud Intelligence™

Announcement

Cette page est également disponible en English, Deutsch, Español, Italiano, 日本語 et Português.

Prise en charge d'OpenAI et d'Anthropic dans CloudFlow

CloudFlow prend désormais en charge l'OpenAI Administration API et l'Anthropic Admin API pour encadrer les dépenses, assurer l'hygiène des clés API et générer des rapports d'utilisation.

À mesure que les organisations adoptent l'IA, l'utilisation croît souvent plus vite que la gouvernance. Les clés API se multiplient entre les équipes et les projets, les dépenses se répartissent entre plusieurs fournisseurs, et il devient difficile d'identifier les responsables. Les équipes FinOps disposent peut-être des données de coûts et d'utilisation, mais transformer ces données en actions concrètes au bon moment exige encore des revues manuelles, des scripts personnalisés et une coordination avec les équipes d'ingénierie.

Cela pose des questions très concrètes : qui est responsable de chaque clé API ? Quelles clés ne sont plus utilisées ? Une hausse inattendue des dépenses est-elle légitime ? Que faire lorsque l'utilisation dépasse le seuil défini pour une équipe ? Sans automatisation, les identifiants obsolètes restent actifs et les contrôles de coûts n'interviennent qu'une fois le dépassement de budget constaté.

CloudFlow prend désormais en charge l'OpenAI Administration API et l'Anthropic Admin API. Vous pouvez combiner les données d'administration, de coûts et d'utilisation des fournisseurs avec des filtres, des seuils configurables, des notifications et des actions automatisées, le tout dans un seul workflow.

Le FinOps appliqué à l'IA devient ainsi possible, avec des cas d'usage tels que :

  • L'audit des clés API obsolètes ou jamais utilisées.
  • Le suivi de l'utilisation et des dépenses par équipe ou par workload.
  • L'application de garde-fous configurables sur les dépenses.
  • La notification des responsables avant qu'une intervention ne soit nécessaire.
  • La désactivation des identifiants qui enfreignent les règles.
  • L'enregistrement des actions de gouvernance à des fins de reporting et de revue.

Et concrètement, comment s'y prendre ?

Pour vous aider à démarrer, nous avons créé deux tutoriels qui expliquent comment mettre en place certains de ces cas d'usage populaires avec CloudFlow.

Auditer les clés API obsolètes

Créez un flux de gouvernance en lecture seule qui inventorie les clés API OpenAI et Anthropic et identifie les identifiants qui ne sont peut-être plus nécessaires. Le tutoriel montre comment utiliser des filtres et des transformations de date et d'heure pour classer les clés comme jamais utilisées ou inactives depuis plus de 90 jours, puis envoyer des rapports formatés par e-mail aux parties prenantes concernées.

Au passage, vous apprendrez à créer des branches à partir des résultats d'actions fournisseur, à manipuler des horodatages, à filtrer des données structurées et à construire des notifications sous forme de tableaux. Suivez le tutoriel d'audit des clés API

Mettre en place des garde-fous sur les dépenses Anthropic

Créez un contrôle automatisé qui évalue les dépenses des clés API Anthropic par rapport à des seuils configurables, définis par clé et stockés dans CloudFlow Datastore (une simple base de données clé-valeur). Le flux crée une fenêtre de reporting glissante, combine les données de coûts et d'utilisation d'Anthropic pour estimer les dépenses attribuables à chaque clé, et identifie les clés qui enfreignent les règles.

Lorsqu'un seuil est dépassé, le flux désactive la clé, notifie les parties prenantes et enregistre l'événement d'application de la règle pour une revue ultérieure. Le tutoriel montre comment combiner actions fournisseur, configuration du Datastore, logique de date et d'heure, traitement de données personnalisé, notifications et remédiation dans un seul workflow. Suivez le tutoriel sur les garde-fous de dépenses Anthropic

Pour commencer

Créez une connexion OpenAI ou Anthropic, puis ajoutez des actions fournisseur à vos workflows CloudFlow. Notez que les actions OpenAI et Anthropic sont actuellement disponibles en avant-première. Contactez-nous pour demander l'accès.

Ces tutoriels ne sont qu'un point de départ — nous avons hâte de découvrir ce que vous allez construire avec CloudFlow pour le FinOps appliqué à l'IA !

PerfectScale™ for Kubernetes

Ready to optimize?

Get your free Kubernetes savings analysis