日本語

Zen Firewall で AI / LLM の利用を追跡する

Aikido の Zen Firewall は、OpenAI、Anthropic などの主要プロバイダーにわたる AI / LLM API の使用状況を監視します。この機能はモデルの使用状況とトークン消費を追跡し、コスト見積もりを提供して、AI インフラへの支出を把握し最適化できるようにします。各リクエストについて、使用した特定のモデルとともに、入力トークンと出力トークンの両方を追跡します。

コスト見積もりは標準価格に基づいており、LLM プロバイダーとの個別割引は反映されません。

ユースケース

  • 📊 トークン使用量を監視: すべての LLM 呼び出しで入力・出力トークンを追跡
  • 💰 コストを見積もる: API 使用量のリアルタイムなコスト見積もりを取得
  • 🔍 モデルの使用状況を特定: どのモデルが最も頻繁に使われているかを確認
  • 📈 支出を最適化: LLM コストを削減できる機会を特定
  • 🎯 プロバイダー別に追跡: OpenAI、Anthropic、その他のプロバイダー全体で使用状況を監視
  • ⚡ 異常を検出: トークン消費の異常な急増を見つける

LLM の使用状況の確認方法

特定のアプリを選択し、次に ファイアウォール タブへ移動して「AI の利用」で使用状況の分析を表示します。

AI部品表(AIBOM)

Zen Firewall は、アプリケーションが通信するすべての AI および LLM サービスを一覧化した AI 部品表を生成できます。

この機能はリクエストに応じて利用可能です。有効化するにはサポートまでお問い合わせください。