Berriとは何ですか？
LiteLLMは、100以上のLLM（大規模言語モデル）へのアクセス、負荷分散、フォールバック、および使用料金の追跡を一元管理するプラットフォームです。OpenAI形式で統一されたAPIを提供し、開発者が簡単に複数のLLMを利用できるようにします。
Berriの特徴は何ですか？
- 100+ LLMプロバイダー統合: Azure、Gemini、Bedrock、OpenAIなど、主要なLLMプロバイダーをサポート
- ロギングと使用料金追跡: S3、Datadog、OTEL、Langfuseなどへのログ記録と使用料金の追跡
- モデルアクセス制御: 仮想キー、チーム、モデルアクセスグループによるアクセス管理
- 予算とレート制限: モデル、キー、チーム、カスタムタグごとの使用料金追跡と予算設定
- OpenAI互換API: /chat/completion、/embeddingなど、OpenAI形式で100以上のLLMにアクセス
Berriの使用例は何ですか？
- 複数のLLMを一元管理したい開発者
- 使用料金を追跡し、予算を管理したい企業
- フォールバックと負荷分散が必要なアプリケーション
Berriの使い方は？
- LiteLLMのドキュメントを参照して、初期設定を行います。
- 使用したいLLMプロバイダーのAPIキーを設定します。
- OpenAI形式のAPIを使用して、LLMにアクセスします。
- ロギングと使用料金追跡を有効にして、データを管理します。
