Qu'est-ce que ReliableGPT ?
reliableGPT est une solution innovante conçue pour garantir une fiabilité à 100% lors de l'utilisation des services OpenAI. Que vous soyez confronté à des limites de taux, des erreurs d'API, des clés invalides ou des délais d'attente, reliableGPT s'occupe de tout pour que vos requêtes ne tombent jamais à l'eau.
Quelles sont les caractéristiques de ReliableGPT ?
- Gestion des erreurs : Relance automatiquement les requêtes avec des modèles alternatifs comme GPT-4, GPT-3.5, etc.
- Cache intelligent : Utilise un cache basé sur la similarité sémantique pour répondre aux requêtes en cas d'échec.
- Rotation des clés API : Gère les clés invalides en utilisant des clés de secours pour éviter les interruptions.
- Gestion des limites de contexte : Relance les requêtes avec des modèles ayant une fenêtre de contexte plus large en cas d'erreur.
Quels sont les cas d'utilisation de ReliableGPT ?
- Applications à fort trafic : Assure que tous les utilisateurs reçoivent une réponse, même en cas de surcharge.
- Basculer entre Azure OpenAI et OpenAI : Passe automatiquement à OpenAI si Azure rencontre des problèmes.
- Gestion des clés tournantes : Permet de continuer à fonctionner même si une clé API est invalidée.
Comment utiliser ReliableGPT ?
- Installez le package :
pip install reliableGPT - Intégrez-le en une ligne de code :
from reliablegpt import reliableGPT
openai.ChatCompletion.create = reliableGPT(openai.ChatCompletion.create, user_email='[email protected]')
- Configurez des stratégies de secours et des clés de sauvegarde pour une fiabilité maximale.
