¿Qué es Keywords AI?
Keywords AI es la plataforma líder para monitorear aplicaciones de LLM (Modelos de Lenguaje Grande). Diseñada especialmente para startups de IA, te permite monitorear y mejorar tus aplicaciones con solo 2 líneas de código. Es como tener un Datadog para LLM, pero más simple y potente.
¿Cuáles son las características de Keywords AI?
- Unificación de modelos: Usa una interfaz única para cualquier modelo, ahorrando horas de desarrollo.
- Escalabilidad sin límites: Evita restricciones de tasa y realiza cientos de llamadas simultáneas sin afectar la latencia.
- Integración sencilla: Compatible con OpenAI, solo necesitas 2 líneas de código para empezar.
- Monitoreo en tiempo real: Visualiza y registra cada sesión de usuario con paneles preconstruidos.
- Optimización continua: Recopila datos de producción para afinar y mejorar tus modelos.
¿Cuáles son los casos de uso de Keywords AI?
- Startups de IA: Acelera el desarrollo y despliegue de aplicaciones basadas en LLM.
- Equipos de desarrollo: Simplifica la integración y monitoreo de modelos de lenguaje.
- Empresas en crecimiento: Escala tus aplicaciones sin preocuparte por límites de tasa o latencia.
¿Cómo usar Keywords AI?
- Instala el SDK de Keywords AI.
- Configura tu API key y URL base.
- Comienza a monitorear tus aplicaciones en minutos.
from openai import OpenAI
client = OpenAI(
base_url="https://api.keywordsai.co/api/",
api_key="YOUR_API_KEY",
)
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": "Hello"}],
stream=True,
extra_body={"customer_identifier": "customer_11"}
)
