O que é BerriAI-litellm?
BerriAI-litellm é um gateway de IA open source que unifica o acesso a mais de 100 provedores de LLMs, como OpenAI e Anthropic, utilizando o formato da API OpenAI. Destina-se a equipes de plataforma e desenvolvedores que precisam centralizar chamadas, com suporte para auto-hospedagem ou uso via SDK Python.
Quais são as características de BerriAI-litellm?
- Interface unificadaPermite chamar modelos de diferentes provedores usando uma única sintaxe compatível com OpenAI, eliminando a necessidade de gerenciar SDKs específicos.
- Gateway Proxy (Servidor)Oferece autenticação, chaves virtuais, rastreamento de custos por projeto/usuário e painel administrativo para gestão centralizada.
- Roteamento automáticoSeleciona o modelo ideal para cada prompt com base na complexidade, configurável via heurísticas no SDK ou servidor.
- Suporte a MCPConecta servidores Model Context Protocol a qualquer LLM suportado, permitindo o uso de ferramentas externas nas conversas.
- Execução de agentesIntegração com harnesses de agentes como Claude Code e Codex, roteando as chamadas de modelo através do gateway.
- Observabilidade e GuardrailsInclui rastreamento de logs, métricas de custo e mecanismos de proteção (guardrails) nativos no proxy.
Quais são os casos de uso de BerriAI-litellm?
- Migração de provedoresTrocar de fornecedor de LLM sem reescrever o código da aplicação, mantendo a compatibilidade com a interface OpenAI.
- Gestão multi-tenantControlar gastos e acessos por equipe ou projeto individual dentro de uma organização através do painel administrativo.
- Integração com IDEsUsar o LiteLLM como servidor MCP em ambientes como Cursor IDE para expandir capacidades de codificação assistida.
Como usar BerriAI-litellm?
- Instalação do SDKExecute
uv add litellmpara integrar a biblioteca diretamente ao seu ambiente Python. - Configuração de chavesDefina as variáveis de ambiente com as chaves de API dos provedores desejados (ex:
OPENAI_API_KEY). - Chamada de modeloUtilize a função
completionespecificando o modelo com prefixo do provedor (ex:openai/gpt-4o). - Início do ProxyPara servir como gateway, instale
litellm[proxy]e executelitellm --model <modelo>para iniciar o servidor local.
Informações de preços de BerriAI-litellm:
- Open SourceO núcleo do produto é gratuito e pode ser auto-hospedado pelo usuário.
- Enterprise LicenseOferta paga para empresas que necessitam de Single Sign-On, suporte profissional dedicado e integrações customizadas.









