litellm
despliegue en 1 clicThe fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azu
En el repositorio: The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
¿Se puede poner en marcha?
Se levanta con un comando. Es el requisito del botón de desplegar.
Se puede contenedorizar sin reescribir nada.
El propio proyecto documenta instalarlo en tu servidor.
Commits en los últimos doce meses.
Compara con
Marco multiagente con modelos de lenguaje aplicado a operativa financiera.
Interfaz de chat para modelos de IA locales o remotos, cómoda y autoalojable.
Real-time global intelligence dashboard. AI-powered news aggregation, geopolitical monitoring, and infrastructure tracking in a unified situational awareness interface