OrchestrAI es una infraestructura API orientada a desarrolladores que optimiza la ejecución de modelos de IA entre múltiples proveedores.
El sistema actúa como una capa inteligente de enrutamiento y gobernanza entre aplicaciones y proveedores de modelos para que el uso de IA sea:
- más barato
- más fácil de gestionar
- agnóstico al proveedor
- observable y controlable
OrchestrAI optimiza cada ejecución en base a:
- clasificación de tareas
- políticas de enrutamiento deterministas
- señales de presupuesto de cómputo
- abstracción de proveedores mediante adaptadores
- trazas de ejecución estructuradas
- OpenAI
- Anthropic
- Mistral
- OpenRouter
Soporte futuro:
- modelos locales
- endpoints privados/empresariales
- modelos autoalojados
- Identity
- Behavior
- Strategy
- Workflow
- ExecutionLayer
- CapabilityKernel
- CapabilityNamespace
- ExecutionContext
El enrutamiento y la gobernanza de ejecución viven dentro de CapabilityKernel.
Aplicación → API de OrchestrAI → Clasificador de Tarea → Motor de Enrutamiento → Evaluación de Política/Presupuesto → Adaptador de Modelo → Proveedor de Modelo → Traza de Ejecución
Las primeras versiones priorizan:
- simplicidad
- modularidad
- trazabilidad
- baja complejidad operativa
Evita la sobreingeniería. Primero valida valor con enrutamiento automático de modelos y optimización de costos.
- Activar el venv:
- PowerShell:
.\.venv\Scripts\Activate.ps1 - CMD:
.venv\Scripts\activate.bat
- Instalar dependencias:
python -m pip install --upgrade pippython -m pip install -r requirements.txt
- Desactivar al terminar:
deactivate
- Prueba rápida de runtime:
python -m core.test_run
- Pruebas unitarias:
python -m unittest discover -s core/tests -p "test_*.py"