Roteador de Modelos

Componente que escolhe o modelo ou a rota de execução para cada pedido. Pode usar tipo de tarefa, idioma, sensibilidade, orçamento, latência esperada ou resultado de uma classificação. Um roteador só é justificável quando a decisão supera uma baseline simples em qualidade ou custo; acrescentar modelos sem observabilidade torna incidentes mais difíceis de explicar.