Юлия Сорокина
Пользователь
можно сменить модель без правок в приложении
задержка на маршруте и зависимость от доступности самого сервиса
Маршрутизация добавляет задержку, на чате это заметно. Если упадёт сам SaaS — приложение тоже молчит, это лишняя зависимость. Для прототипа терпимо, для жёсткого SLA я бы не ставил ещё один слой между нами и моделью.
Какие функции использовал: маршрутизация запросов и история вызовов
Каких конкурентов пробовал: OpenRouter, LiteLLM, прямой Anthropic
