Ollama
Анастасия Петрова Плюсы
- Один CLI и REST API для локального запуска моделей с отдельным подключением Cloud.
- Официально документированы Windows, macOS и Linux, а также Python и JavaScript библиотеки.
- Local-only mode отключает облачные функции, когда нужен локальный контур.
Минусы
- Крупные локальные модели требуют достаточного диска, RAM или VRAM; универсальных требований нет.
- Cloud usage и concurrency зависят от тарифа и модели, а облачные модели могут быть сняты.
- Официальный Linux desktop GUI не подтверждён; для Linux документированы CLI и service.