От Venice
Dolphin Mistral 24B Venice Edition — высокопроизводительная модель без цензуры на базе Mistral Small 3. Лидер в тестах на отсутствие отказов (refusal rate 2.2%), оптимизирована для творческого письма и ролеплея. Контекст 32K, цена $0.00.
Опыт запуска Uncensored (free) на локальном железе пользователей
Летает отлично, полная выгрузка в VRAM. Ответы моментальные.
Запускал через командную строку. Памяти хватает с головой, кулеры даже не шумят.
Пришлось выгрузить пару слоев в RAM, но терпимо для тестов.
$0.00 / $0.00 за 1M токенов