Liquid AI представила LFM3: шесть моделей на одном бэкбоне

Liquid AI выпустила LFM3 — новое поколение Liquid Foundation Models, объединяющее текстовые, визуальные, аудио-, omni- и decision-модели на одном общем бэкбоне в диапазоне 2B параметров. По данным компании, каждую модель можно дообучить на собственных данных на одном GPU и развернуть там, где работает приложение.

Четыре изменения относительно LFM2

Новая tri-hybrid архитектура и рецепт обучения позволяют LFM3-1.7B превосходить LFM2.5-2.6B при на 35% меньшем числе параметров.
Шесть моделей класса 2B (text, vision, audio, omni и decision) обучены от LFM3-1.7B-Base, включая первую omni-модель и видео-вход для визуальной модели.
Текстовая модель помещается примерно в 1 ГБ при 4-битной точности; новые собственные визуальный и аудио-энкодеры ускоряют обработку, а контекстное окно в 256K токенов позволяет запускать агентов на устройстве.
Каждая модель дообучается на одном GPU.

LFM3-1.7B-Base имеет 24 слоя. Tri-hybrid набор включает 13 gated short convolutions, 5 слоёв sliding-window attention с окном 256 токенов и 6 слоёв global attention; свёртки используют ядро размера 7 вместо 3 в LFM2. Также применены head-wise gated attention, partial RoPE (в global attention вращается только высокочастотная половина каждой головы, SWA-слои сохраняют полный RoPE) и sandwich norm. На коротких промптах LFM3-1.7B соответствует LFM2-1.2B на edge-устройствах, а при 8K токенов в контексте примерно на 25% быстрее. Базовая модель предобучена на 22T токенов со словарём 128K; последние 3.5T токенов — этап mid-training на курированных данных с большей долей agentic traces и tool calls, что расширяет контекст до 256K токенов.

Шесть моделей

LFM3-1.7B: текст на входе и выходе.
LFM3-VL-2B: текст, изображения и видео на входе, текст на выходе.
LFM3-Audio-2B: текст и аудио на входе, текст и речь на выходе.
LFM3-Omni-2B: текст, изображения, видео и аудио на входе, текст и речь на выходе.
d1-2B: текст, изображения и видео на входе, калиброванные ответы на выходе.
d1-omni-2B: текст, изображения, видео и аудио на входе, калиброванные ответы на выходе.

Визуальный энкодер использует в 3 раза меньше вычислений, чем SigLIP2 в предыдущих LFM VL-моделях; энкодер на 164M параметров соответствует по точности энкодеру Qwen3.5-2B при в 2.2 раза меньшем числе FLOPs (оба измерены с одним языковым бэкбоном LFM2.5-230M). Для видео каждая пара сэмплированных кадров встраивается в один временной срез, что вдвое сокращает длину временной последовательности. Аудио-энкодер полностью каузальный, время до первого токена — от 50 мс. LiquidCodec превращает сгенерированные токены в речь примерно в 87 раз быстрее реального времени на одном потоке CPU Apple M4 Max и поддерживает потоковое декодирование.

Возможности моделей

LFM3-1.7B постобучена для работы в agentic-обвязках Hermes Agent, Pi и OpenClaw. На WebArena-Verified она набирает 38.42 против 3.02 у предшественника и превосходит Qwen3.5-9B на длинных задачах в браузерах и бизнес-приложениях.

LFM3-VL-2B — первая визуальная модель LFM с видео-входом. При 1.9B параметров против 3.1B у LFM2.5-VL-3B она поднимает средний результат по 62 визуальным бенчмаркам с 57.6 до 71.4, что, по данным компании, на уровне Gemma 4 12B.

LFM3-Audio-2B поддерживает голосовой чат, распознавание речи, синтез речи и перевод на 18 языках; показатель UTMOSv2 — 3.83 против 3.22 у LFM2.5-Audio-1.5B.

LFM3-Omni-2B — первая omni-модель Liquid AI с текстовым, визуальным и аудио-входом и текстовым и речевым выходом. На аудиовизуальном понимании видео она превосходит модели до 10.7B параметров, включая Qwen2.5-Omni-7B, на Daily-Omni, WorldSense и AV-SpeakerBench.

d1-2B заменяет d1-3B с на треть меньшим числом параметров и более высокими результатами во всех четырёх decision-наборах, например 75.5 против 64.0 на ImajevBench. d1-omni-2B сохраняет почти всю точность при голосовом вводе вместо письменного.

Дообучение и робототехника

Все модели можно дообучать на одном GPU; опубликованы ноутбуки для text, vision, audio и omni моделей. В примере LFM3-VL-2B адаптирована в три робототехнические модели — orchestration, navigation и manipulation. VLA обучена совместно на 15 embodiment и достигает 96.2% средней успешности на четырёх наборах LIBERO и 45.7% на RoboCasa-GR1 tabletop tasks, генерируя чанки действий менее чем за 50 мс на Jetson AGX Orin с TensorRT FP16.

Все модели LFM3 имеют открытые веса и доступны на Hugging Face, включая LFM3-1.7B-Base для собственного постобучения.

Источник: https://huggingface.co/blog/LiquidAI/lfm3