Mixture of Experts, или MoE, — архитектура нейросети, в которой запрос обрабатывает не вся модель одновременно, а выбранная маршрутизатором группа специализированных блоков-экспертов. Это позволяет увеличивать общее число параметров без пропорционального роста вычислений на каждый токен.
Словарь терминов
База знаний терминов из сферы IT, бизнеса и цифрового маркетинга.
Терминов: 2
Material Design (Материальный Дизайн) — это всемирно известная дизайн-система и свод строгих правил проектирования интерфейсов, разработанная корпорацией Google в 2014 году. Изначально она создавалась для унификации хаоса внутри операционной системы Android, но оказалась настолько удачной, что к 202