Meta Llama 4: открытый AI с контекстом 10 миллионов токенов меняет правила игры

Два флагмана: Scout и Maverick — в чём разница

Llama 4 — это не одна модель, а семейство из двух принципиально разных флагманов с общей архитектурной базой:

• Llama 4 Scout — рекордсмен по контексту. 10 миллионов токенов при MoE-архитектуре (Mixture of Experts). Модель активирует лишь часть параметров при каждом запросе, что позволяет обеспечить огромный контекст при приемлемых требованиях к памяти. Оптимальна для задач, требующих анализа больших массивов документов: юридические базы, корпоративные архивы, длинные цепочки диалогов в агентских системах.
• Llama 4 Maverick — флагман по качеству. Контекст 1 миллион токенов, плотная архитектура, лучшие результаты среди всех open-source моделей на MMLU, HumanEval и Arena. Через API стоит $0.17/$0.60 за 1M вх/исх токенов — в 7 раз дешевле GPT-4.1 при приближающемся качестве на большинстве задач.

Обе модели распространяются под лицензией MIT, что означает: коммерческое использование, модификация, файнтюнинг и распространение производных моделей — полностью бесплатно без роялти и ограничений по числу пользователей.

MoE-архитектура: почему 10 миллионов токенов стали возможны

Традиционные трансформеры (dense models) активируют все параметры при каждом токене — это линейно масштабирует требования к вычислениям и памяти. Mixture of Experts (MoE) решает эту проблему иначе: модель состоит из множества «экспертов» (подсетей), и для каждого токена активируется только подмножество из них — обычно 2–4 эксперта из 64–128.

В Llama 4 Scout это позволило добиться двух вещей одновременно: сохранить суммарный объём параметров большим (что обеспечивает качество знаний) и удерживать вычислительную нагрузку управляемой (что позволяет обрабатывать сверхдлинные контексты). Именно поэтому Scout с его 10M токенов контекста не требует экзотического аппаратного обеспечения — модель запускается на кластере из 8–16 современных GPU.

Практическое значение 10M контекста сложно переоценить: в один запрос помещается полный текст всех законодательных актов по отрасли, годовые отчёты компании за 10 лет или корпус из нескольких тысяч договоров. Для задач юридического анализа, due diligence и корпоративного поиска это принципиально новые возможности.

Open-source достиг уровня закрытых моделей: что говорят данные

Llama 4 Maverick — первая open-source модель, которая вплотную приблизилась к закрытым флагманам на независимых оценках:

• LMSYS Chatbot Arena: Maverick входит в топ-5 по пользовательским предпочтениям, впервые для open-source модели
• MMLU: 88.3% — ниже Gemini 2.5 Pro (91%) и GPT-4.1, но выше Claude Sonnet
• HumanEval (кодинг): 87.2% — сопоставимо с GPT-4o предыдущего поколения
• Многоязычность: значительно улучшена поддержка нелатинских языков, включая русский

Разрыв между лучшими открытыми и закрытыми моделями сократился до 3–7 процентных пунктов на большинстве бенчмарков. Для большинства реальных бизнес-задач этот разрыв незначим — особенно если учитывать, что открытая модель позволяет файнтюнинг под конкретный домен, который может полностью ликвидировать отставание.

Для России: локальный деплой, Huawei Ascend и русскоязычный файнтюн

Llama 4 для российского рынка — возможно, самое важное событие в open-source AI в 2026 году. Три ключевых преимущества:

• Независимость от западных API: модель скачивается один раз и работает локально. Никаких ежемесячных платежей в иностранной валюте, никаких рисков отключения, никакой зависимости от зарубежной инфраструктуры.
• Деплой на Huawei Ascend 910B/910C: сообщество уже выпустило инструкции по запуску Llama 4 Maverick на кластере из 8 карт Ascend 910B (512 ГБ суммарной памяти). Производительность уступает NVIDIA A100 примерно на 20–30%, но это приемлемо для большинства production-сценариев.
• Русскоязычный файнтюн: в течение двух недель после релиза на Hugging Face появился файнтюн от российского сообщества на корпусе из 50M русскоязычных токенов. Модель значительно лучше понимает нюансы деловой переписки, юридических текстов и российских реалий по сравнению с базовой версией.

Стоимость инфраструктуры для деплоя Maverick: кластер из 8 карт Ascend 910B обходится примерно в 12–15 млн рублей при аренде или 25–30 млн при покупке. При интенсивном использовании (от 100M токенов в месяц) эти вложения окупаются за 8–14 месяцев по сравнению с API-платежами зарубежным провайдерам.