Какую модель Drex выбрать: Max против 8B, 9B и 35B

Коротко

Drex от NACE AI — не одна модель, а четыре: 8B (DLM), 9B (v1.5), 35B всего с 3B активных (v2.0) и 27B (Max). Все четыре — открытые решающие модели, веса и код опубликованы. У Max ID модели — drex-max.

Делают они одно и то же. Запрос — это состояние (документ, запись или контекст агента, при желании с изображениями) и набор вопросов по нему. Каждый вопрос — выбор одного варианта, ответ «да/нет» или оценка по упорядоченной шкале; в ответ приходит распределение вероятностей по вариантам, без порождения токенов по одному. То есть это не сравнение «кто лучше беседует»: не беседует ни одна.

Решают три вещи:

• Изображения в состоянии → только Max. В статье настройку зрения получила лишь Max.
• Опубликованные цифры замеров → только у Max. У остальных трёх сравнимых результатов нет вовсе.
• Модель, которую можно поднять самому на скромном железе → начинать с младших. 8B — самая лёгкая, 35B и Max требуют настоящих машин. Точности этих трёх в статье нет, поэтому вопрос «достаточно ли» решают только ваши данные.

В TeamoRouter модели drex-max пока нет. После подключения подойдёт тот же ключ, меняется только model на drex-max; а пока модели того же производителя у нас нет.

Всё сравнение в одной таблице

Что у всех четырёх общее:

• Вход: одно состояние (документ, запись или контекст агента, при желании с изображениями) и набор вопросов.
• Формы вопроса: выбор одного варианта / да-нет / оценка по упорядоченной шкале.
• Выход: распределение вероятностей по вариантам, решение или оценка — но не свободный текст.
• Обучение: дообучение с учителем и RLAF (reinforcement learning from adjusted feedback).
• Контекстное окно: числа токенов нет ни для одной из четырёх.
• Цена API: не опубликована ни для одной.

Не читайте названия как лестницу

На этом семействе проще всего ошибиться именно здесь.

8B — это DLM, 9B — v1.5, 35B — v2.0, 27B — Max. Номера версий и число параметров идут не в одну сторону: v2.0 при 35B всего крупнее, чем Max при 27B. Так что «v2.0 новее v1.5, значит сильнее, а Max — это как бы v3 побольше» — неверно. Никакого такого порядка в материалах релиза нет.

Сравнительного в статье ровно две вещи:

• Указано число параметров для всех четырёх размеров и отмечено, что настройку зрения получила только Max.
• Опубликованы результаты Max, которая названа самой сильной среди сравниваемых решающих моделей. Цифр остальных трёх в статье нет.

Иными словами, официальной точности, по которой эти четыре можно сравнить между собой, не существует. Понять, хватает ли 8B, можно только прогнав через неё свои состояния и вопросы и посмотрев, куда ложатся ответы. Это не совсем привычное «берём подешевле, не потянет — поднимемся на ступень», потому что линейки для измерения нет.

Почему колонка с ценой пустая

Официальной цены API нет ни у одной из четырёх. В материалах релиза нет ни тарифа за токены, ни подписки, ни бесплатного лимита, ни хостируемого API: модели вышли открытыми весами, и стоимость — это железо и время на инференс.

Отсюда два следствия:

• Единственный опубликованный сигнал о стоимости — число параметров. 8B заметно легче остальных, 9B на ступень выше, а 35B и 27B требуют полноценного инференс-железа. Требований к железу в релизе нет, так что видеопамять и пропускную способность считайте по своей нагрузке.
• Не верьте цифрам вида «Drex Max стоит $X за миллион токенов». Модель не порождает выход по токенам, поэтому такая цифра из этого релиза взяться не может.

И когда хостинг с ценой появится, единицей сравнения будет не миллион токенов, а одно решение: вызов Drex возвращает распределение вероятностей за один проход, и оно не растёт вместе с длиной ответа. Прямое сравнение с ценой за токены у чат-модели приведёт к неверному выводу.

Как выбирать по задаче

Задайте эти вопросы по порядку — отвечать на них проще, чем на «какая лучше».

1. Задача сводится к выбору? Классификация, маршрутизация, расстановка приоритетов, прошёл/не прошёл, что из A и B лучше — если это ложится в варианты, «да/нет» или шкалу, Drex подходит. Тексты, код и открытые вопросы — нет, для них нужна универсальная модель.
2. В состоянии есть изображения? С изображениями — только Max. Это единственная жёсткая граница внутри семейства, потому что зрение настраивали лишь у неё.
3. Нужно «достаточно хорошо» или цифра из статьи? Для второго цитируемый результат есть только у Max. Для первого начинайте с младших размеров и сэкономите на железе.
4. Что потянет ваша машина? 8B и 9B поднять проще всего; 35B и Max — совсем другой порядок.

Разумный порядок: прогнать партию своих состояний и вопросов через 8B и посмотреть, держатся ли решения; если нет — перейти на 9B; если в состоянии картинки — начинать сразу с Max. Про версию 35B с 3B активных в релизе сказано только про параметры, ничего про особенности развёртывания, так что её поведение на вашей нагрузке тоже придётся измерять самому.

Max на фоне универсальных моделей

Для Max в статье приведены три набора цифр. Знать их стоит, но это не межкатегорийный рейтинг:

Читая их, держите в голове два обстоятельства:

• Это тесты самого издателя. Цифры взяты из статьи, а не из независимого воспроизведения.
• Измеряется точность выбора среди одних и тех же вариантов, а не качество текста. Если универсальная модель на Decision Bench не уступает Max, значит задачи такого рода ей тоже по силам; разница в том, что Max отвечает распределением вероятностей за один проход — задержка фиксированная, разбирать ответ не нужно, а при перестановке вариантов результат не переворачивается (в статье для этого добавлены потери на согласованность).

Поэтому правильный вопрос не «сильнее ли Max универсальной модели», а «стоит ли ради этой задачи заводить отдельную модель». Ответ обычно упирается в задержку и стабильность, а не в точность.

В TeamoRouter

Вызвать пока нельзя: drex-max не попала в каталог, и ни одной из четырёх на сайте нет.

После подключения ключ и адрес остаются прежними, меняется только model. Как именно в запросе располагаются состояние, вопросы и варианты — по документации интерфейса после запуска; в статье Drex Max API показано, куда идёт model, и дан пример, здесь повторять его не будем.

В TeamoRouter модели drex-max пока нет. После подключения подойдёт тот же ключ, меняется только model на drex-max; а пока модели того же производителя у нас нет.

Как оплатить

Подписки нет: пополняете баланс в консоли от $5, списание идёт по фактически использованным токенам. Поддерживаются карты, а также USDT, USDC и ETH. Тем же ключом доступны модели Claude и GPT.

У нового аккаунта баланс нулевой — пополните его до первого запроса. Пополнить от $5. Если запрос возвращает 402 (в формате OpenAI — 400) с сообщением «wallet balance is insufficient», значит баланс пустой, а не адрес или ключ. Пополните и повторите.

Частые вопросы

Чем четыре модели различаются на самом деле?

Числом параметров и двумя вещами, которые есть только у Max: настройкой зрения и опубликованными замерами. Формат входа и выхода, способ обучения и открытость весов у всех четырёх одинаковые.

Какая дешевле всех?

Официальной цены нет, поэтому и сравнивать по стоимости нечего. При локальном запуске расход следует за числом параметров: 8B легче всех, 9B следом, а 35B и Max требуют полноценного инференс-железа.

Чем больше номер версии, тем сильнее?

Нет. v2.0 — это 35B всего, крупнее, чем Max при 27B, и никакого порядка по силе в названиях нет. Замеры в статье тоже только для Max.

Насколько 9B лучше 8B?

Сравнимых цифр в релизе нет ни для той, ни для другой, а параметров 8B и 9B. Разницу придётся измерять самому.

Когда обязательно нужна Max?

Когда в состоянии есть изображения. Настройку зрения получила только она.

Кто-нибудь из них пишет код или тексты?

Нет. Все четыре отвечают по предложенным вариантам, вопросам «да/нет» или упорядоченным шкалам и свободный текст не порождают.

Какое контекстное окно?

Числа токенов нет ни для одной из четырёх. В релизе сказано только, что запрос содержит состояние и набор вопросов.

Какой можно пользоваться уже сейчас?

Никакой — ни одна модель Drex в каталог TeamoRouter пока не попала. Когда drex-max появится, хватит того же ключа и нового ID модели.

Связанное

• Drex Max вышла: ID модели, что именно сообщили официально и как подключаться
• Drex Max без официального аккаунта: что делать без аккаунта и зарубежной карты
• Оригинал статьи: официальный материал релиза