USB, кабели, питание и передача данных

AI и дата-центры

Perplexity выпустила Decider v1.3: модель, которая отвечает вероятностями, а не текстом, и научилась извлекать фрагменты

Публикация:

Редакция USB.RU

Perplexity выпустила Decider v1.3 и Decider Flash v1.3, открытые модели для решений вместо генерации текста. Модель возвращает вероятности по вариантам ответа, а новая функция Locate вытаскивает точные фрагменты текста с позициями символов. Веса лежат на Hugging Face под лицензией Apache 2.0.

Perplexity Decider v1.3
Perplexity Decider v1.3. Фото: MarkTechPost.

Perplexity выпустила Decider v1.3 и Decider Flash v1.3, наследников моделей решений v1.2 и Flash v1.2. Это не чат-боты: модель получает текст или картинку и набор вопросов, а возвращает вероятности по вариантам ответа, да, нет, выбор из списка или оценку по шкале. Такой формат нужен там, где раньше приходилось гонять генеративную модель ради одного вердикта: судейство ответов, маршрутизация, модерация, фильтрация и переранжирование поиска.

Большая модель построена на Qwen3.8-27B, младшая Flash на Qwen3.5-4B и получена дистилляцией из старшей. По карточкам на Hugging Face старшая модель обозначена как 26B, а Flash как 5B, хотя Perplexity называет их 27B и 4B. Веса занимают около 49 ГиБ в BF16 у старшей модели и около 8.5 ГиБ у Flash, поэтому младшую реально поднять на одной видеокарте, а старшей нужен серверный GPU.

Новое в версии 1.3, функция Locate: модель возвращает точный фрагмент текста с начальной и конечной позицией символов и оценкой уверенности. Это подходит для поиска имён, личных данных и ответов в документах, где нужен именно кусок текста, а не пересказ. В версии 1.3 вопросы изолированы друг от друга: состояние видит все вопросы, а каждый вопрос только состояние и себя, поэтому ответ меньше зависит от соседних вопросов. На 17 задачах извлечения вне обучающей выборки Locate набирает в среднем 69.0 баллов, а Flash 63.6.

По собственным замерам Perplexity, на 63 задачах классификации запросов средняя точность v1.3 составила 91.6%, на 6.54 пункта выше рабочих классификаторов компании. В переранжировании на 72 задачах модель набирает 83.99 по nDCG@10, а в проверке на миллионе реальных запросов из Decisions API согласие с судейскими моделями составило 93.98%. Все цифры из самой Perplexity: независимых замеров пока нет, а веса на Hugging Face лежат в закрытом репозитории и требуют токен с доступом.

API стоит $0.02 за миллион входных токенов у v1.3 и $0.01 у Flash, выходные токены бесплатны: модель ничего не генерирует, поэтому платить за выход не за что. Для тонкой работы с разборами Perplexity советует v1.3, а для массовой маршрутизации и разметки, где важнее задержка и цена, Flash v1.3. Модели уже доступны в Decisions API и на OpenRouter, а веса лежат на Hugging Face.

В нашей ленте о моделях: Веса Inkling 2 Small теперь в открытом доступе: 594 млрд параметров под Apache 2.0 и Alibaba открыла превью Qwen4-Max: миллион токенов контекста и всего две недели на проверку.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение