AI и дата-центры
Baseten выпустила joey-1: модель отвечает решениями, а не текстом
Публикация:
Модель возвращает ответ и оценку уверенности за один проход и стоит $0.01 за миллион входных токенов. Baseten нацелила ее на сортировку обращений, проверки и маршрутизацию, где генерация текста только замедляет работу.
Baseten представила joey-1, модель решений на 2 миллиарда параметров, дообученную на базе Qwen3.5-2B. Вместо свободного текста она возвращает метку и откалиброванную вероятность для каждого варианта ответа, поэтому приложению не нужно разбирать сгенерированный текст.
Модель принимает текст и изображения и отвечает на три типа вопросов: выбор из названных вариантов, да или нет и упорядоченная оценка. Baseten приводит примеры: маршрутизация обращений, классификация кейсов, проверки да или нет и оценка по рубрике.
На платформе Baseten средний запрос на 2,000 токенов обрабатывается за 20 мс по медиане P50, а цена составляет $0.01 за миллион входных токенов. Компания сравнивает это с 49 мс у старшей модели elephant-1 и называет joey-1 самой быстрой и дешевой моделью семейства.
В публичной части Jev Decision Index 0.4 joey-1 набирает 63.30 балла и занимает 37 место из 230 моделей, оставаясь лучшей среди моделей меньше 4B. При этом она уступает elephant-1 во всех областях оценки, поэтому Baseten позиционирует joey-1 как первую линию, а тяжелые случаи предлагает передавать старшим моделям или человеку.
Baseten считает, что сортировка десяти миллионов обращений в месяц обойдется примерно в $50 на joey-1 против $500 на mammoth-1. Веса модели открыты по лицензии MIT, а API по умолчанию не сохраняет данные запросов.