Baseten представил Joey-1 — быстрый модель принятия решений с 2 млрд параметров

Новый этап в ИИ: модель принятия решений Joey-1 от Baseten

Компания Baseten анонсировала Joey-1 — открытую модель принятия решений с 2 миллиардами параметров. В отличие от генеративных моделей, Joey-1 не создает текст, а возвращает ответы и вероятности, что ускоряет процесс принятия решений.

Высокая скорость и экономичность

Joey-1 обрабатывает запросы длиной до 2000 токенов всего за 20 миллисекунд, что делает её одной из самых быстрых моделей на рынке. По скорости она в 2,5 раза превосходит модель Elephant-1 и может работать в связке с Mammoth-1 и Elephant-1.

Стоимость использования Joey-1 также впечатляет: обработка миллиона токенов стоит всего 0,01 доллара США. Для сравнения, обработка 10 миллионов запросов обойдется примерно в 50 долларов в месяц — в десять раз дешевле, чем у Mammoth-1.

Технические детали и обучение

Модель создана на базе Alibaba Qwen3.5-2B и обучена на 6,21 миллионе примеров принятия решений. В рейтинге Jev Decision Index среди 230 моделей Joey-1 занимает 37-е место. В июне Baseten привлекла инвестиции в размере 1,5 миллиарда долларов, а оценка компании достигла 13 миллиардов.

Конкуренция и рыночные тренды

В этом месяце Microsoft также выпустила модель принятия решений на основе Qwen. Её стоимость составляет 0,042 доллара за миллион токенов, а веса доступны бесплатно по лицензии MIT на Hugging Face. В сентябре Baseten приобрела стартап Blaxel, однако детали сделки и дальнейшая деятельность компании пока не раскрыты.

Влияние на бизнес и пользователей

Быстрота и экономичность Joey-1 открывают новые возможности для компаний, особенно в сферах поддержки и автоматизации сервисов. Снижение затрат и ускорение ответов способствуют более глубокой интеграции ИИ в повседневную жизнь.

Шаг Baseten усиливает конкуренцию на рынке ИИ и стимулирует появление новых инноваций. Несмотря на то, что независимые тесты эффективности Joey-1 пока не опубликованы, её производительность и ценовые преимущества уже привлекают внимание специалистов и бизнеса.