Как Hybrid Compute улучшает приватность и производительность на Mac
...
Искусственный интеллект
Чтение занимает время?
Вы можете слушать статьиНовая эра для пользователей Mac с Hybrid Compute от Perplexity
В феврале компания Perplexity представила продукт Perplexity Computer, а теперь запускает технологию Hybrid Compute. Эта система распределяет задачи между облаком и локальными большими языковыми моделями (LLM), обеспечивая баланс между скоростью и защитой данных.
Что такое Hybrid Compute и как он работает?
Hybrid Compute интегрирован напрямую в приложение для Mac. Технология хранит конфиденциальные данные на локальных моделях, не передавая личную информацию пользователя за пределы устройства. Облачные ресурсы используются для более сложных и качественных вычислений. Перед отправкой данных в облако приложение автоматически проверяет их и применяет классификатор приватности для безопасности.
Пользовательский опыт и технические особенности
Пользователи могут выбирать файлы и модели, а также контролировать использование локального процессора, графического ускорителя и памяти. Локальные модели представлены двумя вариантами: Gemma E4B и Qwen 3.6. Одна из моделей Qwen дообучена Perplexity и содержит 35 миллиардов параметров. Установка локальной модели не требует работы с терминалом Mac, что упрощает процесс для пользователей.
Оптимизация затрат и повышение производительности
Hybrid Compute помогает снизить расходы, так как оплата не взимается за токены, сгенерированные локальными моделями. Облачные вычисления обеспечивают более высокое качество, но стоят дороже. Пользователь может выбрать оптимальный вариант под свои задачи. Кроме того, появилась возможность ставить задачи в очередь с iPhone.
Ограничения и целевая аудитория
Hybrid Compute работает только на Mac с процессорами Apple Silicon и macOS 15. Perplexity рекомендует использовать устройства с минимум 32 ГБ оперативной памяти. Функция доступна для подписчиков Pro и Max, а также корпоративных клиентов.
Эта инновация Perplexity открывает новые возможности для пользователей Mac, позволяя одновременно сохранять приватность и эффективно использовать мощь искусственного интеллекта. Это важный шаг как для частных пользователей, так и для бизнеса.