Кодирование с локальным ИИ на Mac Studio: успехи и проблемы

Опыт кодирования с локальными ИИ-моделями на Mac Studio

На Mac Studio с процессором M4 Max и 128 ГБ оперативной памяти проведён эксперимент по созданию приложений с использованием локальных моделей искусственного интеллекта. Автор использовал инструменты Qwen, Ollama и OpenCode для разработки простых приложений под macOS.

Успешные простые приложения и сложности с крупными проектами

За шесть дней удалось создать приложение, которое переименовывает скриншоты — оно успешно обрабатывает более 7000 файлов. Это показывает, что локальные ИИ-модели подходят для небольших проектов. Однако разработка приложения для организации PDF-файлов остановилась на этапе отладки. Ограничение контекста в 64 000 токенов оказалось недостаточным, а производительность локального ИИ при работе с большими проектами оставляет желать лучшего.

Особенности моделей Qwen и Gemma4

Модель Qwen содержит 80 миллиардов параметров и иногда добавляет китайские символы, демонстрируя необычное поведение. Gemma4 — мультимодальная модель с 26 миллиардами параметров, используемая для разных задач. Обе модели подходят для различных требований локальных ИИ-приложений, но пока не готовы к сложным и масштабным проектам.

Проблемы с отладкой и управлением сессиями

Локальный ИИ показывает слабую производительность при отладке. Автор вынужден перезапускать сессии после каждого исправления, что замедляет работу и снижает эффективность.

Перспективы и опыт программиста

Кодирование с локальным ИИ требует знаний программирования и подходит преимущественно для простых, небольших проектов. Автор не собирается отказываться от облачных инструментов, таких как Claude Code и Codex. При этом права доступа к ИИ-моделям строго контролируются, что важно для безопасности и конфиденциальности.

Развитие локальных ИИ-моделей и их применение в крупных проектах остаётся неопределённым. Тем не менее, опыт показывает, что локальный ИИ открывает новые возможности в программировании и может стать основой для более масштабных решений в будущем.