Unsloth Desktop: запуск и обучение LLM локально¶
8.0/10
Unsloth выпустил Unsloth Desktop — первое открытое десктопное приложение для запуска и обучения локальных LLM, доступное на Mac, Windows и Linux. Оно поддерживает MLX, диффузионные модели изображений и видео, аудиомодели и GGUF, а также позволяет подключать Claude Code и Codex к локальным моделям. Заявлено улучшение точности вызовов инструментов на 50% за счет самовосстанавливающихся tool calls и песочницы для кода, поддержка CPU и multi-GPU (NVIDIA, AMD, Intel, Mac), а также обучение в 2 раза быстрее с использованием на 70% меньше VRAM. Приложение включает приватный веб-поиск, deep research, RAG, MCP, экспорт в NVFP4 и GGUF, OpenAI-совместимый API и удаленное развертывание через Cloudflare HTTPS. Unsloth Desktop доступен на unsloth.ai и GitHub, не собирает телеметрию и данные пользователей.
Контекст¶
Unsloth — это компания и открытый проект, известный оптимизациями для тонкой настройки и запуска LLM локально, в том числе библиотекой Unsloth для ускорения обучения. Ранее пользователи могли работать с моделями через веб-интерфейс Unsloth или подключать их к агентам вроде Claude Code и Codex через команду `unsloth start`. Новый десктопный клиент объединяет эти возможности в единое приложение, которое работает на Mac, Windows и Linux и поддерживает запуск и обучение моделей без облака.
Влияние¶
Для пользователей локальных LLM, особенно новичков, Unsloth Desktop снижает порог входа, объединяя запуск, обучение и интеграцию с популярными инструментами в одном кроссплатформенном приложении, что может составить конкуренцию LM Studio и другим аналогам.
Обсуждение в сообществе¶
В сообществе в целом позитивно восприняли выход приложения, отметив поддержку Linux с первого дня и активность разработчиков, а некоторые пользователи даже заявили о переходе с LM Studio. Однако опытный пользователь llamacpp указал на ряд проблем, как незначительных, так и серьезных, особенно для новичков, включая риск ошибок из-за слишком маленького автоматического определения параметров.