h3.c: нативный инференс MiniMax-H3 на Apple Silicon¶
7.0/10
Antirez представил проект h3.c, реализующий нативный инференс модели MiniMax-H3 на Apple Silicon без внешних фреймворков. MiniMax-H3 — это модель генерации видео, и обсуждение на Hacker News сосредоточено на практическом локальном запуске на Mac с большим объёмом объединённой памяти. Пользователи сообщают, что кванты Q5_K_M и Q8_0 работают через ComfyUI с пользовательским узлом city96 ComfyUI-GGUF, а Q8_0 занимает около 34 ГБ и помещается в 64 ГБ памяти при умеренном разрешении. Главная проблема — скорость: клип 480×864 длительностью около 9 секунд при 20 шагах может занимать чуть больше часа, а 15-секундное видео 480p на M4 Max — около полутора часов. Antirez также проверяет экспериментальный режим --sparse-attention после заявлений MiniMax о возможной поддержке разреженного внимания, что потенциально может значительно ускорить генерацию.
Контекст¶
MiniMax-H3 — это модель генерации видео, для запуска которой на локальных машинах обычно требуются большие объёмы памяти и значительные вычислительные ресурсы. Проект antirez h3.c представляет собой нативный движок инференса этой модели, ориентированный на Apple Silicon и использование Metal вместо типичных CUDA-ориентированных пайплайнов. Такой подход важен для локального ИИ, поскольку позволяет запускать тяжёлые диффузионные модели на Mac без внешних GPU, хотя скорость и требования к памяти остаются существенным ограничением.
Влияние¶
Проект h3.c позволяет запускать MiniMax-H3 нативно на Apple Silicon, однако практические отчеты показывают, что генерация видео остается крайне медленной: 9-секундный клип 480p занимает более часа на M5 Pro, а 15-секундный ролик — полтора часа на M4 Max. Для работы с моделью фактически требуется 64–128 ГБ унифицированной памяти, что ограничивает круг пользователей владельцами высокопроизводительных Mac. Надежда на ускорение связана с потенциальной поддержкой разреженного внимания, которую antirez уже тестирует в экспериментальном режиме.
Обсуждение¶
Комментаторы подтверждают работоспособность MiniMax-H3 на Mac с 64 ГБ и 128 ГБ памяти, но жалуются на очень низкую скорость генерации видео и высокие требования к RAM. Отдельно отмечается, что для диффузионных рабочих нагрузок связка CUDA и NVIDIA остаётся более зрелой, чем локальный инференс на Apple Silicon.
Проверка фактов¶
Утверждения о том, что MiniMax H3 можно запускать через ComfyUI с GGUF-квантами, включая Q8_0 размером около 34 ГБ и Q5_K_M, частично подтверждаются: Hugging Face действительно содержит репозиторий Comfy-Org/MiniMax-H3 для использования в ComfyUI, но конкретные размеры квантов и метки в результатах поиска не проверяются. Заявление antirez о возможной поддержке разреженного внимания в H3 со ссылкой на AMA MiniMax не подтверждено найденными источниками; официальный блог MiniMax описывает H3 как мультимодальную модель с генерацией видео до 15 секунд и разрешением до 2K, но не упоминает sparse attention. Утверждение о генерации 15-секундного видео 480p за полтора часа на M4 Max 128GB является пользовательским отчетом и не может быть независимо проверено по имеющимся результатам.
Источники
- H 3 -metal – Native MiniMax - H 3 inference for Apple Silicon · GitHub
- Antirez / h 3 . c : MiniMax H 3 inference engine for Mac computers
- H 3 -metal – Native MiniMax - H 3 inference for Apple Silicon
- MiniMaxAI/ MiniMax - H 3 · Hugging Face
- Comfy-Org/ MiniMax - H 3 · Hugging Face
- MiniMax H 3 : An Open Model Breaking the Boundaries Between Tasks...