Digest Ninitux - 2026-09-16

Коммерческий AI & API

• Google представила Gemini 3.8 Live с поддержкой двунаправленного WebSocket API5.0

  simonwillison.net

Харнесы и Агенты

• Jev от Typesafe AI: быстрый типизированный инференс моделей «System One» для оркестрации7.0

  typesafe.ai
• Релиз Claude Code v2.1.273: форкинг сессий Remote Control, телеметрия шлюзов и исправления песочницы6.0

  github.com
• Релиз Cline Desktop v0.0.29: атомарный перехват очереди сообщений и UI-исправления5.0

  github.com

Экономика токенов

• Оффлоадинг KV-кэша Qwen3.8-Flash-Next в RAM через vLLM без потери скорости декодирования6.0

  reddit.com
• Квантование GSQ-RCO GGUF для Qwen3.8-Flash-Next: ускорение пропускной способности с Q2_06.0

  reddit.com
• Ускорение Qwen3.8-27B до 190 токен/с на RTX 5090 через DFlash2 и Q8_0 KV6.0

  reddit.com
• Бенчмарк запуска Qwen3.8 Flash на RTX 5070 12GB с оффлоадингом на RAM и SSD5.0

  reddit.com
• Поддержка CUDA Graph для MTP-драфта в llama.cpp b110074.0

  github.com
• llama.cpp b10997: оптимизация тайлинга MoE-ядер для AMD RDNA3.54.0

  github.com

VPN: технологии

• Релиз sing-box v1.15.0-alpha.5 с поддержкой Tailcat и верификацией DERP6.0

  github.com