JustFit 是一个基于 MLX 的本地 LLM 推理运行时,摘要报告其通过 KVExec、PhaseSwap、StateTrans 等即时状态管理机制,在 24 GiB M4 Pro MacBook 上运行 Qwen3.8-27B MXFP4,把单请求完成的上下文档位从 mlx-vlm 基线的 30,720 提升到 212,992(6.93×),并在…
值得关注:与既有脉络的关系:已有相关卡片涉及硬屏障 LLM 推理组与 OS 协同调度、JAX 训练中的 HBM 主机卸载。本条增量不在训练 HBM 或推理组逐 token 成员变更,而在 24 GiB 笔记本上的本地推理运行时状…