AGI Signal.
14 NOV 2026

ggml 1.0.0 发布:API 大清洗与性能飞跃

ggml 终于迎来了意义重大的 1.0.0 版本。这次更新不仅是一次简单的迭代,更是一次彻底的“大扫除”:移除了过时的公共 API 和遗留的 DIAG_MASK 操作,RPC 协议也随之升级。性能方面更是全面开花,从 CUDA 和 Metal 上的 MoE 融合,到 Vulkan 的 FlashAttention 预填充路径,再到 SYCL 的设备端 MoE 调度器,各个后端都迎来了显著优化。此外,新增的 YaRN 截断配置和 FP8 支持,让模型运行更加灵活高效。这次更新标志着 ggml 在稳定性与性能上迈出了坚实的一步。

Read the original