AGI Signal.
14 NOV 2026

deepseek-v3-jax: 190行纯JAX实现DeepSeek V3架构

这是一个令人惊叹的开源项目,仅用190行纯JAX代码就完整复现了DeepSeek V3的核心架构,包括MLA、DeepSeekMoE和MTP等先进特性。开发者在MacBook Air上从零开始训练,无需Flax、Equinox或PyTorch等框架依赖。所有模型参数仅为字典,代码逻辑清晰可读。该项目不仅展示了极简代码实现复杂模型的可能性,还提供了详细的训练数据、验证结果和复现指南,是学习大模型架构与JAX框架的绝佳实践案例。

Read the original