⌁

#inference-optimization

2 posts
DFlash：块级扩散式推测解码（Block Diffusion for Speculative Decoding）技术解析

DFlash：扩散草稿模型把 Speculative Decoding 推向并行高质量新平衡 核心解读 今天 GitHub Trending 上另一条非常值得关注的技术项目，是 DFlash 。它表面上看是在 speculative decoding 赛道上又增加了一种草稿模型实现，但如果仔细看，会发现它试图解决的是推
speculative-decodingblock-diffusioninference-optimizationvLLMagentic-inference
Mamba-3：线性架构的推理时代重构

Mamba 3：线性架构正在从“为训练而设计”，转向“为推理而重构” 核心解读 今天 Hacker News 上最值得 llmapis.com 关注的 AI 架构话题之一，是 Mamba 3 。如果说过去大家谈 Mamba，重点通常在“它是不是 Transformer 的替代者”“线性复杂度能不能带来长序列优势”，那么
mamba-3ssminference-optimizationhybrid-modelstate-space-model