大模型推理优化

Anthropic 官方详解 Claude Opus 5.5 成本机制：缓存读取降价 60%、长编码会话省 40% 的原理，适合重度 Claude Code 用户了解如何压低 token 账单。

Cursor 发布 Rollouts 与 Security Reviewer 两款开发机器人，分别盯变更上线全链路和 PR 安全审查，同日还宣布 Agent token 成本下降 7%。本文解读它们的能力边界与适用团队。

Fireworks Research 发布首款专用模型 Ember-1，基于 Kimi K3 构建，推理 token 减少约 40% 而质量持平。本文解读它的技术思路、适用场景，以及 Agent 开发者能省下多少成本。

2026年9月24日小米 MiMo 团队公布 MiMo-V3 核心架构 HySparse2：两级 KV 共享让长程多轮 Agent 的 Prefill 计算与 KV 缓存大幅下降，长上下文检索反而更准，适合关心 Agent 推理成本的团队。

Hugging Face 在 9 月 22 日宣布 transformers 可直接加载 GGUF 量化模型，在 Apple Silicon 上性能接近 llama.cpp。本文讲清新用法、实测口径与当前边界，帮本地部署的用户判断要不要试。

DeepSeek 发布 V4.1-Flash，以新架构和原生多模态视觉理解切入下一阶段，并将推理速度、吞吐能力与后续扩展空间放在同一条技术路线中。

DeepSeek 为 DSpark 公开检查点并更新 DeepSpec 工具链。本文说明它如何通过推测解码加快 V4 输出、哪些团队能受益，以及部署前需要评估的硬件和工程成本。

llama.cpp 发布 b8234 版本，官方通过 GitHub Release 公布最新更新。作为本地大模型推理与量化生态中最核心的开源项目之一，llama.cpp 的版本迭代通常直接影响推理效率、模型兼容性与硬件适配能力，因此每次发布都会被开发者和本地部署用户密切关注。   从工具定位看，llama.cpp 并不面向普通用户，而是服务于模型运行、量化适配和本地推理场景。新版本更新往...