边缘AI

模型量化是把大模型权重从 FP16 换成 INT8、INT4 低精度保存和计算的做法。本文算清它省多少显存、为什么精度降了效果没有同比例变差、与蒸馏和剪枝的区别，以及本地部署该选哪一档、哪些任务不该量化，适合第一次接触本地大模型的读者。

2026年10月6日，Google 发布 EmbeddingGemma 2 开源嵌入模型，把文本、代码、图像、视频和音频映射到同一向量空间。本文梳理它的模块化参数档位与维度裁剪办法，适合做端侧检索和 RAG 的开发者。

2026年10月2日，Meta 推出开源项目 Muse Gadgets：开发者可用 ESP32 和树莓派把 Muse 接到显示屏、传感器和智能家居上。本文讲清玩法、自研 Home Link 和参与边界，适合硬件极客与智能体开发者。

2026年10月2日，Google 公布基于可信执行环境（TEE）的下一代联邦学习系统，Gboard 已用于英语和日语输入预测。本文讲清它如何让数据处理变得可验证、可审计，训练提速来自哪里，以及现阶段还没解决的局限。

Cloudflare 发布自研决策模型 Clef 与 Clef-flash：不写文本只输出概率，27B/9B 双版本 Apache 2.0 开源，兼容 Jev API，并附带 RL 微调平台。本文讲清它是什么、快在哪、适合谁。

SoundHound 发布 OASYS Edge 嵌入式架构，把 LLM 驱动的语音智能体装进车机和智能设备本地，断网可工作，2026 年底前部署。