向量嵌入

2026年10月6日，Google 发布 EmbeddingGemma 2 开源嵌入模型，把文本、代码、图像、视频和音频映射到同一向量空间。本文梳理它的模块化参数档位与维度裁剪办法，适合做端侧检索和 RAG 的开发者。

向量嵌入把文字、图片等内容变成一串数字坐标，意思越接近，位置越靠近。本文讲清它与Token、关键词检索的区别、相似度怎么算、它在RAG和语义搜索中的用法，以及换模型必须重建等限制，适合刚接触大模型检索的读者。

RAG 让大模型先查资料再回答，专治知识过时和一本正经的胡编。本文讲清检索增强生成的定义、两步工作流程、与微调的边界、四个常见误解，以及它适合和不适合的场景。

Transformer 是几乎所有大语言模型的底层架构。本文讲清自注意力机制如何工作、编码器与解码器的分工、它和 RNN/CNN 的本质区别，以及普通人用好大模型最该记住的三个边界，帮你从零建立对大模型的正确认知。

Token 是大模型处理文字的最小单位。本文讲清 Token 的定义、切分原理、与字词的区别，以及它如何决定 API 计费、上下文长度和生成速度，适合想真正理解大模型工作原理的入门读者。