上下文窗口
解释大模型一次能读入多少 Token、窗口满了会怎样,以及长上下文、检索增强和分段处理各自适合的场景与取舍。
专题介绍
上下文窗口是大模型单次处理时能同时看到的 Token 上限,决定它能读多长的文档、记住多远的对话。这个专题围绕窗口大小的计算方式、注意力稀释与截断现象展开,并对比扩大窗口、检索增强生成和摘要压缩三条路线,帮助读者判断资料该整段交给模型,还是先检索、切分后再喂进去。
AI 同一个问题每次答案不一样正常吗?先固定模型和问法再对比
AI问答 AI导航 18 次阅读
Claude总报overloaded怎么办?别急着换账号,先查状态页再换模型,拆小任务再试
AI问答 AI导航 17 次阅读
AI对话记录误删了怎么办?先分清删在哪再找回
AI问答 AI导航 24 次阅读
AI回答突然变笨了怎么办?先查模型、上下文和提问这3处
AI问答 AI导航 15 次阅读
位置编码是什么?大模型分不清词序时靠它标明顺序
AI百科 AI导航 16 次阅读
Mercury 3扩散模型发布:每秒1068个token,速度快4到8倍
AI资讯 AI导航 19 次阅读
AI写小说前后矛盾怎么办?4个办法让人物设定不崩
AI问答 AI导航 22 次阅读
腾讯混元Hy Memory 2.0开源:智能体记忆有了专用模型
AI资讯 AI导航 22 次阅读