全部文章标签

上下文窗口

解释大模型一次能读入多少 Token、窗口满了会怎样,以及长上下文、检索增强和分段处理各自适合的场景与取舍。

专题介绍

上下文窗口是大模型单次处理时能同时看到的 Token 上限,决定它能读多长的文档、记住多远的对话。这个专题围绕窗口大小的计算方式、注意力稀释与截断现象展开,并对比扩大窗口、检索增强生成和摘要压缩三条路线,帮助读者判断资料该整段交给模型,还是先检索、切分后再喂进去。

AI 同一个问题每次答案不一样正常吗?先固定模型和问法再对比

AI 同一个问题每次答案不一样正常吗?先固定模型和问法再对比

AI问答
AI导航 18 次阅读
Claude总报overloaded怎么办?别急着换账号,先查状态页再换模型,拆小任务再试

Claude总报overloaded怎么办?别急着换账号,先查状态页再换模型,拆小任务再试

AI问答
AI导航 17 次阅读
AI对话记录误删了怎么办?先分清删在哪再找回

AI对话记录误删了怎么办?先分清删在哪再找回

AI问答
AI导航 24 次阅读
AI回答突然变笨了怎么办?先查模型、上下文和提问这3处

AI回答突然变笨了怎么办?先查模型、上下文和提问这3处

AI问答
AI导航 15 次阅读
位置编码是什么?大模型分不清词序时靠它标明顺序

位置编码是什么?大模型分不清词序时靠它标明顺序

AI百科
AI导航 16 次阅读
Mercury 3扩散模型发布:每秒1068个token,速度快4到8倍

Mercury 3扩散模型发布:每秒1068个token,速度快4到8倍

AI资讯
AI导航 19 次阅读
AI写小说前后矛盾怎么办?4个办法让人物设定不崩

AI写小说前后矛盾怎么办?4个办法让人物设定不崩

AI问答
AI导航 22 次阅读
腾讯混元Hy Memory 2.0开源:智能体记忆有了专用模型

腾讯混元Hy Memory 2.0开源:智能体记忆有了专用模型

AI资讯
AI导航 22 次阅读