上下文窗口
解释大模型一次能读入多少 Token、窗口满了会怎样,以及长上下文、检索增强和分段处理各自适合的场景与取舍。
专题介绍
上下文窗口是大模型单次处理时能同时看到的 Token 上限,决定它能读多长的文档、记住多远的对话。这个专题围绕窗口大小的计算方式、注意力稀释与截断现象展开,并对比扩大窗口、检索增强生成和摘要压缩三条路线,帮助读者判断资料该整段交给模型,还是先检索、切分后再喂进去。
阶跃星辰Step 5 Preview开放权重:600B模型BF16与FP8双版本可下载
AI资讯 AI导航 21 次阅读
蚂蚁百灵Ling-3.1-flash正式开源:560B参数每Token激活25B,支持1M上下文
AI资讯 AI导航 47 次阅读
阶跃Step 5 Preview上线WorkBuddy:10月25日前独家限免
AI资讯 AI导航 28 次阅读
KV缓存是什么?大模型生成新词时靠它少算一遍前文
AI百科 AI导航 21 次阅读
GPT-6.1 Sol 默认上下文提到 500k:Codex 长任务少被压缩打断
AI资讯 AI导航 24 次阅读
AI记不住你的偏好怎么办?3个设置让新对话不用重复交代
AI问答 AI导航 25 次阅读
LangChain 重构 Deep Agents 技能支持:工具跟着技能一起加载
AI资讯 AI导航 27 次阅读
思维链是什么意思?为什么先写步骤反而更容易答对
AI百科 AI导航 22 次阅读