全部文章标签

上下文窗口

解释大模型一次能读入多少 Token、窗口满了会怎样,以及长上下文、检索增强和分段处理各自适合的场景与取舍。

专题介绍

上下文窗口是大模型单次处理时能同时看到的 Token 上限,决定它能读多长的文档、记住多远的对话。这个专题围绕窗口大小的计算方式、注意力稀释与截断现象展开,并对比扩大窗口、检索增强生成和摘要压缩三条路线,帮助读者判断资料该整段交给模型,还是先检索、切分后再喂进去。

阶跃星辰Step 5 Preview开放权重:600B模型BF16与FP8双版本可下载

阶跃星辰Step 5 Preview开放权重:600B模型BF16与FP8双版本可下载

AI资讯
AI导航 21 次阅读
蚂蚁百灵Ling-3.1-flash正式开源:560B参数每Token激活25B,支持1M上下文

蚂蚁百灵Ling-3.1-flash正式开源:560B参数每Token激活25B,支持1M上下文

AI资讯
AI导航 47 次阅读
阶跃Step 5 Preview上线WorkBuddy:10月25日前独家限免

阶跃Step 5 Preview上线WorkBuddy:10月25日前独家限免

AI资讯
AI导航 28 次阅读
KV缓存是什么?大模型生成新词时靠它少算一遍前文

KV缓存是什么?大模型生成新词时靠它少算一遍前文

AI百科
AI导航 21 次阅读
GPT-6.1 Sol 默认上下文提到 500k:Codex 长任务少被压缩打断

GPT-6.1 Sol 默认上下文提到 500k:Codex 长任务少被压缩打断

AI资讯
AI导航 24 次阅读
AI记不住你的偏好怎么办?3个设置让新对话不用重复交代

AI记不住你的偏好怎么办?3个设置让新对话不用重复交代

AI问答
AI导航 25 次阅读
LangChain 重构 Deep Agents 技能支持:工具跟着技能一起加载

LangChain 重构 Deep Agents 技能支持:工具跟着技能一起加载

AI资讯
AI导航 27 次阅读
思维链是什么意思?为什么先写步骤反而更容易答对

思维链是什么意思?为什么先写步骤反而更容易答对

AI百科
AI导航 22 次阅读