模型服务连接失败

为什么上下文越长不一定越好?

context_windowcostlatency
分类
context_engineering
难度
未设置
来源数
1
更新时间
2026/04/03 19:42

答案

上下文变长会带来噪声累积、注意力稀释和 token 成本/延迟上升,还容易出现 lost-in-the-middle。长上下文如果没有筛选机制,模型会更难抓住关键约束。实践上应做分层记忆与按需注入,而不是“全塞进去”。

相关题目(2)

context_engineeringcompressionisolationmemoryretrieval

元信息

审核状态: active
关联来源: 1

来源面经题(0)

这道题目前没有手动沉淀的面经题来源。

来源(1)

Manual Q&A - 为什么上下文越长不一定越好?

manual_input
Question: 为什么上下文越长不一定越好? Answer: 上下文变长会带来噪声累积、注意力稀释和 token 成本/延迟上升,还容易出现 lost-in-the-middle。长上下文如果没有筛选机制,模型会更难抓住关键约束。实践上应做分层记忆与按需注入,而不是“全塞进去”。