生成式 AI 基础概念 · 第 10 题,共 12 题
为 RAG 选择的分块(chunk)非常大时,通常会发生什么?
有 1 个正确答案。 中等 由 AI 生成
显示答案
答案
- D 命中的结果会带来大量无关文本
解析
大的分块提供大量上下文,但会稀释嵌入,并把不必要的文本带入上下文窗口,从而提高成本并分散模型的注意力。过小的分块则会丢失上下文。常见做法是采用中等大小并带有一定重叠,或采用层次化分块。
生成式 AI 基础概念 · 第 10 题,共 12 题
有 1 个正确答案。 中等 由 AI 生成
大的分块提供大量上下文,但会稀释嵌入,并把不必要的文本带入上下文窗口,从而提高成本并分散模型的注意力。过小的分块则会丢失上下文。常见做法是采用中等大小并带有一定重叠,或采用层次化分块。