Skip to content

步骤越多,幻觉越多 - 幻觉逐步积累,甚至并不比朴素搜索RAG优 #32

@choyakawa

Description

@choyakawa

例子:

mindsearch openxlab org cn_ (3)

  1. 缺少验证环节:几个步骤都缺乏自我验证 - 初始构建的图谱是否合理、提出的问题是否可以被文段回答、回答是否在文段中有给出答案
  2. 存在重复或相似步骤被反复执行
  3. 由于幻觉逐步积累,甚至并不比朴素搜索RAG优。
  4. 节点没有权重的概念,导致不重要的细节被放大,而应该有的、多文档之间交错的信息没有体现。

像极了很多Agent LLM应用,步骤很多,看起来很炫酷,然后积累幻觉,不太可用。

Metadata

Metadata

Assignees

Labels

No labels
No labels

Type

No type
No fields configured for issues without a type.

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions