AI 知识库首页

多模态 RAG

RAG 深入与知识工程专题:用 1 个核心问题讲清原理、取舍与落地。

一句话定位

切分、索引、混合召回、重排、高级 RAG 与端到端评测。 按“数据 → 索引 → 查询 → 召回 → 重排 → 生成 → 评测”定位问题,不把 RAG 当成单一向量搜索。

核心原理与问题解析

多模态 RAG 的难点是什么?

要解析文本、图片、表格、音视频并保留页码、区域或时间锚点;还要选择跨模态 Embedding、重排和引用方式。仅做 OCR 会丢布局与视觉关系。

继续想: 表格问答如何处理?;图片引用怎样定位?

工程落地检查

  • 文档保留来源、版本、时间和 ACL
  • 检索层与生成层分开评测
  • 从关键词+向量的简单基线开始
  • 答案必须能定位到证据片段
  • 索引迁移支持双写、双读和回滚

常见误区

  • 盲目追求更大的 Chunk 或 Top-K
  • 更换 Embedding 却不重建索引
  • 只看回答流畅度,不测召回和忠实度

对应面试题

R17 多模态 RAG 的难点是什么?

延伸资料

RAG 原始论文 · Self-RAG · Corrective RAG · Microsoft GraphRAG