LlamaIndex 术语
这七个术语是LlamaIndex生态系统中用于解决非结构化数据处理这一核心挑战的七个关键环节。可以将其理解为一条从“原始文件”到“AI可用知识”的数据处理流水线,每个环节都针对特定的痛点提供了解决方案。
以下是各环节的具体作用:
📄 Parse (解析)
解决的核心问题:如何将格式繁杂的原始文档(如PDF、Word、PPT)准确地转化为AI可以理解的纯文本或结构化数据。
- 关键挑战:文档格式复杂,包含多页表格、页眉页脚、图像、复杂排版等。传统方法难以准确提取,导致信息丢失或错乱。
- LlamaIndex的解决方案:通过专门的解析平台 LlamaParse 来解决。
- “连续模式”:能识别并合并跨页的表格,避免表格被错误拆分。
- 智能识别:可自动检测并选择性处理页眉页脚。
- 高精度与灵活性:提供“快速”、“高性价比”、“智能体”等多个服务层级,用户可根据文档复杂度选择,平衡成本与准确性。
✂️ Split (拆分)
解决的核心问题:当一个文件(如压缩包、多份报告的合集)包含多个独立文档时,如何将它们自动拆分开。
- 关键挑战:手动拆分大量混合文档耗时且易错。
- LlamaIndex的解决方案:通过 LlamaSplit API 实现。
- AI驱动的自动分割:它能智能分析页面内容,将混合文档(如简历合集、财务报表、法庭文件)按逻辑拆分成独立的章节。
- 提供可信度评估:拆分结果会附带精确的页码范围和置信度评分,方便审核与后续处理。
🗂️ Classify (分类)
解决的核心问题:在深入处理之前,如何自动识别并标记文档的类型(如发票、合同、简历)。
- 关键挑战:不同类型的文档需要不同的后续处理策略(如不同的解析参数、提取字段),手动分类效率低下。
- LlamaIndex的解决方案:通过 LlamaClassify 服务实现。
- 基于规则的自动分类:用户可使用自然语言定义规则,系统自动为文档打上标签。
- 优化下游流程:分类是关键的预处理步骤。它能让后续的
Extract(提取)和Index(索引)等环节使用针对该文档类型优化的配置,从而提高准确性并降低成本。
🔍 Extract (提取)
解决的核心问题:如何从已解析的文本中,精准、结构化地提取出用户指定的关键信息(如合同金额、发票日期)。
- 关键挑战:传统规则提取(如正则表达式)非常脆弱,格式稍有变化就失效;而让大模型直接处理长文档,提取大量重复信息时容易遗漏。
- LlamaIndex的解决方案:通过 LlamaExtract 实现。
- LLM驱动的灵活提取:利用大模型的理解能力,适应文档格式的多样性。
- 创新的“逐行提取”模式:针对表格、清单等重复性数据,系统会先智能识别出每个实体(如表格的每一行),然后让大模型逐一处理,从而实现100%的覆盖率,彻底解决遗漏问题。
- 提供依据与溯源:可为每个提取出的字段提供推理过程和来源引用(如原文位置),增强可信度。
📊 Sheets (表格处理)
解决的核心问题:如何处理格式复杂、充满视觉信息的电子表格(.xlsx),将其转化为AI能用的数据。
- 关键挑战:电子表格不仅是数据,其格式(如合并单元格、粗体标题、背景色)也承载着重要语义。传统的文本解析无法理解这些视觉信息。
- LlamaIndex的解决方案:通过 LlamaSheets API 解决。
- 语义理解:它能理解电子表格的结构和视觉层级。
- 输出AI就绪数据:将混乱的表格转化为干净、带类型(如日期、数字)的 Parquet 格式数据,并保留超过40种单元格级元数据(如字体、颜色、位置),为AI Agent提供丰富信息。
🧠 Index (索引)
解决的核心问题:如何为海量数据建立索引,以便在用户提问时,能从知识库中快速、准确地检索到最相关的信息片段。
- 关键挑战:面对海量信息,如何实现毫秒级的精准检索是RAG(检索增强生成)系统的核心。
- LlamaIndex的解决方案:
Index是整个框架的核心基础。- 核心数据结构:它将文档处理成
Node对象(文本块)并进行存储和组织。 - 支撑RAG应用:
Index是构建查询引擎和聊天引擎的基础,是实现RAG的基石。 - 灵活性与组合性:提供多种索引类型(如
VectorStoreIndex),并支持索引的组合(如在子索引上构建父索引),以适应复杂的数据结构。
- 核心数据结构:它将文档处理成
🔗 总结:一个完整的处理流水线
这些组件共同构成了一个强大的数据处理流水线,可以协同工作:
Parse(解析):摄入原始文档,提取文本和结构。Split(拆分):必要时,将一个混合文件拆分为多个独立文档。Classify(分类):识别每个文档的类型(如“发票”或“合同”)。Extract(提取):根据文档类型,精准提取关键的结构化字段。Sheets(表格处理):专门处理电子表格类数据。Index(索引):将处理后的所有数据建立索引,为最终的AI应用(如RAG问答系统)提供高效的检索支持。