2024-09-14 12:08 湖北
LlamaIndex CEO于2024.9.10的主题演讲:
报告人:Jerry Liu
报告人信息:LlamaIndex CEO
主题原文:“Building an Advanced Knowledge Assistant”
报告概要内容如下:
RAG只是开始
RAG技术通过检索相关信息并生成回答,为构建知识助手Application提供了基础。包括数据处理、索引、检索和提示。
基础RAG的局限性:指出了基础RAG在数据处理、检索接口、查询理解和规划、功能调用或工具使用、状态记忆等方面的不足。
如何建设更好的知识助手App
在RAG的基础上,强调高质量数据和检索、复杂输入的Agent推理、Agent决策制定和输出生成
高质量数据和检索
强调任何LLM应用的质量取决于其数据质量,介绍了数据清洗、结构化提取和语义搜索的重要性。
复杂文档处理
复杂文档(如嵌入表格、图表、不规则布局)的挑战,并介绍了LlamaIndex的文档解析技术。
LlamaParse:这是一个先进的文档解析器,专门用于减少LLM幻觉,已被超过20,000名独立用户处理超过2500万页。
Agent推理和复杂输入
通过工具使用、查询规划、记忆和反思来处理复杂输入。
Agent决策制定和输出生成
自动化决策制定和输出生成的概念,以及如何通过结构化输出和功能调用来实现。
未来:智能体应用(Agentic App)
可扩展的全栈应用:在生产环境中运行Agent所需的架构和基础设施组件。
报告全文详情:
推荐阅读
• 对齐LLM偏好的直接偏好优化方法:DPO、IPO、KTO
• RAG全景图:从RAG启蒙到高级RAG之36技,再到终章Agentic RAG!
• Agent到多模态Agent再到多模态Multi-Agents系统的发展与案例讲解(1.2万字,20+文献,27张图)
欢迎关注我的公众号“PaperAgent”,每天一篇大模型(LLM)文章来锻炼我们的思维,简单的例子,不简单的方法,提升自己。