田昕晖-云数据仓库ByteHouse架构下的RAG技术实践与性能优化

云数据仓库 ByteHouse 架构下的 RAG 技术实践与性能优化演讲人：田昕晖火山引擎 / ByteHouse 技术团队目录RAG 相关技术简介高性能向量检索技术全文检索 & 混合检索GraphRAG 实践Conclusion & DiscussionRAG 相关技术简介Naive RAGHybrid SearchRRF: (Reciprocal Rank Fusion)•基于排名重排•同时考虑语义及关键字信息 GraphRAG文本 -> 大模型 -> 图结构检索关联性信息，全局信息Q: Which public figures are repeatedly mentioned across various entertainment articles?Agentic RAGhttps://langchain-ai.github.io/langgraph/tutorials/rag/langgraph_agentic_ragAdaptive RAGJeong, Soyeong, et al. "Adaptive-rag: Learning to adapt retrieval-augmented large language models through question complexity." arXiv preprint arXiv:2403.14403 (2024).Zhao, Siyun, et al. "Retrieval Augmented Generation (RAG) and Beyond: A Comprehensive Survey on How to Make your LLMs use External Data More Wisely." arXiv preprint arXiv:2409.14924 (2024).RAG 相关技术需求要解决的问题：如何让大模型利用外部知识库，回答符合预期的问题？• Memory Engineering•如何获取准确的相关数据•如何让大模型回答的答案有效利用检索数据•性能数据处理：•文本切分•向量提取•Rerank•...高性能检索技术：•向量检索（Dense & Sparse）•全文检索（关键词搜索）•图检索•结构化信息检索•其他可以基于问题检索答案的相关技术 数据管理及操作基础机制：容错、鉴权、