2026/4/18 8:38:43
网站建设
项目流程
权威网站,seo搜索引擎优化案例,网页怎么优化,创想网站生活的本质在于取舍#xff0c;RAG架构亦是如此。【01】初识RAG不知道大家在提问大模型的时候#xff0c;有没有碰到过这种情况。
并不是每一个问题#xff0c;它都能答上来。甚至有时候它会瞎编一些答案#xff0c;一本正经地胡说八道。
这种情况#xff0c;通常被称为大…生活的本质在于取舍RAG架构亦是如此。【01】初识RAG不知道大家在提问大模型的时候有没有碰到过这种情况。并不是每一个问题它都能答上来。甚至有时候它会瞎编一些答案一本正经地胡说八道。这种情况通常被称为大模型的幻觉。因为大模型所有的认知都是通过模型训练得来的。恰巧你提的问题在它的认知范围外它就无法正确地回答你。在早期大模型遇到这种情况可能会分析得头头是道但最终答非所问。但现在它会实打实地回复它不知道。比如用自己上线的网站楼里我让大模型介绍下它明确回复不知道。虽然比起之前的瞎编好上不少但是它确实没解决实际的问题。但是当我将网站的介绍文案和问题一起丢给大模型时它的回复是这样的。其实不难理解无非就是把问题和网站介绍一起交给大模型。它会分析网站的介绍然后结合提出的问题找到用户想要的答案。如果讲得专业一点RAG就是将知识库与大模型结合的服务。能够快速从大量的信息中搜寻、分析、生成最终的答案为用户提供精准的信息。这种知识库体系可以被运用在企业内部如建立企业内部文档、考勤制度或规范、数据、业务经验等等。建立好内部的知识体系让大模型可以精确分析数据借鉴大模型的能力员工可快速查阅相关内容。但是讲得不专业一些就是先从你的知识库里查资料再让大模型照着资料回答问题。【02】RAG架构那么问题来了怎么判断知识库中的一段文字和用户提出的问题有关联这就要引入一个新的概念Embedding模型。Embedding模型的输入也是一段文字与大模型有所区别的是它的输出是一组固定长度的数组。简单的理解就是预先把内容的文本有损压缩成一串数字坐标用户提出的问题也会压缩成坐标。最终可以通过计算坐标之间的距离来判断问题和内容是否相关。现在输入几个问题1、七号楼是独立开发吗2、七号楼是开发者吗3、七号楼是程序员吗?4、海报上的字体要大一些吗如果用人的思维非常简单就可以回答前三个问题比较类似并且答案是肯定的。最后一个问题跟前面的问题毫无关系并且答案是否定的。但是换成Embedding模型的角度事情就变得复杂了它只能按照既定的套路去解答问题。从上面的描述可知文本信息最终都会被压缩成坐标。由此我们画一个简单的二维坐标系来展示。真实的Embedding坐标系肯定不止二维如OpenAI的text-embedding-3-small是1536个维度三条关于七号楼信息的内容在坐标系上距离非常贴近一条关于海报信息的内容则距离非常远。当用户提问七号楼是独立开发吗七号楼是开发者吗七号楼是程序员吗这些问题最终也会被映射到这个坐标系上并且很贴近坐标系的左上方然后通过计算拿到与问题最贴近的一些答案将问题和这些答案当做上下文统一交给大模型去处理最后生成用户想要的答案。反之用户提问海报上的字体要大一些吗这个问题会去往坐标系的右下角然后找到“海报上的字体要小一些”这样的答案也一并交给大模型。按照这样的流程大模型最终会拿到和用户问题强关联的内容经过一系列的分析产生用户想要的答案。由此RAG架构总结如下它包含Embedding模型、向量检索坐标系、上下文构建、大模型生成答案。【03】切块和向量库为了解释清楚RAG架构上面所说的场景其实都是理想状态真实情况要复杂很多。回到最初的场景楼里网站的介绍其实文档是很长的。如果将整个文档的内容只映射成一个坐标那么文档和问题一起提交给大模型的时候那产生的token... 不需要我多说了吧。所以就需要对整篇文档进行分段处理批量向量化专业词汇叫Chunking意思就是切块。切块顾名思义就是将文本内容进行分割。做完文本切块后还需要将每段的原始文本和每个向量坐标一一对应起来这个对应关系需要被保存起来。传统的数据库也能存对应关系但是做不了向量检索。于是专门为这类场景定制了向量数据库。它可以检索出离问题向量最近的一些向量数据。常见的向量数据库有Milvus、Qdrant、Pinecone、PostgreSQLpgvector等等。于是整个流程就可以丝滑地串起来了但是整个RAG还存在缺陷比如整篇知识库内容怎么分块按段落、按句子、还是按篇幅如果内容一长并且提出的问题比较复杂貌似各种切块方式都不合适了。不过我有一些不成熟的想法是不是可以训练一个专门切块的大模型或者直接让大模型参与分块。额好吧还是继续等等看看后续有没有合适的方案去解决这些问题。【04】总结如果让事情回归生活那么本质就是在做取舍。把与问题不相关的舍弃留下相关的部分。就像今年我舍弃了奋斗十年的职场转身独立开发。这就是主动选择想要的生活方式和想要专注的方向。又或者微信通讯录中密密麻麻的好友最终能打开聊天框的寥寥无几。有些聊天记录还停留在那个搞笑的表情包甚至是一句你好。互联网十年民工现在转身独立开发者。|公众号-主页|小红书-主页|抖音-主页|Git仓库-主页|