大模型已經(jīng)發(fā)展一年了，然而大模型的幻覺問題一直令人詬病，其中檢索增強生成（RAG）是緩解幻覺比較有效的方式。

目前有兩個基于LLM的應(yīng)用框架可以很容易實現(xiàn)RAG Pipeline，分別是LangChain和LlamaIndex，本文將在四個任務(wù)上對比一下這兩個框架的不同實現(xiàn)。

LangChain： 一個使用LLM開發(fā)應(yīng)用程序的通用框架。

LlamaIndex： 一個專門用于構(gòu)建RAG系統(tǒng)的框架。

盡管 LlamaIndex 的目標市場比 LangChain 要小得多（使用Github stars表示社區(qū)的活躍度），但其資金數(shù)額接近LangChain。LangChain還提供了更多企業(yè)級的產(chǎn)品（比如LangServe、LangSmith等等）。

LlamaIndex 和 LangChain 是用于構(gòu)建LLM應(yīng)用程序的兩個框架。雖然LlamaIndex專注于RAG用例，但LangChain似乎應(yīng)用更廣泛。但它們在實踐中有何不同？

在這篇文章中，我們比較了兩個框架在完成四個常見任務(wù)時的表現(xiàn)：

連接到本地LLM實例并構(gòu)建聊天機器人。

索引本地文件并構(gòu)建RAG系統(tǒng)。

將以上兩者結(jié)合起來，制作一個具有RAG功能的聊天機器人。

將聊天機器人轉(zhuǎn)換為Agent，這樣它可以使用更多的工具并進行簡單的推理。         

原文鏈接：https://blog.csdn.net/2301_78285120/article/details/135895441