yyhhyy's blog

yyhhyy

Langchain-Chatchat

Langchain-Chatchat搭建(GPU)

本文详细介绍了在CentOS 7.9环境下,使用CUDA 11.7搭建Langchain-Chatchat的步骤。首先,通过Git拉取项目代码并创建Conda环境,安装指定版本的PyTorch和其他依赖。由于CUDA版本限制,需调整部分依赖版本。接着,初始化知识库并配置相关文件,包括模型路径、提示词和数据库设置。最后,介绍了单卡和多卡启动的方法,确保在不同硬件配置下顺利运行Langchain-Chatchat。
528
0
0
2024-03-04

Langchain-Chatchat搭建(CPU)

本文介绍了在CentOS 7.9环境下搭建和调试Langchain-Chatchat的步骤,仅支持CPU调试。首先通过Git拉取项目并安装依赖,包括FAISS向量库。接着初始化知识库和配置文件,最后启动项目。文中还提到如何配置模型路径和选择Embedding模型,如bge-large-zh-v1.5,以及支持的LLM模型如chatglm3-6b和zhipu-api。
239
0
0
2024-02-22