yyhhyy's blog

yyhhyy

Langchain-Chatchat

Langchain-Chatchat搭建(GPU)

本文详细介绍了在CentOS 7.9环境下,使用CUDA 11.7搭建Langchain-Chatchat(GPU版本)的步骤。首先,通过Git拉取项目代码并创建Conda环境,安装指定版本的PyTorch和其他依赖。由于CUDA版本限制,部分依赖需手动调整。接着,初始化知识库并配置相关文件,包括模型、提示词和数据库设置。最后,提供了单卡和多卡启动的指令,确保项目能在GPU环境下顺利运行。
500
0
0
2024-03-04

Langchain-Chatchat搭建(CPU)

本文介绍了如何在CentOS 7.9环境下搭建并调试Langchain-Chatchat项目,仅支持CPU调试。首先通过git克隆项目并安装相关依赖,包括FAISS向量库。接着初始化知识库和配置文件,最后启动项目。文中还提到如何配置模型路径和选择Embedding模型,支持本地模型及在线API调用。
225
0
0
2024-02-22