yyhhyy's blog

yyhhyy

Langchain-Chatchat

Langchain-Chatchat搭建(GPU)

本文详细介绍了在CentOS 7.9环境下使用CUDA 11.7搭建Langchain-Chatchat的步骤,包括环境设置、拉取仓库、创建和激活conda环境、安装依赖、初始化知识库和配置文件,以及启动服务。特别强调了在安装依赖时需根据CUDA版本调整torch及相关依赖的版本,并提供了多卡启动的配置方法。
428
0
0
2024-03-04

Langchain-Chatchat搭建(CPU)

Langchain-Chatchat在CentOS 7.9环境下成功进行本地CPU调试。通过拉取GitHub仓库并安装相关依赖,包括FAISS向量库,用户可根据需求选择其他向量库。初始化知识库和配置文件后,使用Python脚本启动应用。配置文件中可选择不同的Embedding和LLM模型,支持本地模型和在线API。
179
0
0
2024-02-22