DB-GPT搭建

服务器环境：

1. 显卡：A800

2. Driver: 515.105.01

3. CUDA: 11.7

4. python: 3.10.13

搭建步骤

• 下载DB-GPT源码

git clone https://github.com/eosphoros-ai/DB-GPT.git

• python安装所需环境

cd DB-GPT
pip install -e ".[default]"

• 复制基础环境变量

cp .env.template  .env

.env中包含模型选择/模型路径等信息

注意 ：LLM_MODEL=vicuna-7b-v1.5 的模型文件选择的书写名字 需要根据 项目根目录/dbgpt/configs/model_config.LLM_MODEL_CONFIG为准

• 下载模型文件

mkdir models and cd models

需要手动创建models文件夹，以后下载的模型文件都需要放在这边，且命名要求按照项目根目录/dbgpt/configs/model_config.LLM_MODEL_CONFIG来命名。

# embedding model
git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese

# LLM model
git clone https://huggingface.co/lmsys/vicuna-13b-v1.5

• 运行即可启动

python dbgpt/app/dbgpt_server.py

访问web端口：0.0.0.0:5000

注意事项: 连接mysql clickhouse等数据库时，需要安装对应pip包，看报错信息即可。