yyhhyy's blog

yyhhyy

DB-GPT

DB-GPT AWEL 实践所遇问题

文章讨论了在使用DB-GPT和AWEL框架时遇到的主要问题,特别是LLM的text2sql能力不足导致的取数问题。通过system_prompt无法有效阻止LLM对SQL语句进行聚合操作,而使用gpt-4虽能避免聚合但仍存在无效取数问题。通过SQL结果拼接和引入新的prompt结合LLM判断所需字段,部分问题得到解决。此外,文章还探讨了LLM计算能力差的问题,提出了编写特定计算算子的解决方案,并建议通过构建决策字典和prompt传递给LLM来提高计算的智能性和灵活性。
195
0
2
2024-04-23

DB-GPT Text2SQL微调方法

本文介绍了DB-GPT Text2SQL微调实践,详细描述了环境准备、数据处理和模型微调的步骤。环境准备包括在CentOS 7.9系统上安装CUDA 11.7和DB-GPT-Hub,并处理CUDA版本问题。数据处理部分使用Spider数据集,通过信息匹配生成法划分数据,生成训练集和评估集。模型微调部分使用单卡训练,配置LoRA微调参数,包括学习率、批量大小和训练轮数等,最终生成适配器权重文件。
764
0
0
2024-03-07

DB-GPT搭建

DB-GPT搭建需要在配备A800显卡、CUDA 11.7和Python 3.10.13的服务器环境中进行。搭建步骤包括下载DB-GPT源码、安装Python环境、复制基础环境变量、下载模型文件并按要求命名,最后运行启动脚本。模型文件需手动下载并放置在指定目录,启动后可通过web端口访问。
183
0
0
2024-02-27