Langchain-Chatchat 是一个可以实现：完全本地化推理的知识库增强方案, 重点解决数据安全保护，私域化部署的企业痛点。 开源方案采用Apache License，可以免费商用，无需付费。
支持市面上主流的本地大语言模型和Embedding模型，支持开源的本地向量数据库。
1. 环境配置
首先，确保你的机器安装了 Python 3.8 – 3.11 (强烈推荐使用 Python3.11)。不要使用最新版！
$ python --version
零度演示环境为 Windows 11 系统 、RTX 4090 24GB、i7-12700
安装CUDA Toolkit，建议安装 CUDA 12.1版本，因为开发者就是用的这个版本，点击前往【官方下载】；
需要注意的是，如果你不在海外，需要自行全局科学上网，否则无法正常安装。
2. 正式安装
拉取仓库项目文件：
# 拉取仓库
$ git clone https://github.com/chatchat-space/Langchain-Chatchat.git# 进入目录
$ cd Langchain-Chatchat# 安装全部依赖
$ pip install -r requirements.txt
$ pip install -r requirements_api.txt
$ pip install -r requirements_webui.txt# 默认依赖包括基本运行环境（FAISS向量库）。如果要使用 milvus/pg_vector 等向量库，请将 requirements.txt 中相应依赖取消注释再安装。
3.下载模型
git lfs install
git clone https://huggingface.co/THUDM/chatglm3-6b
git clone https://huggingface.co/BAAI/bge-large-zh初始化配置
python copy_config_example.py
python init_database.py --recreate-vs4.启动
python startup.py -a第一次启动的时候需要输入一个邮箱，就可以打开 webUI 可视化界面进行使用！
GPU硬件推荐参数
7B的模型，显存14GB+，推荐 NVIDIA RTX4080 16G及以上
14B级模型，显存30GB+，推荐 NVIDIA Tesla V100 32G及以上
39B级模型，显存69GB+，推荐 NVIDIA A100 80G及以上
72B级模型，显存145GB+，需要专业级显卡或者多卡叠加