官方介绍
GPT4All 是一个生态系统，用于训练和部署在消费级 CPU 上本地运行的强大且定制的大型语言模型。GPT4All 软件经过优化，可在笔记本电脑、台式机和服务器的 CPU 上运行 3-130 亿参数大语言模型的推理。
目标很简单——成为任何个人或企业都可以自由使用、分发和构建的最佳指令调整助理式语言模型。
GPT4All 模型是一个 3GB – 8GB 文件，您可以下载该文件并将其插入 GPT4All 开源生态系统软件中。Nomic AI 支持并维护这个软件生态系统，以加强质量和安全性，同时带头让任何个人或企业轻松训练和部署自己的边缘大型语言模型。
软件安装
1、双击运行程序安装
2、点击下一步
3、点击浏览，更改安装目录
4、选择GPT4ALL,然后点击下一步
5、勾选我接受此许可，一直点击下一步
6、点击安装，安装完成之后，在你的电脑桌面会出现一个GPT4ALL的图标
7、模型下载，推荐下载这个模式，支持中文回答
大小：3.83 GB 内存：8GB
mistral-7b-openorca.Q4_0.gguf
最佳整体快速聊天模型
-
快速响应
-
基于聊天的模型
-
由 Mistral AI 训练
-
管理的 OpenOrca 数据集上进行了微调
-
已获得商业用途许可
百度网盘： 链接：https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
提取码：xfyz
大小：3.83 GB内存：8GB
mistral-7b-instruct-v0.1.Q4_0.gguf
最佳整体快速指令跟随模型
-
快速响应
-
由 Mistral AI 训练
-
未经审查
-
已获得商业用途许可
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
gpt4all-falcon-newbpe-q4_0.gguf
模型速度非常快，质量很好
-
最快的响应
-
基于指令
-
由TII培训
-
由 Nomic AI 微调
-
已获得商业用途许可
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：3.56 GB内存：8GB
orca-2-7b.Q4_0.gguf
-
基于指令
-
由微软培训
-
不能用于商业用途
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：6.86 GB内存：16GB
orca-2-13b.Q4_0.gguf
-
基于指令
-
由微软培训
-
不能用于商业用途
百度网盘：https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：6.86 GB内存：16GB
Wizardlm-13b-v1.2.Q4_0.gguf
最佳整体较大型号
-
基于指令
-
给出很长的回复
-
仅用 1k 高质量数据进行微调
-
微软和北京大学培训
-
不能用于商业用途
百度网盘：https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：6.86 GB内存：16GB
nous-hermes-llama2-13b.Q4_0.gguf
非常好的模型
-
基于指令
-
给出很长的回应
-
包含 300,000 条未经审查的说明
-
由 Nous Research 培训
-
不能用于商业用途
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：6.86 GB内存：16GB
gpt4all-13b-snoozy-q4_0.gguf
整体模型非常好
-
基于指令
-
基于与 Groovy 相同的数据集
-
比 Groovy 慢，但响应质量更高
-
由 Nomic AI 培训
-
不能用于商业用途
百度网盘：https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：3.64 GB内存：8GB
mpt-7b-chat-newbpe-q4_0.gguf
模型不错，架构新颖
-
快速响应
-
基于聊天
-
由 Mosaic ML 训练
-
不能用于商业用途
百度网盘：https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：1.84 GB内存：4GB
orca-mini-3b-gguf2-q4_0.gguf
具有新颖数据集的新模型的小版本
-
基于指令
-
解释调整后的数据集
-
Orca 研究论文数据集构建方法
-
不能用于商业用途
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：1.82 GB内存：4GB
replit-code-v1_5-3b-newbpe-q4_0.gguf
在堆栈的子集上进行训练
-
基于代码完成
-
已获得商业用途许可
-
警告：不适用于聊天 GUI
百度网盘：https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：8.37 GB内存：4GB
starcoder-newbpe-q4_0.gguf
在堆栈的子集上进行训练
-
基于代码完成
-
警告：不适用于聊天 GUI
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：3.56 GB内存：8GB
rift-coder-v0-7b-q4_0.gguf
接受过 Python 和 TypeScript 集合培训
-
基于代码完成
-
警告：不适用于聊天 GUI
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：0.04 GB内存：1GB
all-MiniLM-L6-v2-f16.gguf
LocalDocs 文本嵌入模型
-
LocalDocs 功能所必需的
-
用于检索增强生成（RAG）
百度网盘：https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
大小：3.83 GB内存：8GB
em_german_mistral_v01.Q4_0.gguf
基于 Mistral 的德语应用模型
-
快速响应
-
基于聊天的模型
-
由埃拉米德培训
-
对德语指令和聊天数据进行了微调
-
已获得商业用途许可
百度网盘： https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
8、模型放置路径：
C:/Users/Administrator/AppData/Local/nomic.ai/GPT4All/
模型下载好之后，将其放置到这个路径中
9、点击运行文件，就可以使用了
10、点击右上角的设置，进行模型选择和GPU选择
