私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

2024-01-12 0 2,628

这是一款真正意义上不需要联网就能使用的智能工具,具有代码写作、文本对话等功能,具有高度隐私和私密性。

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

官方介绍

GPT4All 是一个生态系统,用于训练和部署在消费级 CPU 上本地运行的强大定制的大型语言模型。GPT4All 软件经过优化,可在笔记本电脑、台式机和服务器的 CPU 上运行 3-130 亿参数大语言模型的推理。

目标很简单——成为任何个人或企业都可以自由使用、分发和构建的最佳指令调整助理式语言模型。

GPT4All 模型是一个 3GB – 8GB 文件,您可以下载该文件并将其插入 GPT4All 开源生态系统软件中。Nomic AI 支持并维护这个软件生态系统,以加强质量和安全性,同时带头让任何个人或企业轻松训练和部署自己的边缘大型语言模型。

软件安装

1、双击运行程序安装

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

2、点击下一步

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

3、点击浏览,更改安装目录

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

4、选择GPT4ALL,然后点击下一步

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

5、勾选我接受此许可,一直点击下一步

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

6、点击安装,安装完成之后,在你的电脑桌面会出现一个GPT4ALL的图标

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

7、模型下载,推荐下载这个模式,支持中文回答

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

模型下载

大小:3.83 GB 内存:8GB

mistral-7b-openorca.Q4_0.gguf

最佳整体快速聊天模型

  • 快速响应

  • 基于聊天的模型

  • 由 Mistral AI 训练

  • 在通过Nomic Atlas管理的 OpenOrca 数据集上进行了微调

  • 已获得商业用途许可

百度网盘: 链接:https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz
提取码:xfyz

大小:3.83 GB内存:8GB

mistral-7b-instruct-v0.1.Q4_0.gguf

最佳整体快速指令跟随模型

  • 快速响应

  • 由 Mistral AI 训练

  • 未经审查

  • 已获得商业用途许可

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

gpt4all-falcon-newbpe-q4_0.gguf

模型速度非常快,质量很好

  • 最快的响应

  • 基于指令

  • 由TII培训

  • 由 Nomic AI 微调

  • 已获得商业用途许可

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:3.56 GB内存:8GB

orca-2-7b.Q4_0.gguf

  • 基于指令

  • 由微软培训

  • 不能用于商业用途

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:6.86 GB内存:16GB

orca-2-13b.Q4_0.gguf

  • 基于指令

  • 由微软培训

  • 不能用于商业用途

百度网盘:https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:6.86 GB内存:16GB

Wizardlm-13b-v1.2.Q4_0.gguf

最佳整体较大型号

  • 基于指令

  • 给出很长的回复

  • 仅用 1k 高质量数据进行微调

  • 微软和北京大学培训

  • 不能用于商业用途

百度网盘:https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:6.86 GB内存:16GB

nous-hermes-llama2-13b.Q4_0.gguf

非常好的模型

  • 基于指令

  • 给出很长的回应

  • 包含 300,000 条未经审查的说明

  • 由 Nous Research 培训

  • 不能用于商业用途

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:6.86 GB内存:16GB

gpt4all-13b-snoozy-q4_0.gguf

整体模型非常好

  • 基于指令

  • 基于与 Groovy 相同的数据集

  • 比 Groovy 慢,但响应质量更高

  • 由 Nomic AI 培训

  • 不能用于商业用途

百度网盘:https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:3.64 GB内存:8GB

mpt-7b-chat-newbpe-q4_0.gguf

模型不错,架构新颖

  • 快速响应

  • 基于聊天

  • 由 Mosaic ML 训练

  • 不能用于商业用途

百度网盘:https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:1.84 GB内存:4GB

orca-mini-3b-gguf2-q4_0.gguf

具有新颖数据集的新模型的小版本

  • 基于指令

  • 解释调整后的数据集

  • Orca 研究论文数据集构建方法

  • 不能用于商业用途

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:1.82 GB内存:4GB

replit-code-v1_5-3b-newbpe-q4_0.gguf

在堆栈的子集上进行训练

  • 基于代码完成

  • 已获得商业用途许可

  • 警告:不适用于聊天 GUI

百度网盘:https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:8.37 GB内存:4GB

starcoder-newbpe-q4_0.gguf

在堆栈的子集上进行训练

  • 基于代码完成

  • 警告:不适用于聊天 GUI

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:3.56 GB内存:8GB

rift-coder-v0-7b-q4_0.gguf

接受过 Python 和 TypeScript 集合培训

  • 基于代码完成

  • 警告:不适用于聊天 GUI

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:0.04 GB内存:1GB

all-MiniLM-L6-v2-f16.gguf

LocalDocs 文本嵌入模型

  • LocalDocs 功能所必需的

  • 用于检索增强生成(RAG)

百度网盘:https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

大小:3.83 GB内存:8GB

em_german_mistral_v01.Q4_0.gguf

基于 Mistral 的德语应用模型

  • 快速响应

  • 基于聊天的模型

  • 由埃拉米德培训

  • 对德语指令和聊天数据进行了微调

  • 已获得商业用途许可

百度网盘: https://pan.baidu.com/s/1RrOyNCVnRyyNpaMwIrnHoA?pwd=xfyz

 

8、模型放置路径:

C:/Users/Administrator/AppData/Local/nomic.ai/GPT4All/

模型下载好之后,将其放置到这个路径中

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

9、点击运行文件,就可以使用了

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

10、点击右上角的设置,进行模型选择和GPU选择

私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握!

资源下载
免费资源
软件下载点击下载
客服QQ:1310902027
收藏 (0) 打赏

感谢您的支持,我会继续努力的!

打开微信一扫,即可进行扫码打赏哦,分享从这里开始,精彩与您同在
点赞 (4)

相逢储物站

相逢储物站 开发编程 私人AI革命:GPT-4 All本地部署,无需GPU,尽在掌握! https://www.xfyzyyb.xyz/2385.html

感谢您来到我的这个小站,我们一直在路上

下一篇:

已经没有下一篇了!

常见问题

相关文章

发表评论
暂无评论