通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用

发布于 2025-2-21 16:00
浏览
0收藏

打开LM Studio官网​​

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

选择适合自己的操作系统,下载LM Studio安装包

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

成功后运行LM Studio,顶部文本框输入deepseek,点击搜索模型

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

在搜索结果中选择7B参数模型,

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

如上图右侧提示“No result found”说明官方未直接提供deepseek gguf模型文件。

这时,我们需要自己到别处下载ds gguf文件,继续如下操作:

打开魔搭官网,​​

进入模型库,搜索deepseek-r1

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

选择deepseek-r1 gguf模型文件,根据你自己电脑的配置情况,选择大小合适的参数模型。(我选择了70亿参数的小模型)

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

点击下载模型文件,按提示命令操作(此步需要程序员操作)

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

按右侧窗口提示,选择正确的下载方式,这里需要下载独立的gguf文件保存到指定的文件路径。

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

Win+R 运行cmd 命令终端,请先确认pip(需要安装python环境)是否最新版本,否则先更新pip。

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

操作①,安装modelscope:pip install modelscope

安装过程中可能失败,提示:系统没有启用Windows长路径支持

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

win+R 运行regedit命令,打开系统注册表

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

找到以下位置:HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem,找到LongPathsEnabled的条目,双击打开

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

“数值数据”文本框值改为1,确定保存即可。

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区


再次执行①,成功!

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

执行②,通过modelscope命令下载gguf文件到指定目录。

可能遇到modul错误

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

解决办法是:pip install setuptools -U

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

成功后继续执行②,安装进行中

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

模型GGUF文件下载100%完成!

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

打开LM Studio客户端,我的模型》模型目录》更改,设置路径地址为gguf文件所在目录的上二级目录文件夹。

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

回到聊天对话框,选择最新的模型。

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用-AI.x社区

从此刻开始你和DS AI畅聊吧~(无网也能聊,数据又安全


已于2025-2-21 16:01:11修改
收藏
回复
举报
回复
相关推荐