
通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用
打开LM Studio官网
选择适合自己的操作系统,下载LM Studio安装包
成功后运行LM Studio,顶部文本框输入deepseek,点击搜索模型
在搜索结果中选择7B参数模型,
如上图右侧提示“No result found”说明官方未直接提供deepseek gguf模型文件。
这时,我们需要自己到别处下载ds gguf文件,继续如下操作:
打开魔搭官网,
进入模型库,搜索deepseek-r1
选择deepseek-r1 gguf模型文件,根据你自己电脑的配置情况,选择大小合适的参数模型。(我选择了70亿参数的小模型)
点击下载模型文件,按提示命令操作(此步需要程序员操作)
按右侧窗口提示,选择正确的下载方式,这里需要下载独立的gguf文件保存到指定的文件路径。
Win+R 运行cmd 命令终端,请先确认pip(需要安装python环境)是否最新版本,否则先更新pip。
操作①,安装modelscope:pip install modelscope
安装过程中可能失败,提示:系统没有启用Windows长路径支持
win+R 运行regedit命令,打开系统注册表
找到以下位置:HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem,找到LongPathsEnabled的条目,双击打开
“数值数据”文本框值改为1,确定保存即可。
再次执行①,成功!
执行②,通过modelscope命令下载gguf文件到指定目录。
可能遇到modul错误:
解决办法是:pip install setuptools -U
成功后继续执行②,安装进行中
模型GGUF文件下载100%完成!
打开LM Studio客户端,我的模型》模型目录》更改,设置路径地址为gguf文件所在目录的上二级目录文件夹。
回到聊天对话框,选择最新的模型。
从此刻开始你和DS AI畅聊吧~(无网也能聊,数据又安全)
