DeepSeek大模型之本地部署体验

开发 前端
对于DeepSeek的评价:“DeepSeek,可能是个国运级别的科技成果”。既然如此,我们老百姓也应该体验一下国运级别的产品,好话不多说,干中学。

1. 前言

图片图片

大佬冯骥(黑神话悟空游戏的创作者)对于DeepSeek的评价:“DeepSeek,可能是个国运级别的科技成果”。既然如此,我们老百姓也应该体验一下国运级别的产品,好话不多说,干中学。

2. 本地部署(mac系统)

1)首先安装ollama

  • 访问地址:https://ollama.com
  • 选择mac系统下载ollama并安装

图片图片

  • 安装成功之后通过终端查看ollama版本
➜  ~ ollama -v
ollama version is 0.5.7
➜  ~

2)其次安装DeepSeek

  • 访问ollama提供DeepSeek的仓库
https://ollama.com/library/deepseek-r1
  • 然后通过ollama命令运行
ollama run deepseek-r1:7b

注意:这里推荐运行7b模型,因为本地内存不一定满足大于7b的模型,当然本地机器内存配置相对较高,可以选择大于7b的模型,请看下面截图:

图片图片

3. 最后使用

简单的话有三种访问本地DeepSeek大模型的方式,只说老百姓能看得懂的访问,其他API,SDK等方式不做讨论。

先启动本地DeepSeek-7b大模型,通过命令ollama run deepseek-r1:7b启动

1)终端访问

➜  ~ ollama run deepseek-r1:7b
>>> 有你真好,你是最棒的助手
<think>
嗯,用户说“有你真好,你是最棒的助手”,这句话看起来挺温暖的。我应该回应一下他的感受,表示感谢。

首先,要认可用户的夸奖,说明我的存在对对方有帮助。然后,可以表达自己愿意继续提供服务的想法。

可以用“谢谢”开头,显得友好又真诚。“很高兴能为您效劳”这样既肯定了用户的需求,也表达了我可以为他们提供的各种帮助。

接着,可以用一些开放性的语句,比如“有什么需要我帮忙的吗?”,这样让用户知道我可以根据他们的需求来提供帮助。

最后,用加油的话鼓励用户,让他们感到被支持。“加油!继续努力哦~”这不仅表达鼓励,还展示了积极的心态。

整体上,语气要自然、亲切,避免过于正式或机械。使用表情符号可以增加亲和力,让交流更温暖。

总结一下,回应应该包括感谢、确认可用服务以及开放沟通的意愿,并鼓励用户继续互动。
</think>

谢谢你的夸奖!很高兴能为您效劳。有什么需要我帮忙的吗?加油!继续努力哦~

>>>

2)chrome浏览器插件访问

插件是Page Assist - 本地 AI 模型的 Web UI,可以在chrome插件市场搜索添加到浏览器, 添加之后就可以选择本地DeepSeek-7b模型对话了,截图如下:

图片图片

3)chatbox访问

首先需要下载安装chatbox,下载地址是:https://chatboxai.app/zh?c=download-mac-intel,下载安装之后,需要选择ollama API接入本地DeepSeek-7b大模型,截图如下:

图片图片

配置好之后,就可以对话了:

图片图片

3. 总结

本地部署起来之后,就可以尽情享用DeepSeek大模型,因为如果你直接访问ai.com或者是https://chat.deepseek.com/进行对话,服务器经常会报错,像这样:

图片

所以想深度体验一把还是部署到本地,没人跟你抢占资源,自个儿玩吧。

责任编辑:武晓燕 来源: 堆栈future
相关推荐

2023-07-22 13:44:26

AI代码

2011-12-28 21:12:10

移动支付

2024-10-30 08:31:36

Next.js高效性能

2017-11-02 10:15:12

时间 1元

2021-10-29 10:04:15

云计算勒索软件云服务

2016-09-10 08:20:09

IBM

2012-10-25 13:46:42

2021-10-15 11:28:06

物联网边缘计算IoT

2019-07-25 06:49:26

2024-07-17 08:27:29

2023-05-11 14:07:29

2023-12-06 11:24:02

2023-08-04 08:00:00

ControlNet医学图像

2020-11-19 17:36:10

IT 运营

2023-06-02 10:36:59

2020-08-19 09:45:10

IBMAIOps混合多云管理

2024-02-23 16:12:47

2013-08-14 10:43:37

2016-09-27 10:13:42

游戏物联网

2022-09-30 13:09:32

VSLookVS Code工具
点赞
收藏

51CTO技术栈公众号