DeepSeek又开源R1部署最佳实践!

发布于 2025-2-17 09:36
浏览
0收藏

嘿,大家好!这里是一个专注于AI智能体的频道~ DeepSeek刚刚又发补给了,补给4件套。

包含2个配置项,不要设置system prompt + temperature 设置为0.6。

还有大家比较期待的官网的,接入搜索的R1的prompt设计及最佳用法!

以及如何缓解R1系列模型绕过思考的解决办法。

在DeepSeek 官网版本,没有使用系统提示词,而是为文件上传和网络搜索设计了两个特定的提示词以获得更好的用户体验。并且temperature设置为 0.6。

对于文件上传,请按照模板创建提示词,其中 {file_name}、{file_content} 和 {question} 是参数。

file_template = \
"""[file name]: {file_name}
[file content begin]
{file_content}
[file content end]
{question}"""

对于网络搜索,{search_results}、{cur_data} 和 {question} 是参数。

对于中文的用户问题,使用以下提示词:

search_answer_zh_template = \
'''# 以下内容是基于用户发送的消息的搜索结果:
{search_results}
在我给你的搜索结果中,每个结果都是[webpage X begin]...[webpage X end]格式的,X代表每篇文章的数字索引。请在适当的情况下在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。
在回答时,请注意以下几点:
- 今天是{cur_date}。
- 并非搜索结果的所有内容都与用户的问题密切相关,你需要结合问题,对搜索结果进行甄别、筛选。
- 对于列举类的问题(如列举所有航班信息),尽量将答案控制在10个要点以内,并告诉用户可以查看搜索来源、获得完整信息。优先提供信息完整、最相关的列举项;如非必要,不要主动告诉用户搜索结果未提供的内容。
- 对于创作类的问题(如写论文),请务必在正文的段落中引用对应的参考编号,例如[citation:3][citation:5],不能只在文章末尾引用。你需要解读并概括用户的题目要求,选择合适的格式,充分利用搜索结果并抽取重要信息,生成符合用户要求、极具思想深度、富有创造力与专业性的答案。你的创作篇幅需要尽可能延长,对于每一个要点的论述要推测用户的意图,给出尽可能多角度的回答要点,且务必信息量大、论述详尽。
- 如果回答很长,请尽量结构化、分段落总结。如果需要分点作答,尽量控制在5个点以内,并合并相关的内容。
- 对于客观类的问答,如果问题的答案非常简短,可以适当补充一到两句相关信息,以丰富内容。
- 你需要根据用户要求和回答内容选择合适、美观的回答格式,确保可读性强。
- 你的回答应该综合多个相关网页来回答,不能重复引用一个网页。
- 除非用户要求,否则你回答的语言需要和用户提问的语言保持一致。
# 用户消息为:
{question}'''

对于英文问题,提示词基本一致,存在个别细节描述的详细程度略有差异。

prompt地址:https://github.com/deepseek-ai/DeepSeek-R1/pull/399/files

最后是官方建议,为了确保模型进行充分的推理,可以建议强制要求模型在每次输出的开始都使用"<think>\n"进行响应。

新增加的指南地址:https://github.com/deepseek-ai/DeepSeek-R1/commit/7ca5e1e7f75e12a1c561fffaa6aa686708f881ae

DeepSeek又开源R1部署最佳实践!-AI.x社区

本文转载自​探索AGI​,作者: 猕猴桃 ​​

收藏
回复
举报
回复
相关推荐