使用 DeepSeek R1 和 Ollama 开发 RAG 系统（包含完整代码）

# 安装基础框架
ollama run deepseek-r1  # 默认使用7B模型
1.
2.

# 轻量级场景推荐1.5B版本
ollama run deepseek-r1:1.5b
1.
2.

import streamlit as st  
from langchain_community.document_loaders import PDFPlumberLoader  
from langchain_experimental.text_splitter import SemanticChunker  
from langchain_community.embeddings import HuggingFaceEmbeddings  
from langchain_community.vectorstores import FAISS  
from langchain_community.llms import Ollama
1.
2.
3.
4.
5.
6.

# 创建Streamlit文件上传组件
uploaded_file = st.file_uploader("上传PDF文件", type="pdf")

if uploaded_file:
    # 临时存储PDF文件
    with open("temp.pdf", "wb") as f:
        f.write(uploaded_file.getvalue())
    
    # 加载PDF内容
    loader = PDFPlumberLoader("temp.pdf")
    docs = loader.load()
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.

# 初始化语义分块器
text_splitter = SemanticChunker(
    HuggingFaceEmbeddings(model_name="all-MiniLM-L6-v2")
)

# 执行分块操作
documents = text_splitter.split_documents(docs)
1.
2.
3.
4.
5.
6.
7.

# 生成文本嵌入
embeddings = HuggingFaceEmbeddings()
vector_store = FAISS.from_documents(documents, embeddings)

# 配置检索器
retriever = vector_store.as_retriever(search_kwargs={"k": 3})
1.
2.
3.
4.
5.
6.

# 初始化本地模型
llm = Ollama(model="deepseek-r1:1.5b")

# 定义提示模板
prompt_template = """
根据以下上下文：
{context}

问题：{question}

回答要求：
1. 仅使用给定上下文
2. 不确定时回答"暂不了解"
3. 答案控制在四句话内

最终答案：
"""
QA_PROMPT = PromptTemplate.from_template(prompt_template)
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.

# 创建LLM处理链
llm_chain = LLMChain(llm=llm, prompt=QA_PROMPT)

# 配置文档组合模板
document_prompt = PromptTemplate(
    template="上下文内容:\n{page_content}\n来源:{source}",
    input_variables=["page_content", "source"]
)

# 构建完整RAG管道
qa = RetrievalQA(
    combine_documents_chain=StuffDocumentsChain(
        llm_chain=llm_chain,
        document_prompt=document_prompt
    ),
    retriever=retriever
)
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.

# 创建问题输入框
user_question = st.text_input("输入您的问题：")

if user_question:
    with st.spinner("正在生成答案..."):
        # 执行查询并显示结果
        response = qa(user_question)["result"]
        st.success(response)
1.
2.
3.
4.
5.
6.
7.
8.

# 示例：调整分块策略
text_splitter = SemanticChunker(
    embeddings, 
    breakpoint_threshold=0.85  # 调整语义分割阈值
)
1.
2.
3.
4.
5.

# 根据问题复杂度动态调整k值
def dynamic_retriever(question):
    complexity = len(question.split())
    return vector_store.as_retriever(search_kwargs={"k": min(complexity, 5)})
1.
2.
3.
4.

from langchain.retrievers import BM25Retriever, EnsembleRetriever

bm25_retriever = BM25Retriever.from_documents(documents)
ensemble_retriever = EnsembleRetriever(
    retrievers=[bm25_retriever, vector_retriever],
    weights=[0.4, 0.6]
)
1.
2.
3.
4.
5.
6.
7.