基于RAG与Qwen大模型构建金融问答机器人：从原理到工程实践

🚀 30+款热门AI模型一站整合，DeepSeek/GLM/Claude 随心用，限时 5 折。 👉 点击领海量免费额度

1. 先搞清楚“新手入门”到底要解决什么问题

看到“80K星标”和“最适合新手入门”这种标题，很多人的第一反应是去找一个“手把手、保姆级、从零到一”的安装配置教程。但如果你真这么做了，大概率会陷入“教程从入门到放弃”的循环：跟着教程装了一堆环境，跑了个“Hello World”示例，然后呢？面对一个真实项目需求，依然不知道从哪里下手。

所以，在动手之前，我们必须先明确目标。一个真正适合新手的AI大模型教程，核心不是教你如何安装Python、配置CUDA，或者跑通一个最简单的文本生成。它的核心价值在于帮你建立一套“从问题到解决方案”的工程化思维框架。让你知道，当你拿到一个需求（比如“做一个金融问答机器人”）时，你应该思考什么、选择什么、按什么顺序去实现。

基于这个目标，这篇教程会围绕一个具体的项目案例——金融大模型问答机器人——来展开。我不会只给你一堆零散的命令和代码片段，而是会带你走完一个应用开发工程师的完整思考和实践路径。你会看到，从技术选型、环境搭建，到核心模块实现、效果优化，再到最后的部署上线，每一步背后的“为什么”和“怎么做”。

2. 项目拆解：从需求到技术栈的映射

在开始写任何一行代码之前，我们必须把模糊的需求翻译成清晰的技术任务。假设我们接到的需求是：“开发一个金融领域的智能问答机器人，能基于公司内部文档（如产品手册、财报、研报）和公开金融知识，准确、安全地回答用户问题。”

这个需求可以拆解为以下几个核心子任务：

1. 理解用户问题：将自然语言问题转化为机器可处理的形式。
2. 检索相关知识：从海量文档中快速找到与问题最相关的片段。
3. 生成可信答案：结合检索到的知识和模型自身能力，生成专业、准确的回答。
4. 保障安全与可控：避免模型“胡说八道”（幻觉），并确保不泄露敏感信息。
5. 提供稳定服务：构建一个可供外部调用的API服务。

现在，我们把技术栈映射到这些任务上：

为什么选这个技术栈？

• LLM选Qwen：对于新手和国内团队，Qwen系列（如Qwen2.5-7B/14B）是极佳的起点。它完全开源、中文能力强、社区活跃，且对硬件要求相对友好。用API（如OpenAI）虽然省事，但成本高、数据出境有风险，且不利于理解底层原理。从学习角度，强烈建议从开源模型开始。
• 框架选LangChain + FastAPI：LangChain封装了LLM应用开发的常见模式（如RAG、Agent），能极大减少重复劳动。FastAPI则能快速构建出高性能、易调试的API。这个组合能让你快速搭建出可用的原型。
• 核心机制选RAG：对于金融、法律等强知识依赖的领域，RAG是目前平衡效果、成本和安全性的最佳实践。它避免了重新训练大模型的巨大成本，又能通过更新知识库来保证信息的时效性和准确性。

3. 环境准备：不只是安装Python和CUDA

很多教程把环境准备简化为“安装Anaconda和PyTorch”。但对于大模型应用，这远远不够。你需要的是一个可复现、可管理、资源清晰的环境。

3.1 硬件与系统资源评估

这是新手最容易踩坑的地方。不是所有机器都能跑所有模型。

1. GPU显存：这是硬门槛。一个粗略的估算公式是：模型运行所需显存 ≈ 模型参数量（B） × 量化后参数位数（Bytes） × 1.5。

   • 例如，运行Qwen2.5-7B的INT4量化版。7B参数，INT4即每个参数占0.5字节。理论显存：7 * 0.5 * 1.5 ≈ 5.25 GB。这意味着你至少需要一张6GB以上显存的显卡（如RTX 2060 12G, RTX 3060 12G）。
   • 如果想跑Qwen2.5-14B的INT4量化版：14 * 0.5 * 1.5 ≈ 10.5 GB，需要11GB以上显存的卡（如RTX 3080 12G, RTX 4080 16G）。
   • 重要提示：这个公式只估算模型加载的显存。实际运行时，输入文本（上下文）、中间计算（KV Cache）还会占用额外显存。保险起见，预留2-4GB的余量。如果你的问题很长（比如超过4000个token），余量要留得更多。

2. 内存（RAM）：至少需要16GB。加载向量数据库、处理文档时，内存占用会飙升。推荐32GB以上。

3. 磁盘空间：模型文件很大。一个7B的FP16模型约14GB，INT4量化后约4GB。加上Python环境、依赖包、知识库文档，建议预留50GB以上的可用空间。

3.2 软件环境搭建（以Linux/Windows WSL2为例）

我建议使用Conda进行环境隔离，用Ollama或vLLM来运行模型，这比直接调用PyTorch原生日志更清晰、部署更简单。

# 1. 创建并激活Conda环境 conda create -n finance_qa python=3.10 conda activate finance_qa # 2. 安装PyTorch（根据你的CUDA版本，去官网复制命令） # 例如，CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 3. 安装核心应用框架和库 pip install langchain langchain-community langchain-chroma # LangChain核心及Chroma向量库 pip install fastapi uvicorn[standard] # API服务 pip install sentence-transformers # 用于Embedding模型 pip install pypdf python-docx markdown # 文档加载器支持 pip install tiktoken # Token计数 # 4. 安装模型运行框架（二选一） # 方案A：使用Ollama（最简单，适合快速原型） # 先去 https://ollama.com 下载安装Ollama # 然后在终端拉取并运行模型 ollama pull qwen2.5:7b ollama run qwen2.5:7b # Ollama会启动一个本地API服务（默认11434端口） # 方案B：使用vLLM（性能更高，适合生产部署） pip install vllm # 启动vLLM服务 python -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen2.5-7B-Instruct \ --served-model-name qwen2.5-7b \ --api-key token-abc123 \ --port 8000 # vLLM提供了OpenAI兼容的API接口

环境选择建议：

• 纯新手/快速验证：用Ollama。它帮你处理了模型下载、加载、GPU内存优化等所有脏活累活，你只需要关心调用API。
• 追求性能/生产部署：用vLLM。它的连续批处理（Continuous Batching）技术能极大提高吞吐量，节省显存，但配置稍复杂。

4. 核心实现：一步步构建金融问答机器人

现在，我们开始用代码把项目搭起来。我会把整个过程拆解成几个独立的模块，你可以逐个实现和测试。

4.1 第一步：搭建知识库（RAG的核心）

知识库不是简单的一堆TXT文件，而是需要被向量化并建立索引的数据库。

# file: knowledge_base.py import os from langchain_community.document_loaders import DirectoryLoader, PyPDFLoader, TextLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain_community.embeddings import HuggingFaceEmbeddings from langchain_community.vectorstores import Chroma from langchain_community.embeddings import OllamaEmbeddings # 如果用Ollama class KnowledgeBase: def __init__(self, persist_directory="./chroma_db", embedding_model_name="BAAI/bge-small-zh-v1.5"): """ 初始化知识库 :param persist_directory: 向量数据库持久化目录 :param embedding_model_name: 用于生成向量的模型 """ self.persist_directory = persist_directory # 使用开源的BGE模型做Embedding，中文效果好 self.embeddings = HuggingFaceEmbeddings( model_name=embedding_model_name, model_kwargs={'device': 'cuda'}, # 如果有GPU encode_kwargs={'normalize_embeddings': True} # 归一化，提升检索效果 ) # 或者，如果你用Ollama，可以用它的Embedding # self.embeddings = OllamaEmbeddings(model="nomic-embed-text") self.vectorstore = None self.text_splitter = RecursiveCharacterTextSplitter( chunk_size=500, # 每个文本块的长度 chunk_overlap=50, # 块之间的重叠，避免上下文断裂 separators=["\n\n", "\n", "。", "！", "？", "；", "，", " ", ""] # 中文优先的分隔符 ) def load_and_split_documents(self, data_dir="./data"): """加载并分割文档""" loaders = [] # 支持多种格式 if os.path.exists(os.path.join(data_dir, "pdf")): loaders.append(DirectoryLoader(os.path.join(data_dir, "pdf"), glob="**/*.pdf", loader_cls=PyPDFLoader)) if os.path.exists(os.path.join(data_dir, "txt")): loaders.append(DirectoryLoader(os.path.join(data_dir, "txt"), glob="**/*.txt", loader_cls=TextLoader)) all_docs = [] for loader in loaders: docs = loader.load() all_docs.extend(docs) print(f"共加载 {len(all_docs)} 个原始文档") # 分割文档 split_docs = self.text_splitter.split_documents(all_docs) print(f"分割后得到 {len(split_docs)} 个文本块") return split_docs def create_vectorstore(self, documents, force_recreate=False): """创建向量存储""" if not force_recreate and os.path.exists(self.persist_directory): # 加载已存在的向量库 print(f"加载已存在的向量库从 {self.persist_directory}") self.vectorstore = Chroma( persist_directory=self.persist_directory, embedding_function=self.embeddings ) else: # 创建新的向量库 print("创建新的向量库...") self.vectorstore = Chroma.from_documents( documents=documents, embedding=self.embeddings, persist_directory=self.persist_directory ) self.vectorstore.persist() print("向量库就绪。") return self.vectorstore def similarity_search(self, query, k=4): """在知识库中检索相似内容""" if self.vectorstore is None: raise ValueError("请先创建或加载向量库。") docs = self.vectorstore.similarity_search(query, k=k) return docs # 使用示例 if __name__ == "__main__": kb = KnowledgeBase() # 1. 把你的金融文档（PDF、TXT）放到 ./data/pdf 或 ./data/txt 目录下 # 2. 加载并分割文档 docs = kb.load_and_split_documents("./data") # 3. 创建向量库（第一次运行会慢，因为要生成向量） vectorstore = kb.create_vectorstore(docs, force_recreate=True) # 4. 测试检索 test_query = "什么是市盈率？" results = kb.similarity_search(test_query, k=2) for i, doc in enumerate(results): print(f"\n--- 结果 {i+1} ---") print(doc.page_content[:200]) # 打印前200个字符

关键点解析：

• 文档分割（Chunking）：这是RAG效果的基石。chunk_size=500意味着每个文本块约500个字符。太小会丢失上下文，太大会引入噪声。金融文档（如财报）中表格和数字多，可能需要更精细的分割策略。
• Embedding模型：我们选了BAAI/bge-small-zh-v1.5，这是一个在中文语义相似度任务上表现很好的开源模型。它的作用是把一段文本变成一个固定长度的向量（一串数字），语义相似的文本，其向量在空间中的距离也更近。
• 向量数据库：Chroma是一个轻量级、易用的选择，数据直接保存在本地./chroma_db目录。生产环境可以考虑Qdrant、Weaviate或Milvus，它们支持分布式和更高级的检索功能。

4.2 第二步：连接大语言模型（LLM）

我们将通过LangChain来统一调用不同的模型，这样以后切换模型（比如从Qwen换成GPT）只需要改一行配置。

# file: llm_client.py import os from langchain_openai import ChatOpenAI from langchain_community.chat_models import ChatOllama from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser class LLMClient: def __init__(self, model_type="ollama", base_url=None, api_key=None, model_name=None): """ 初始化LLM客户端 :param model_type: 'ollama' 或 'openai' (兼容vLLM) :param base_url: API基础地址，如 http://localhost:11434 或 http://localhost:8000/v1 :param api_key: API密钥（对于OpenAI格式的API） :param model_name: 模型名称 """ self.model_type = model_type if model_type == "ollama": # 连接本地Ollama服务 self.llm = ChatOllama( base_url=base_url or "http://localhost:11434", model=model_name or "qwen2.5:7b", temperature=0.1, # 温度越低，输出越确定。金融问答需要稳定性。 num_predict=512, # 最大生成token数 ) elif model_type == "openai": # 连接OpenAI API或兼容OpenAI的API（如vLLM、通义千问API） self.llm = ChatOpenAI( base_url=base_url, # 例如 vLLM: "http://localhost:8000/v1" api_key=api_key or "your-api-key", # 如果是vLLM，可随意填 model=model_name or "Qwen2.5-7B-Instruct", temperature=0.1, max_tokens=512, ) else: raise ValueError(f"不支持的model_type: {model_type}") # 定义一个简单的提示词模板 self.prompt_template = ChatPromptTemplate.from_messages([ ("system", "你是一个专业的金融领域助手，请根据提供的上下文信息，用中文清晰、准确地回答用户的问题。如果上下文信息不足以回答问题，请如实告知，不要编造信息。"), ("human", "上下文：\n{context}\n\n问题：{question}") ]) # 构建一个简单的链：提示词 -> 模型 -> 字符串输出 self.chain = self.prompt_template | self.llm | StrOutputParser() def generate_with_context(self, context, question): """结合上下文生成答案""" return self.chain.invoke({"context": context, "question": question}) def generate(self, question): """直接生成答案（无上下文）""" # 这里可以定义另一个不依赖上下文的提示词 direct_prompt = ChatPromptTemplate.from_messages([ ("system", "你是一个专业的金融领域助手，请用中文清晰、准确地回答用户的问题。如果你不知道答案，请如实告知。"), ("human", "{question}") ]) direct_chain = direct_prompt | self.llm | StrOutputParser() return direct_chain.invoke({"question": question}) # 使用示例 if __name__ == "__main__": # 使用Ollama client = LLMClient(model_type="ollama", model_name="qwen2.5:7b") # 使用vLLM (假设已启动在8000端口) # client = LLMClient(model_type="openai", base_url="http://localhost:8000/v1", model_name="Qwen2.5-7B-Instruct") # 测试直接生成 answer = client.generate("请解释一下什么是货币政策？") print("直接生成答案：", answer[:200]) # 测试结合上下文生成 fake_context = "货币政策是中央银行为实现特定经济目标（如稳定物价、促进经济增长）而采用的控制和调节货币供应量和信用量的方针、政策和措施的总称。主要工具包括公开市场操作、存款准备金率、再贴现率等。" answer_with_ctx = client.generate_with_context(fake_context, "货币政策的主要工具有哪些？") print("\n结合上下文答案：", answer_with_ctx)

关键点解析：

• 统一接口：无论底层是Ollama、vLLM还是云厂商API，我们都通过LangChain的ChatOpenAI或ChatOllama来调用，这大大提高了代码的可移植性。
• 提示词工程（Prompt Engineering）：prompt_template是核心。我们明确告诉模型：1) 你的角色；2) 答案来源（上下文）；3) 行为准则（不胡编）。这是控制模型输出质量、减少“幻觉”的最有效手段之一。
• 温度（Temperature）：设置为0.1，这是一个较低的值，让模型的输出更确定、更保守，适合金融这类需要准确性的领域。如果做创意写作，可以调到0.7或更高。

4.3 第三步：组装RAG链

现在我们把知识库检索和LLM生成组装起来，形成一个完整的“提问-检索-回答”管道。

# file: rag_chain.py from knowledge_base import KnowledgeBase from llm_client import LLMClient class FinancialQABot: def __init__(self, kb_persist_dir="./chroma_db", llm_config=None): """ 初始化金融问答机器人 :param kb_persist_dir: 知识库向量存储路径 :param llm_config: LLM客户端配置字典 """ if llm_config is None: llm_config = {"model_type": "ollama", "model_name": "qwen2.5:7b"} self.knowledge_base = KnowledgeBase(persist_directory=kb_persist_dir) # 尝试加载现有向量库 try: self.knowledge_base.create_vectorstore([], force_recreate=False) except Exception as e: print(f"加载现有向量库失败，可能需要重新创建: {e}") self.knowledge_base.vectorstore = None self.llm_client = LLMClient(**llm_config) def answer_question(self, question, use_knowledge=True, top_k=4): """ 回答问题 :param question: 用户问题 :param use_knowledge: 是否使用知识库 :param top_k: 从知识库中检索几条相关内容 :return: 答案，以及使用的上下文（用于溯源） """ context = "" if use_knowledge and self.knowledge_base.vectorstore: try: # 1. 检索相关知识 relevant_docs = self.knowledge_base.similarity_search(question, k=top_k) # 2. 将检索到的文档内容拼接成上下文 context = "\n\n".join([doc.page_content for doc in relevant_docs]) print(f"[检索到 {len(relevant_docs)} 条相关上下文]") # 3. 结合上下文生成答案 answer = self.llm_client.generate_with_context(context, question) return answer, context except Exception as e: print(f"知识库检索或生成失败: {e}，将退化为直接生成。") # 降级处理：直接问模型 return self.llm_client.generate(question), "" else: # 不使用知识库，直接生成 print("[未使用知识库，直接生成]") return self.llm_client.generate(question), "" # 使用示例 if __name__ == "__main__": # 初始化机器人 bot = FinancialQABot() questions = [ "公司的净资产收益率（ROE）是如何计算的？", "请简述一下美联储加息对A股市场可能产生的影响。", "什么是绿色债券？", ] for q in questions: print(f"\n{'='*50}") print(f"问题：{q}") answer, used_context = bot.answer_question(q, use_knowledge=True) print(f"答案：{answer}") if used_context: print(f"\n（答案基于以下上下文生成：\n{used_context[:300]}...）") # 只打印前300字符

关键点解析：

• 降级策略：在answer_question方法中，如果知识库检索失败（比如向量库不存在），我们会自动降级为让模型直接生成答案。这是一个重要的工程鲁棒性设计，确保服务不会因为某个模块故障而完全不可用。
• 可解释性：我们返回了used_context，即模型生成答案时所依据的原文片段。这对于金融、医疗等严肃领域至关重要，用户可以追溯答案来源，验证可信度。
• 检索数量（top_k）：top_k=4是一个经验值。太少可能信息不足，太多可能引入无关噪声。你可以根据答案质量进行调整。

4.4 第四步：用FastAPI封装成服务

一个本地脚本还不够，我们需要一个能通过网络被调用的API服务。

# file: api_server.py from fastapi import FastAPI, HTTPException from pydantic import BaseModel from rag_chain import FinancialQABot import uvicorn # 定义请求和响应的数据模型 class QuestionRequest(BaseModel): question: str use_knowledge: bool = True top_k: int = 4 class AnswerResponse(BaseModel): answer: str success: bool error_message: str = "" context_used: str = "" # 初始化FastAPI应用和机器人 app = FastAPI(title="金融问答机器人API", version="1.0.0") # 注意：全局初始化，启动时加载模型和向量库，会有启动时间 bot = FinancialQABot() @app.post("/ask", response_model=AnswerResponse) async def ask_question(request: QuestionRequest): """接收问题，返回答案""" try: answer, context = bot.answer_question( question=request.question, use_knowledge=request.use_knowledge, top_k=request.top_k ) return AnswerResponse( answer=answer, success=True, context_used=context[:1000] # 限制返回上下文长度 ) except Exception as e: # 记录详细日志到文件或监控系统 print(f"处理问题 '{request.question}' 时出错: {e}") raise HTTPException(status_code=500, detail=str(e)) @app.get("/health") async def health_check(): """健康检查端点""" return {"status": "healthy", "service": "financial_qa_bot"} if __name__ == "__main__": # 启动服务，监听所有网络接口的8000端口 uvicorn.run(app, host="0.0.0.0", port=8000)

关键点解析：

• API设计：我们定义了一个简单的/ask端点。使用POST方法并接收JSON body是RESTful API的常见做法。同时提供了/health端点用于健康检查，这在部署到云服务或容器编排（如K8s）时非常有用。
• 错误处理：用try...except包裹核心逻辑，并将异常转化为HTTP 500错误和友好的JSON响应，避免服务崩溃。
• 全局初始化：在服务启动时（bot = FinancialQABot()）就加载模型和知识库。虽然这会增加启动时间，但避免了每次请求都重复加载，显著提升了响应速度。对于大型模型和知识库，这是标准做法。

启动与测试：

1. 确保你的模型服务（Ollama或vLLM）已经在运行。
2. 确保你的知识库已经构建好（运行过knowledge_base.py的create_vectorstore）。
3. 在终端运行：python api_server.py
4. 使用curl或 Postman 测试：

   curl -X POST "http://localhost:8000/ask" \ -H "Content-Type: application/json" \ -d '{"question": "什么是市盈率？", "use_knowledge": true}'

5. 你应该会收到一个包含answer和context_used字段的JSON响应。

5. 从“能跑”到“好用”：效果优化与进阶思考

让机器人跑起来只是第一步。要让它在实际场景中“好用”，我们还需要考虑以下问题：

5.1 效果优化：解决“答非所问”和“幻觉”

• 问题1：检索不准。用户问“苹果公司财报”，结果检索出“吃苹果的好处”。
  • 优化方案：
    1. 优化Embedding模型：尝试BAAI/bge-large-zh-v1.5或text-embedding-ada-002（如果可用），它们对语义的理解更精准。
    2. 使用重排序（Rerank）：在Embedding初步检索出Top K（比如20个）结果后，再用一个更精细的Rerank模型（如BAAI/bge-reranker-large）对这20个结果重新打分排序，只取最相关的Top 3给LLM。这能显著提升精度，但会增加一点延迟。
    3. 优化文本分割（Chunking）：尝试按段落、按章节分割，或者使用更智能的语义分割器（如LangChain的SemanticChunker）。
• 问题2：模型“幻觉”。即使给了正确的上下文，模型还是自己编造数字或事实。
  • 优化方案：
    1. 强化系统提示词（System Prompt）：在提示词中更严厉地约束模型，例如：“你必须严格依据提供的上下文信息回答问题。上下文中没有提及的信息，一律回答‘根据已知信息无法回答该问题’。禁止任何形式的捏造和推测。”
    2. 使用思维链（Chain-of-Thought）：在提示词中要求模型先复述或引用上下文中的关键证据，再基于此推导答案。这增加了可解释性，也能让模型更“专注”。
    3. 后处理校验：对于关键事实（如财报数字、日期），可以尝试用规则或小模型进行二次提取和校验。

5.2 性能与成本优化

• 模型量化：如果你在本地运行，INT4量化是性价比最高的选择。它几乎不损失精度，却能减少50%-75%的显存占用和提升推理速度。使用AutoGPTQ或llama.cpp可以轻松量化大多数开源模型。
• 缓存：对于常见、重复的问题（如“公司简介”），可以将问答对缓存起来（用Redis或内存缓存），下次直接返回，避免重复调用LLM和检索。
• 异步处理：FastAPI天然支持异步。如果你的知识库检索或LLM调用有网络I/O，使用async/await可以大幅提高并发处理能力。

5.3 走向生产：安全、监控与迭代

• 输入输出过滤：对用户输入进行敏感词过滤、长度限制，防止提示词注入攻击。对模型输出也要进行合规性检查。
• 访问控制（鉴权）：给你的API加上API Key验证，避免被滥用。FastAPI可以很方便地集成HTTPBearer等安全中间件。
• 日志与监控：记录每一个问题的请求和响应、耗时、Token使用量。这不仅是排查问题的依据，更是你优化效果和评估成本的数据基础。可以接入Prometheus + Grafana。
• 知识库更新：金融信息日新月异。你需要设计一个流程，定期或触发式地更新你的知识库向量。可以考虑监听文件目录变化，或者提供一个管理API来增量更新。
• A/B测试：当你尝试新的提示词、新的Embedding模型或新的LLM时，不要直接全量替换。可以通过用户ID哈希等方式进行小流量A/B测试，用数据（回答准确率、用户满意度）来决定哪个方案更好。

6. 总结：新手入门的正确路径

回过头看，一个“神级”的入门教程，其价值不在于它收集了多少命令，而在于它是否提供了一条清晰的、可复现的、能引发深度思考的路径。

通过这个“金融问答机器人”项目，你走过的路径是：

1. 定义问题：将模糊需求拆解为“检索”和“生成”等具体技术任务。
2. 技术选型：根据任务和资源（显存、预算）选择合适的技术栈（Qwen + LangChain + FastAPI + RAG）。
3. 环境搭建：理解硬件门槛，选择正确的工具链（Ollama/vLLM），搭建可复现的环境。
4. 模块化实现：分而治之，先构建知识库，再连接LLM，然后组装成RAG链，最后封装为API服务。每一步都独立可测试。
5. 效果优化：从“能跑”到“好用”，针对准确性和幻觉问题，运用提示词工程、重排序等策略进行优化。
6. 生产化思考：提前考虑安全、监控、成本、迭代等工程问题。

这个项目案例就像一个“最小可行产品”（MVP），它包含了AI大模型应用开发的核心要素。你可以在此基础上无限扩展：

• 加入Function Calling，让机器人不仅能回答，还能调用计算器算利率、调用新闻API查行情。
• 引入LangGraph来编排更复杂的多步骤工作流，比如“先检索知识，再联网搜索，最后综合生成报告”。
• 对特定金融子领域（如财报分析）的数据进行LoRA微调，让模型成为这个领域的“专家”。
• 使用Dify这样的低代码平台，通过可视化拖拽快速搭建更复杂的AI Agent。

最后给新手的建议：不要一开始就追求大而全。先用这个最简单的框架，把你自己的文档（比如你的学习笔记、公司产品手册）灌进去，跑通整个流程。在真实的数据和问题上，你会遇到最具体的问题，而解决这些问题的过程，就是你真正入门和提升的过程。记住，在AI应用开发里，“动手跑起来”的价值，远大于“纸上谈兵”。

🚀 30+款热门AI模型一站整合，DeepSeek/GLM/Claude 随心用，限时 5 折。 👉 点击领海量免费额度