四、智能体

先讲故事

Prompt、RAG、Agent、LLMOps——这些词在 2022 年之前，多半停在实验室内部备忘录和少数公司的演示里。要讲清这一章，先要讲清门是怎么被推开的，以及门推开之后，工程师发现预训练检查点本身并不够。

实验室里的能力，门外的人不会用

GPT-3 的论文已经展示：给几个例子，模型能在上下文里「学会」新任务。那是研究圈的兴奋。普通人不会去拼 few-shot 模板，也不会容忍模型一本正经地胡说公司内部的规定。能力在门里；产品在门外。

2022：对话框把研究词变成日常动作

2022 年底前后，对话界面把模型推到实验室外面。in-context learning、指令跟随，变成上亿人会用的动作：打开网页，打一行字，等回答。萨姆·奥特曼等人所在的产品化路线，以及紧随其后的各家助手，都站在这扇门后面。苏茨克维从 AlexNet 走到大规模预训练的那条线，在这一刻碰到了非研究者。时刻六 · 人物图谱 · 实验室与公司

门一开，三个工程问题同时砸到桌上：

1. 怎样圈住场景——系统提示词、角色、安全边界，避免模型跑出业务外；
2. 怎样补上私有知识——模型权重里没有你的工单与规章，Patrick Lewis 等人的 RAG（2020）把「先检索再生成」写成可引用的方法，向量库与重排从此变成标配；
3. 怎样让模型动手——搜索、代码、浏览器；Shunyu Yao 等人的 ReAct、Timo Schick 等人的 Toolformer，把「推理 + 行动」接进工作流。

这些名字在群像突破 · 第 4 章。智能体不是再发明一套注意力，而是把已经训好、对齐过的模型，接进真实世界的脏数据与慢接口；并在环境里行动、调用工具、根据反馈再试。

编排层：从 notebook 到可值班的服务

Harrison Chase 等人推动的 LangChain 一类编排、各家的 workflow 产品（本章会碰到 dify），解决的是另一层故事：演示可以在 notebook 里跑通，值班要求重试、日志、权限与成本。LLMOps 三个字，说的是门打开之后的运维现实。

读完故事再进本章

下面按提示词、工作流、Python 框架、检索与工具往下做；4.7 Agent 实战接 benchmark 与框架深挖。走不动时先回到时刻六：问「用户为什么突然需要这个」，再问「代码怎么写」。

1. 使用系统提示词来搭建专有场景问答

• 介绍如何利用系统提示词创建特定场景的问答应用

2. 使用 dify 快速搭建 workflow 应用

• 演示如何使用 dify 工具快速构建工作流应用

3. 使用 Python + 框架搭建问答应用

3.1 框架一：langchain

• 介绍 langchain 框架的基本使用方法

3.2 框架二：FastAPI

• 介绍如何使用 FastAPI 框架构建问答应用

4. 引入外部检索信息工具

4.1 引入 web 搜索

• 使用 tavily 接口进行 web 搜索
• 实践演示和最佳实践

4.2 引入论文搜索

• 使用 Python 工具 scholarly 进行学术论文搜索
• 参考案例复现和实践

4.3 引入爬虫信息

• 浏览器自动化技术实践
• 信息爬取最佳实践

4.4 引入自建知识库

• 构建简易的关键词检索系统
• 实现标签搜索功能
• 知识库管理最佳实践

5. 管理构建专属的知识库

5.1 多种向量库使用与推荐场景

• 不同向量库的特点分析
• 场景匹配与选择建议
• 性能对比与优化

5.2 不同文件格式知识处理

A. 切片分块

• 文件切片策略
• 分块处理技巧
• 性能优化方案

B. 概括（Summary）

• 文本概括技术
• 实现方法与示例
• 效果优化建议

C. 实体抽取

• 实体识别技术
• 抽取方法实践
• 准确率提升技巧

5.3 高级检索配置与调试

• 检索参数优化
• 性能调优技巧
• 问题排查方法

6. 输出结构控制

6.1 文本自动整理表格

• 表格结构设计
• 自动化处理流程
• 格式优化技巧

6.2 字幕文件翻译

• 字幕格式处理
• 翻译流程优化
• 质量控制方法

7. 综合实战：Deep Research 助手工具箱

主要内容

• Python GUI 界面设计
• 功能模块整合
• 工具箱架构设计
• 性能优化与部署