news 2026/8/22 7:37:40

LangChain+HITL实战:构建安全可信的AI决策系统

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
LangChain+HITL实战:构建安全可信的AI决策系统

文章探讨了AI系统决策权增加背景下,“Human In The Loop”(HITL)机制的重要性。完全"无人值守"的自动化在高风险场景下不可靠,而HITL通过引入人类判断,既能发挥机器效率优势,又能借助人类对复杂情境的理解。文章介绍了LangChain的HITL中间件实现,包括工具调用匹配检查、中断触发、状态保存和人工决策流程(批准、修改、拒绝)。作者分享了在AgentHub项目中引入HITL机制的具体代码实现,为开发者提供了实用参考。


随着人工智能和自动化系统在各行各业加速落地,机器正被赋予越来越多“决策权”。然而,现实世界远比算法训练时的环境复杂。一次误判的风控拦截,可能冻结正常用户的账户;一次错误的医疗模型判断,可能影响患者的治疗方案;在自动驾驶场景中,哪怕极小概率的异常,也可能带来严重后果。当决策具备高风险、高责任或高度不确定性时,完全“无人值守”的自动化往往并不可靠。

正因如此,Human In The Loop(HITL,人机协作)成为连接算法与现实世界的重要机制。通过在关键节点引入人类的判断、审核和反馈,系统既能发挥机器在效率和规模上的优势,又能借助人类对上下文、伦理和异常情况的理解,避免“看似合理却实际错误”的决策。HITL 并不是对自动化的否定,而是让人类智慧成为智能系统的一部分,使其在真实环境中更加安全、可信和可控。

LangChain 的Human-in-the-Loop(HITL,人机协作)中间件允许我们为 Agent 的工具调用加入人工监督。当模型提出一个可能需要审核的动作时——例如写入文件或执行 SQL——该中间件可以暂停执行并等待人工决策。

它的工作方式是:将每一次工具调用与一套可配置的策略进行匹配检查。如果判定需要人工介入,中间件会触发一个 interrupt(中断),从而停止执行流程。此时,当前的执行图状态会通过 LangGraph 的持久化机制进行保存,确保执行可以被安全地暂停,并在之后恢复。

随后,由人工给出决策来决定下一步行为:

  • 可以直接批准并按原样执行(approve),
  • 可以在执行前修改该动作的参数(edit),
  • 也可以拒绝执行并提供反馈信息(reject)。

Agent 在收集到审核人相应的决策(决策以列表形式提供,每个待审核的操作对应一个决策。)之后,再恢复执行整个流程。

在这个视频中我介绍了在《AgentHub更新:LangGraph+千问实现Adaptive RAG系统》之后引入的 HITL 机制实现:

  • 首先最大的改动在于前端页面,我新增了一个用于等待用户审核的弹框组件;
  • 其次为了在页面上展示需要用户审核的信息,我在后端新增了展示中断的 InterruptMessage 消息类型;
  • 第三在处理中断后的输入中新增了 Command 来恢复中断执行。

AI时代,未来的就业机会在哪里?

答案就藏在大模型的浪潮里。从ChatGPT、DeepSeek等日常工具,到自然语言处理、计算机视觉、多模态等核心领域,技术普惠化、应用垂直化与生态开源化正催生Prompt工程师、自然语言处理、计算机视觉工程师、大模型算法工程师、AI应用产品经理等AI岗位。

掌握大模型技能,就是把握高薪未来。

那么,普通人如何抓住大模型风口?

AI技术的普及对个人能力提出了新的要求,在AI时代,持续学习和适应新技术变得尤为重要。无论是企业还是个人,都需要不断更新知识体系,提升与AI协作的能力,以适应不断变化的工作环境。

因此,这里给大家整理了一份《2025最新大模型全套学习资源》,包括2025最新大模型学习路线、大模型书籍、视频教程、项目实战、最新行业报告、面试题等,带你从零基础入门到精通,快速掌握大模型技术!

由于篇幅有限,有需要的小伙伴可以扫码获取!

1. 成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础(书籍含电子版PDF)

3. 大模型视频教程

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

4. 大模型项目实战

学以致用,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。

5. 大模型行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

6. 大模型面试题

面试不仅是技术的较量,更需要充分的准备。

在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

为什么大家都在学AI大模型?

随着AI技术的发展,企业对人才的需求从“单一技术”转向 “AI+行业”双背景。企业对人才的需求从“单一技术”转向 “AI+行业”双背景。金融+AI、制造+AI、医疗+AI等跨界岗位薪资涨幅达30%-50%。

同时很多人面临优化裁员,近期科技巨头英特尔裁员2万人,传统岗位不断缩减,因此转行AI势在必行!

这些资料有用吗?

这份资料由我们和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。


大模型全套学习资料已整理打包,有需要的小伙伴可以微信扫描下方CSDN官方认证二维码,免费领取【保证100%免费】

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/20 21:41:15

[Python] 使用 Tesseract 实现 OCR 文字识别全流程指南

在图像处理、文档数字化、发票识别等场景中,OCR(Optical Character Recognition,光学字符识别)技术应用广泛。而在 Python 中,借助开源工具 Tesseract,我们可以快速构建强大的文字识别系统。 本文将手把手…

作者头像 李华
网站建设 2026/8/22 5:26:44

Langchain-Chatchat构建电力行业规程查询系统案例

基于 Langchain-Chatchat 构建电力行业智能规程查询系统 在电力系统运行维护中,技术人员每天都要面对大量技术标准、安全规程和操作手册。比如《电力安全工作规程》这类文件动辄上百页,查找“高压设备停电检修的安全措施”可能需要翻阅多个章节&#xff…

作者头像 李华
网站建设 2026/8/22 17:54:52

Cisco 300-515 認證考試介紹(CCNP Service Provider 專項

背景概述思科(Cisco)旗下的 300-535 Automating and Programming Cisco Service Provider Solutions(SPAUTO)認證考試,是獲取 CCNP Service Provider 與 Certified DevNet Professional 等高級專業認證的核心組成部分。…

作者头像 李华
网站建设 2026/8/21 15:56:49

70、Windows 7系统维护与问题解决全攻略

Windows 7系统维护与问题解决全攻略 1. 系统清理 1.1 程序清理与系统还原清理 系统中存在许多不再使用的程序和多余的系统还原点、影子副本,占用了大量磁盘空间。程序清理可以移除不用的程序,系统还原和影子副本清理则能删除除最新还原点和影子副本之外的所有内容。 在进…

作者头像 李华
网站建设 2026/8/21 23:06:13

71、Windows 7 系统问题检测、解决与备份指南

Windows 7 系统问题检测、解决与备份指南 1. 系统诊断框架介绍 Windows 7 内置了强大的诊断框架,旨在监控操作系统和计算机硬件组件。该框架包含多个组件,具体如下: | 组件名称 | 功能描述 | | — | — | | 应用兼容性警报 | 警告可能不兼容的程序 | | 磁盘故障监控 |…

作者头像 李华
网站建设 2026/8/21 23:06:14

72、Windows 7 数据备份与恢复指南

Windows 7 数据备份与恢复指南 在使用 Windows 7 操作系统时,数据备份和恢复是保障系统稳定和数据安全的重要环节。本文将详细介绍如何创建手动还原点、配置自动备份、管理备份设置以及在遇到问题时如何进行数据恢复。 1. 创建手动还原点 为开启系统保护的所有驱动器创建手…

作者头像 李华