黄鸿波,鼎盛方圆科技创始人,AI方向谷歌开发者专家,AI 应用与 Agent 工程专家。
多年软件与 AI 应用研发经验,曾在大型游戏公司负责 AI 技术,带领团队开发了推荐系统、智能问答、游戏强化学习对战机器人等产品,从 0 到 1 参与多个推荐系统项目。
著有《TensorFlow 进阶指南:基础、算法与应用》一书,并在极客时间开设《手把手带你搭建推荐系统》专栏。
近两年专注大模型应用与 Agent 工程,深入企业知识库、RAG、Agent Runtime 与私有化部署一线,解决系统从 Demo 走向生产环境时面临的安全工程问题。
企业把 Agent 接入文件、数据库、MCP 服务和代码执行环境时,风险便从“说错话”变成了“做错事”:网页中的隐藏指令可能诱导它读取敏感文件,恶意工具描述可能让它越权调用。开发团队需要把权限、审批、隔离和审计落实到执行链路中。这门课面向 AI 开发、后端、平台与安全工程师,带你从攻击复现出发,建立 Agent 安全工程化能力。
课程围绕一个能搜索网页、读取文件、调用工具的 Agent 展开。你会先亲手攻击它,再搭建 AI 安全网关原型。21 讲沿着同一项目,按“复现攻击—实现防御—回归验证”这条线推进。

第一部分:看清 Agent 的攻击面
从网页劫持入手,梳理提示词、上下文、工具与资源的信任边界,完成威胁模型和攻击面清单。
第二部分:防住提示词注入
复现网页、PDF 和 RAG 文档中的间接注入,再实现输入检测、上下文隔离与输出审查。
第三部分:管住工具权限
为工具标注读、写、执行权限,用策略引擎校验调用,为高风险操作加入人工审批。
第四部分:处理 MCP 新风险
复现工具描述投毒,识别恶意服务,搭建具备工具注册、参数校验和调用审计能力的 MCP 安全网关。
第五部分:守住执行环境与数据
用沙箱约束代码执行,处理密钥泄露、知识库投毒和越权检索。
第六部分:把防线做成持续机制
将攻击样例接入持续集成,整合风险评分、审计与自动化红队测试,完成网关原型。
学完你会获得:
下一次让 Agent 接入真实业务时,你就能回答:它能做什么、谁来批准、出了问题如何追踪、变更后怎样验证。

购买请联系微信/QQ
QQ 临时会话已不可用,请先添加好友再发送消息。