乐于分享
好东西不私藏

影子 AI 大扫除:企业看不见的智能体与监管风暴

影子 AI 大扫除:企业看不见的智能体与监管风暴

SHADOW AI · 企业 AI 治理

影子 AI 大扫除:企业看不见的智能体与监管风暴

59% 影子 AI · EU AI Act 正式执法 · 国内合规红线

⚠️ 阅读须知(必读):本文为安全治理与检测技术分析,素材来自 2026 年 8 月公开报告与新闻(ArmorCode《State of AI Risk Management 2026》、Mimecast Agent Risk Center、EU AI Act 执法动态、Astrix 与 KnowBe4 的检测方法论、绿盟《大模型安全白皮书》及国内监管通报)。文中所有检测命令、日志查询与治理动作,均应在已获授权的企业自有环境内实施;对未授权目标的探测、扫描与数据获取在部分国家/地区属违法行为,后果自负。

0x00 · 引言:AI 已经"地下化"了

先看三组数字。

ArmorCode 与 Purple Book 联合发布的《State of AI Risk Management 2026, AI风险管理状态 2026》调研了数百家组织90% 的组织声称自己"看得见"内部所有 AI 使用,但实际检测发现 59% 的组织存在影子 AI(Shadow AI)——感知与现实之间差了 31 个百分点。更扎心的是:70% 的 AI 生成代码漏洞,最终进入了生产环境

Mimecast 的 Agent Risk Center 数据更夸张:98% 的组织存在未经批准(unsanctioned)的 AI / Agent 使用。也就是说,"完全干净"的组织比例,可能比"被入侵过"的组织还低。

"影子 IT"是二十年的老话题——员工自己装个网盘、拉条专线、开个免费账号。但影子 AI 不一样:它不是一台设备、一个软件,而是一群有身份的、会调 API 的、能替你执行动作的"数字员工"

  2026 年开源社区里 OpenClaw 类个人智能体框架大热(嘶吼等媒体有专题报道),把门槛打到零:一个本地进程 + 一个个人 API key,就能自动读邮件、操作浏览器、调用工具;

  员工在 ChatGPT 里粘贴生产代码、把客户名单喂给免费的"AI 周报生成器"、给不知名插件授予邮箱读取权限;

  开发团队用 Codex / Cursor / Copilot 批量产出代码,却没人审查 AI 生成的那几万行。

影子 AI 的危害早就不是"效率工具被滥用"那么简单。本文按"为什么危险 → 怎么发现 → 监管怎么说 → 怎么治理"四步把这件事讲透,并给出可以直接抄的检测命令与治理清单。

0x01 · 影子 AI 为什么危险

1.1 数据外泄:你公司的数据正在"投喂"别人家模型

影子 AI 的第一风险是数据外泄,且渠道比想象的多:

渠道
典型场景
泄露的数据类型
网页端粘贴
员工把代码、日志、文档复制进 ChatGPT / Claude 等
源码、密钥、客户信息
API / 插件授权
给第三方 AI 插件授予邮箱、网盘、CRM 读取权限
邮件、文档、客户数据
智能体"顺手"行为
本地 Agent 按提示词把企业数据发给模型 API
任意可达数据
深度伪造工具
用未备案换脸 / 变声应用处理内部素材
生物特征、内部影像

一线检测视角:不要假设"员工不会贴敏感数据",要假设"已经贴了"。DLP 规则里如果还没有 AI 域名清单,就等于对最大的外发通道睁一只眼闭一只眼。

1.2 供应链:AI 生成的代码正在成为你的攻击面

《State of AI Risk Management 2026》里最值得警惕的数字是 70%——AI 生成代码中的漏洞,十有七八进了生产。原因不难理解:

  AI 编码工具默认"生成即信任",IDE 里没有强制审查关卡;

  开发者对 AI 代码的审查力度低于手写代码("它看起来对");

  AI 训练数据里含漏洞模式(SQL 注入、路径穿越、反序列化),模型会把它们"风格化"地复现;

依赖混淆:AI 会编造不存在的包名,攻击者抢注同名包即可供应链投毒。

给安全团队的操作含义:代码仓库里新增的 AI 生成代码块,应当作为"新攻击面"而不是"效率红利"来对待。SCA(软件成分分析)与 SAST 扫描范围要覆盖所有 AI 辅助提交的代码;对 AI 生成的依赖项(尤其"听起来合理"的生僻包)做人工核验。

1.3 合规:8 月 2 日,欧盟开始动真格了

2026 年 8 月 2 日,EU AI Act 进入新的执法阶段,两项与所有企业直接相关的透明度义务开始落地:

深度伪造内容必须标注:AI 生成的图片、音频、视频内容必须显著标识——企业对外发布的营销物料、客服录音、视频素材都在射程内;

聊天机器人必须自证 AI 身份:任何与用户交互的 AI 系统(客服机器人、销售助手、对外 Copilot 入口)都必须明确告知"你是 AI",不得伪装成真人

对在国内运营、同时服务欧盟客户的企业,这意味着:你连"用没用 AI"都不是自己说了算,而是要能举证——标注体系、日志留存、披露流程都得有。这不是"加分项",是执法项。

1.4 黑灰产视角:影子 AI 是诈骗与数据黑市的原材料

从一线对抗视角看,影子 AI 还喂肥了黑灰产:

  公安部近期通报处置 37 款违规 AI 应用,点名问题集中在未履行备案义务、违规收集个人信息、深度合成内容未标识等——这些应用的共性,就是"绕过监管通道直接面向用户";

  换脸、变声、AI 钓鱼话术生成器被用于社工与电信诈骗,员工收到的"老板语音"可能全是合成的;

  企业侧未受控的 AI 账号与 API key,本身就是黑市商品:撞库、盗号、倒卖额度,一条龙。

所以影子 AI 治理不是"IT 洁癖",而是数据安全、供应链安全、合规与反诈四条线的交汇点

1.5 智能体特有的风险:从"内容风险"到"动作风险"

传统 AI 工具(网页聊天、代码补全)的风险止步于"内容":模型回答有毒、代码有漏洞、数据被投喂。智能体(Agent)把风险推进到了"动作"层——它不止输出文本,还会拿着身份去执行操作:

工具调用滥用:Agent 按提示词调用内部 API(发邮件、改数据库、下单),提示词里的指令就是它的"操作手册";

提示注入放大:网页内容、邮件正文、文档里的恶意指令可以劫持 Agent 的后续行为——员工打开的每个网页都可能是 Agent 的钓鱼饵;

身份冒充:影子 Agent 用员工 / 服务账号身份做事,出事后审计日志里"人"是员工,"动作"却是 Agent 发的——责任认定和取证都变得困难;

权限蔓延:为了"让它干活",有人给 Agent 挂了超出任务所需的权限,而这恰恰是攻击者最喜欢的入口。

这就是为什么治理影子 AI 不能停留在"封域名、禁工具":在 Agent 时代,每一个未受管制的身份 + 工具调用组合,都是一个潜在的横向移动入口。发现(0x02)与身份治理(2.4 节)必须同步做。

0x02 · 发现方法论:把影子 AI 从地下挖出来

Astrix 在 2026 年的报告中提出四类 Agent 发现方法,KnowBe4 则给出了六个检测引擎的思路。两者结合,就是一套可落地的发现矩阵。

2.1 四种方法总览(Astrix)

方法
主要数据源
能发现什么
局限
① 网络流量分析
DNS 日志、HTTP / 代理日志、NTA
AI 域名访问、API 调用、数据外发
加密流量看不清内容,需 TLS 解密或靠域名 / 指纹
② SSO / SaaS 审计
Okta、Entra ID 等 IdP 登录日志、企业应用清单
员工用企业身份登录的 AI 应用、OAuth 授权
只覆盖"走 SSO"的,个人账号直连看不到
③ 身份目录审计
AD / Entra ID / LDAP、服务账号清单
非人类身份(NHI)、被授予高权限的 Agent 身份
需要先知道"哪些身份是 Agent"
④ 终端遥测
EDR、Sysmon、浏览器管理策略
本地 Agent 进程、浏览器扩展、命令行调用
覆盖面取决于 EDR 装机率

组合拳才是关键:单一方法都有盲区,四者交叉关联(同一台终端同时命中 DNS 与进程特征)才能定性"这是影子 AI,不是误报"。

2.2 方法一:网络流量——先从 DNS 日志下手

DNS 是成本最低、见效最快的入口。几乎所有 AI 服务都有专属域名,员工用个人账号直连(不走 SSO)时,DNS 日志几乎是唯一能看到的痕迹

# 从企业 DNS 解析日志中统计访问 AI 服务的内网 IP(2026-08 常见清单)

zgrep -Ei 'chatgpt\.com|openai\.com|anthropic\.com|claude\.ai|perplexity\.ai|gemini\.google\.com|copilot\.(github|microsoft)\.com' \

  /var/log/dns/*.log \

  | awk '{print $1, $2}' | sort | uniq -c | sort -rn | head -50

对应 SIEM 查询(伪 SQL,按平台改写):

SELECT client_ip, qname, COUNT(*) AS hits

FROM dns_logs

WHERE qname LIKE '%chatgpt.com' OR qname LIKE '%claude.ai'

   OR qname LIKE '%anthropic.com' OR qname LIKE '%perplexity.ai'

GROUP BY client_ip, qname

HAVING hits > 10          -- 过滤偶然访问,聚焦"日常使用"

ORDER BY hits DESC;

HTTP 层再看两个细节:

API 直连api.openai.comapi.anthropic.comapi.deepseek.com 等端点出现非白名单来源 IP 的频繁调用,往往是有人用脚本 / Agent 在调——顺藤摸瓜查进程与凭证;

用户代理特征:OpenClaw 类框架、各厂商 CLI(如 claudecodex)的 User-Agent 通常带可识别标识,代理日志里按 UA 特征过滤即可。

提示聊天界面域名 ≠ 数据外发域名。ChatGPT 网页是 chatgpt.com,但 API 与文件上传走 openai.com 子域;DLP 与代理策略要覆盖整组域名,别只封一个。

如果代理能记录 HTTPS 请求,可以再加一条聚合规则——"单 IP 短时间内高频调用模型 API 端点"是脚本 / Agent 在跑的典型信号,与真人网页聊天(低频、有思考间隔)特征明显不同:

# Sigma 风格检测规则(思路级,按环境适配)

detection:

  selection:

    http.url|contains:

      - api.openai.com

      - api.anthropic.com

      - api.deepseek.com

  timeframe: 5m

  condition: selection and count(distinct http.url) > 50 by src_ip

命中后不要直接封 IP(可能是共享出口),而是下钻查进程与凭证:这台机器上谁在调、用的什么 key、调了什么模型、有没有把企业数据塞进请求体——这一步要结合 2.5 的终端遥测才能闭环。

2.3 方法二:SSO 审计——看"企业身份"都授权了什么

员工如果图省事用企业邮箱注册 AI 服务(或用企业 SSO 登录),IdP 日志就是现成的账本:

# Okta / Entra ID 登录日志:筛选 AI 类应用

WHERE app_name IN ('OpenAI', 'ChatGPT Enterprise', 'Anthropic Claude',

                   'Perplexity', 'Gemini', 'Copilot', 'Notion AI', ...)

  AND result = 'success'

GROUP BY user, app_name

重点看两类对象:

01个人邮箱注册、但用企业邮箱验证的账号——这是"半影子"状态,合规上最难举证;

02OAuth 授权清单:员工点过"允许此应用访问"的第三方应用。导出 IdP 的企业应用列表 + consent 记录,能还原"谁的账号授权了哪个 AI 应用读什么数据"。权限过大(如邮箱全读、网盘全读)的一律回收。

2.4 方法三:身份目录——盯住"非人类身份"

Agent 要干活,就必须有身份:服务账号、API key、机器人账号。影子 Agent 常用的注册手法是在身份目录里申请一个"看起来正常"的服务账号,然后拿它调模型 API、读数据库。

审计要点:

  列出 90 天内有模型 API 调用记录的服务账号 / 非人类身份(NHI),逐个人工确权;

  关注新建即高权限的服务账号(创建后 24 小时内被授予管理员 / 读库权限);

  清理长期未轮换的 API key——影子 Agent 最喜欢偷"闲置但有效"的凭证。

2.5 方法四:终端遥测——进程、命令行与浏览器扩展

EDR / Sysmon 是发现"本地跑着的 Agent"的最直接手段。OpenClaw 类框架、AI CLI 工具都有可识别的进程名与命令行特征:

# Sysmon EventID 1(进程创建)特征匹配(思路级,按环境调整)

Image|CommandLine contains any of:

  claude, codex, copilot, cursor, openclaw, aider,

  llm, agent, "gpt-", "anthropic", "openai"

# 可疑父子关系:浏览器/编辑器 派生 终端 → 派生 AI CLI

ParentImage = (chrome|msedge|Code).exe

AND Image = (cmd|powershell|python|node).exe

AND CommandLine contains "claude|codex|openclaw"

浏览器扩展是另一个重灾区——"AI 助手"类扩展权限极大(读全部网页、读剪贴板、改请求头)。用浏览器管理策略(Chrome Enterprise / Edge 策略)导出扩展清单:

# 管理后台导出已安装扩展清单(CSV)

# 字段:扩展名 / 版本 / 权限声明,重点筛 "read all data on websites"

如果浏览器允许,也可以直接读扩展的 manifest 做离线审计——权限声明就写在 permissions 字段里:

{

  "name": "AI Email Assistant",

  "version": "1.2.3",

  "permissions": [

    "storage", "activeTab",

    "<all_urls>",            // ← 读全部网站数据

    "clipboardRead",         // ← 读剪贴板

    "webRequest"             // ← 可改写请求(含认证头风险)

  ]

}

<all_urls> + clipboardRead + webRequest 三件套同时出现,基本可以认定是高危扩展——无论它叫"AI 助手"还是"效率工具"。

终端侧的三条红线

01  出现未收录的 AI CLI / Agent 进程且由业务用户运行 → 先隔离网络再询问;

02个人 API key 硬编码在脚本 / 环境变量里(EDR 扫 api_keysk- 特征)→ 立即轮换并查调用记录;

03  权限声明含"读取所有网站数据"的 AI 类扩展 → 强制卸载或替换为企业批准版本。

2.6 KnowBe4 的六个检测引擎

KnowBe4 提出的六个检测引擎,本质上是对上面四方法的工程化封装,建议按此建检测能力矩阵:

#
检测引擎
覆盖
主要数据源
1
网络发现引擎
AI 域名 / API 访问
DNS、代理、NTA
2
端点遥测引擎
Agent 进程、CLI、扩展
EDR、Sysmon、浏览器策略
3
SaaS 应用发现引擎
未批准 SaaS / AI 应用
CASB、SSO 应用清单
4
身份与授权引擎
OAuth 授权、NHI、服务账号
IdP、身份目录
5
数据防泄漏引擎
敏感数据流向 AI 端点
DLP、邮件 / 网盘外发审计
6
行为分析引擎
异常外发、非常规时段调用
UEBA、SIEM 关联

落地顺序建议:先 1 和 2(见效最快,一周内能出第一批发现),再 3、4(补齐 SaaS 与身份面),最后 5、6(收敛误报、做行为基线)。六个引擎的输出统一进 SIEM,用"同一资产命中 ≥2 个引擎"作为人工介入的阈值,能把误报压到可接受水平。

0x03 · 监管风暴:EU AI Act 与国内红线

3.1 EU AI Act:2026-08-02 起,透明度义务开始执法

EU AI Act 的执法是分阶段推进的,而 2026 年 8 月 2 日这个节点,轮到的是面向"所有人"的透明度义务:

义务
要求
谁受影响
深度伪造标注
AI 生成的图片 / 音视频必须显著标识(含隐性元数据)
所有对外发布 AI 内容的组织
聊天机器人自证
与人类交互的 AI 必须明确告知自己是 AI
客服、销售、对外 Copilot 入口

对企业(尤其有欧盟业务的企业)的三点直接影响:

01举证责任倒置:不是"被发现违规才处理",而是你要能证明自己合规——标注记录、披露日志、模型使用清单都要留存;

02供应商传导:采购的 AI 客服、营销工具若不合规,责任会沿合同传导到采购方,采购合同里要加 AI 合规条款;

03与影子 AI 直接挂钩:影子 AI 恰好是最难举证的部分——你根本不知道员工在用哪个模型生成对外内容,怎么保证标注?EU AI Act 的执法压力,本身就是影子 AI 治理的强驱动

处罚力度上,EU AI Act 按违规严重程度设置了阶梯式罚款,最严重的违规(违反禁止性条款)可达全球年营业额的 7%,一般义务违规为 3% 或 2%——对企业不是"罚个零头"的量级。另一个容易被忽视的点是执法由各成员国监管机构执行,不同国家的落地节奏会有差异,但"以谁为准"的合规判断不能等到被约谈那天才做。

3.2 国内红线:备案、标识、通报

国内对生成式 AI 的监管框架已经成型,三条线直接约束企业:

01生成式 AI 备案:向境内公众提供生成式 AI 服务(含通过 API 包装提供服务),须履行《生成式人工智能服务管理暂行办法》规定的备案义务——企业自建的内部助手如果面向员工开放,也要评估是否落入备案范围;

02深度合成标识:《互联网信息服务深度合成管理规定》要求深度合成内容显著标识——与 EU AI Act 的"深度伪造标注"方向一致,做一套标识体系可以两边复用;

03执法通报常态化:公安部近期通报处置 37 款违规 AI 应用,问题集中在未备案、违规收集个人信息、深度合成未标识——监管已进入"批量点名"阶段,企业内部若存在同类违规使用,被通报只是时间问题。

绿盟《大模型安全白皮书》在智能体风险章节的提醒值得单独划重点:智能体把"大模型的输出"变成了"系统的动作",风险从内容层(输出有害文本)上升到权限层与工具调用层(Agent 拿着身份去调 API、改数据、发消息)。这意味着:传统内容安全审核解决不了 Agent 风险,必须叠加身份治理与工具调用审计——这也解释了为什么上文 2.4 节(身份目录审计)在 Agent 时代如此重要。

嘶吼对 OpenClaw 等开源智能体的报道则提示了另一面:这类框架门槛极低、可完全本地化运行,不产生任何企业 DNS / SSO / SaaS 记录,只有终端遥测能看到。对安全团队来说,这类"纯本地影子 Agent"是发现难度最高的一类——能覆盖它的只有 EDR 装机率与终端管控策略,这也是为什么 2.5 节要单独成节。

3.3 一句话总结监管态势

合规的底层逻辑已经变了:从"管服务"变成"管使用"。 欧盟盯着企业怎么用 AI(标注、自证),国内盯着谁在提供 AI(备案、标识)——两头一夹,企业"不知道员工在用哪些 AI"这件事本身,就成了合规风险。

0x04 · 可落地治理清单:从发现到闭环

下面这张清单按"发现 → 定性 → 处置 → 常态化"四阶段展开,动作、数据源、验收标准都给了,可以直接拿去当工作项拆解。

阶段
动作
工具 / 数据源
验收标准
① 发现
DNS 日志建 AI 域名基线(含 API 子域),输出 TOP 访问者清单
DNS 解析日志、SIEM
首周产出一份"企业 AI 使用地图"(用户 × 服务 × 频率)
① 发现
EDR 全量扫描 AI CLI / Agent 进程与命令行特征
EDR、Sysmon EventID 1
终端上所有 AI 相关进程均有归属人与审批记录
① 发现
导出浏览器扩展清单,筛"读全部网站数据"的 AI 类扩展
Chrome / Edge 企业策略
高风险扩展 100% 被标记或卸载
① 发现
审计 SSO 登录日志与 OAuth 授权,圈出"企业身份 × AI 应用"矩阵
Okta / Entra ID
每个 AI 应用都有明确的业务 owner 与批准状态
② 定性
对命中 ≥2 个引擎的资产做交叉研判,人工确认"影子 AI vs 误报"
SIEM 关联规则
高危影子 AI 案例全部建档(用户、服务、数据面)
② 定性
检查模型 API 调用中的敏感数据特征(密钥、身份证号、客户字段)
DLP、代理日志、API 网关审计
确认数据外泄面:哪些数据、流向哪个服务、量多大
③ 处置
高风险影子服务直接阻断(DNS / 代理封禁 + 身份禁用),低风险的纳入审批流程
DNS 策略、IdP 条件访问、CASB
阻断清单与批准清单互斥,无"既没批又没断"的灰色项
③ 处置
轮换受影响凭证:查硬编码 API key、重用账号的密码
EDR 扫描、凭证管理
涉及账号 100% 轮换并记录审计日志
④ 常态化
建"AI 应用准入清单":白名单之外一律默认阻止,申请走审批
代理策略、IdP
新增 AI 服务必须进清单才能被使用
④ 常态化
采购与法务流程加 AI 合规条款(EU AI Act 标注义务、国内备案 / 标识)
采购合同、法务 checklist
新采购的 AI 服务均附合规评估结论
④ 常态化
员工教育 + 月度"影子 AI 周报"(发现数、处置数、数据面变化)
SIEM 报表
管理层每月能看到趋势,而不是一次性报告

三个容易踩的坑:

01只封不禁:把 AI 域名全封了,员工转头用个人热点 + 手机——影子 AI 只会更隐蔽。正确姿势是"白名单 + 审批",而不是"全封禁";

02只发现不处置:出一份影子 AI 报告就完事,等于把风险清单又存了一遍——每个发现都要落到"阻断 / 批准 / 观察"三个桶之一;

03忘掉 API 面:网页聊天好管,api.openai.com 的脚本调用才是数据外发主力——API 端点必须和网页域名一起进白名单策略

4.1 一旦确认影子 AI 数据外泄:应急处置顺序

如果定性阶段确认了敏感数据外泄(0x04 表"② 定性"行命中),按以下顺序处置,别跳步:

① 止血:吊销涉事 API key / 账号,DNS 与代理侧阻断涉事服务域名;

② 取证:保留 DNS、代理、EDR 与 IdP 日志,锁定时间窗(首次调用 ~ 阻断时刻);

③ 界定:按 DLP 命中与请求体审计确认外泄数据面(哪些表、哪些字段、多少条);

④ 通报:按《数据安全法》《个人信息保护法》及行业要求评估通报义务与时限;

⑤ 复盘:查这条影子链路是怎么建立起来的(谁开的账号、谁批的权限),

   补上对应审批口子,避免同类事件换个工具再来一遍。

核心原则:先停流量,再谈追责。 影子 AI 事件里"人"往往只是图方便,但数据一旦进了第三方模型训练管道就基本不可控——处置窗口是按小时计的。

0x05 · 结语

影子 AI 的本质,是AI 能力的使用速度,超过了企业的治理速度。90% 的"我们看得见"与 59% 的"实际有影子 AI"之间的落差,不是安全团队失职,而是工具形态变了:从"网页聊天"到"有身份的智能体",从"员工自觉"到"Agent 自动调用"——旧的管理手段天然失效。

对安全团队:先用 0x02 的方法把发现能力建起来(DNS + EDR 最快见效),再用 0x04 的清单把流程闭环。发现能力是治理的前提,没有清单的治理都是空谈

对管理层:EU AI Act 8 月 2 日已开始执法,国内备案与标识红线已明——"不知道员工在用哪些 AI"本身就是一个合规缺口,这不是技术问题,是治理问题;

对一线:70% 的 AI 生成漏洞进了生产,意味着代码审查与供应链扫描必须覆盖 AI 提交;影子 AI 治理的每一分投入,都会在数据外泄与供应链事件里加倍还回来。

🚫 禁止滥用:本文全部内容仅用于企业自有环境的检测、治理与防御建设。未经授权扫描、探测、窃取他人系统与数据属违法犯罪行为。请做合规的安全研究者。

参考与来源说明

01  ArmorCode / Purple Book — State of AI Risk Management 2026(90% 声称可见 vs 59% 存在影子 AI;70% AI 生成代码漏洞进入生产);

02  Mimecast — Agent Risk Center(98% 组织存在未经批准的 AI / Agent 使用);

03  EU AI Act — 2026-08-02 执法阶段(深度伪造内容标注、聊天机器人自证 AI 身份);

04  Astrix — Agent 发现方法论(网络流量 / SSO / 身份目录 / 终端遥测四方法);

05  KnowBe4 — 六个 AI 检测引擎思路;

06  绿盟科技 —《大模型安全白皮书》(智能体风险章节);

07  公安部 — 违规 AI 应用通报(37 款应用处置);

08  嘶吼 — OpenClaw 等开源个人智能体框架专题报道;

09  文中检测命令与查询为思路级示例,落地时请按本环境日志格式与平台语法调整。

赛博57库 · AI 安全治理 · 本文基于 2026 年 8 月公开报告与新闻整理,观点仅代表作者技术分析。