谨防国外情报机构通过新型AI工具收集情报-夜雨聆风

谨防国外情报机构通过新型AI工具收集情报

近年来，随着生成式人工智能的快速发展，各类AI工具如雨后春笋般涌现。从写作助手、代码生成工具到会议记录、数据分析平台，这些AI工具极大提高了工作效率。作为新型的安全工具，我们并不了解他本身存在哪些漏洞，研发背后的动机是什么，是否受雇于某情报机构，尤其是开源软件。与此同时，一个不容忽视的风险也逐渐浮出水面——部分国外情报机构可能借助AI工具开展隐蔽的信息收集活动。

对于普通用户来说，这些工具看起来只是提升效率的“生产力神器”；但从情报工作的视角来看，它们却可能成为一种新的情报获取渠道。相比传统的社工钓鱼、漏洞利用、发展内鬼等方式，这种方式更加隐蔽、成本更低、成功率更高。

本文尝试从情报工作视角，解密几种可能存在的“AI情报收集模式”，并提出相应的防范措施。

一、AI工具正在成为新的情报入口

传统情报收集通常依赖几种方式：

●网络攻击与漏洞利用

●社会工程学攻击

●开源情报（OSINT）收集

●内部人员策反或渗透

而在AI时代，AI工具正在成为新的信息入口。原因很简单：

用户会主动把信息输入进去。

当人们使用AI工具写材料、分析数据、翻译文档、生成代码时，往往会把大量原始资料直接粘贴到AI系统中，AI还会进一步诱导用户输入更清晰的信息，抓住人们懒惰的心理，这又涉及到心理学了，AI也会读懂人性。文档包括：

●工作方案

●内部报告

●技术文档

●项目数据

●业务资料

从情报机构角度来看，这是一种“用户主动提供情报”的渠道。

如果这些AI工具背后的数据处理、存储或日志记录机制被利用，就有可能成为情报收集的重要来源。

二、通过AI工具推广实现“数据入口”

第一种方式是通过推广AI工具建立数据入口。

一些AI工具会通过以下方式迅速扩大用户规模：

1、媒体推广

通过科技媒体、自媒体平台、社交媒体大量宣传某款AI工具：

●“效率神器”

●“办公必备AI”

●“一键生成报告”

●“自动写代码”

当用户看到这些宣传后，往往会主动下载安装并使用。

但问题在于，很多用户并不会仔细阅读隐私政策或数据使用条款，也不会深入了解这些工具的数据处理方式。

在这种情况下，一旦工具本身具备数据采集能力，就可能获取大量用户数据。或者自身的漏洞被利用，操控AI工具获取数据。

2、SEO投毒

另一种常见方式是通过SEO优化技术。

攻击者会通过搜索引擎优化手段，他们会通过大量文章或关键词，增加搜索引擎的收录量或排名，或者采用付费的方式直接提高排名，让某些AI工具在搜索结果中排名靠前，用户大多数觉得搜索引擎排名靠前的就是靠谱的信息，也是一种认知幻觉，都是可以被人为操纵的。例如：

●AI写作工具

●AI翻译工具

●AI会议助手

●AI代码生成工具

当用户在搜索引擎中查找这些工具时，很容易点击排名靠前的网站。

如果这些网站背后存在数据收集或恶意代码，就可能导致：

●用户数据被上传

●浏览器信息被收集

●终端信息被记录

这类技术在网络安全领域被称为SEO投毒攻击。

3、GEO优化（生成式引擎优化）

随着生成式AI的发展，一种新的攻击方式正在出现——GEO（Generative Engine Optimization）。

所谓GEO，就是通过各种手段让某些内容被大模型“学习”，从而影响AI生成结果。

例如：

●向开源数据集注入内容

●通过大量网页影响训练语料

●在知识库中植入特定信息

当用户向AI提问时，AI可能推荐某些特定工具或网站。

如果这些工具本身具有数据收集能力，就可能形成新的情报入口。

换句话说，用户不是通过搜索引擎进入，而是通过AI推荐进入。

三、诱导用户主动上传敏感数据

相比直接窃取数据，情报机构更喜欢一种方式：

让用户主动提供数据，AI也擅长人性分析，通过用户的提问诱导用户。

AI工具恰恰提供了这样的机会。

在实际工作中，很多人会使用AI处理以下任务：

●总结会议纪要

●编写汇报材料

●翻译内部文档

●分析业务数据

●编写代码

为了获得更好的结果，用户往往会直接上传文件，例如：

●PPT

●Word报告

●Excel数据

●技术文档

这些文件中可能包含大量敏感信息，例如：

●项目规划

●技术细节

●组织架构

●联系方式

●客户信息

如果这些数据被记录、存储或分析，就可能形成情报价值。

四、AI+大数据分析形成完整情报链

即使单个数据看起来价值不高，但通过大数据分析技术可以形成完整情报链。

情报机构通常会通过以下流程进行分析：

1、数据采集

来源包括：

●AI工具使用数据

●网络日志

●公开数据

●社交媒体数据

●开源情报

2、数据清洗

对采集的数据进行：

●去重

●结构化处理

●标签化

●数据归类

3、关联分析

通过数据关联技术，可以推导出很多信息，例如：

●某机构的组织结构

●某项目的技术路线

●某团队的研究方向

●某产品的研发进度

4、情报验证

最后通过其他渠道进行验证，例如：

●开源情报

●网络扫描

●社交工程

最终形成可用情报。

这套流程其实就是AI + OSINT（开源情报）+ 大数据分析的组合。

五、典型风险场景

在实际工作中，以下几类场景风险较高：

1、AI写作工具

上传：

●工作报告

●内部文件

●会议纪要

可能导致敏感信息泄露。

2、AI代码助手

开发人员可能会：

●上传源代码

●上传配置文件

●上传日志

这可能导致：

●代码泄露

●密钥泄露

●系统架构暴露

3、AI会议助手

很多AI会议工具会自动：

●录音

●转写

●总结

如果会议内容涉及敏感信息，也存在泄露风险。

4、AI数据分析工具

一些人员会把Excel、数据库导出文件直接上传到AI平台进行分析。

这些数据往往具有较高价值。

六、如何防范AI情报收集风险

面对这种新型风险，需要从制度、技术和意识三个方面进行防范。

1、建立AI工具使用规范

单位应明确规定：

哪些AI工具可以使用

哪些AI工具禁止使用特别是：

●涉密单位

●科研机构

●关键基础设施单位

应建立AI工具白名单制度。

2、禁止上传敏感数据

明确规定：

禁止将以下内容上传至公共AI平台：

●内部文件

●涉密资料

●源代码

●客户数据

●项目资料

如果确需使用AI，应采用本地部署或私有化大模型。

3、加强AI安全意识培训

很多风险并不是技术问题，而是人员意识问题。

需要加强培训，让员工理解：

●AI平台可能记录数据

●上传文档可能被存储

●AI工具并非绝对安全

避免为了图方便而泄露数据。

4、加强终端安全检测

通过终端安全系统监测：

●未授权AI工具安装

●数据外传行为

●异常网络连接

及时发现潜在风险。

5、开展AI安全评估

在引入AI工具前，应进行安全评估，包括：

●数据存储位置

●隐私政策

●数据加密机制

●日志记录机制

确保符合安全要求。

七、结语

技术从来都是一把双刃剑。

AI工具在提高效率的同时，也可能被利用成为新的情报收集渠道。与传统网络攻击相比，这种方式更加隐蔽、更难察觉。

未来的情报战，很可能不再只是黑客攻击和漏洞利用，而是通过技术工具和数据分析进行长期、隐蔽的信息收集。

因此，在拥抱AI技术的同时，我们也必须提高警惕。

不要让效率工具，成为信息泄露的入口。

在AI时代，信息安全不仅是技术问题，更是每一个人的安全意识问题。

END

了解更多知识，欢迎关注ima知识库