AI启新程④ | 守住安全到走向融合

本期《对话·AI启新程》节目，嘉宾们围绕“守住安全到走向融合”这一核心命题，解答了“电力AI如何安全应用”这一难题，描绘了“AI最终将走向哪里”的美好蓝图，直指具身智能是未来电力AI的重要形态之一。

说到AI，安全是绕不过去的话题。金院长，我们主要面临哪些安全风险？

最近大家讲得比较多的就是大语言模型存在幻觉，即大模型答非所问。如果一个知识库的问答没有经过精心治理，或精心的数据清洗和规则制定，很容易出现用户问一个问题，大模型回答错误答案的情况。

第二，从大模型的角度去看，使用大模型，你要通过检索一个知识库，来返回一个结果。如果有人向这个知识库里掺杂一些他想要引导消费者购买的东西，返回出来的结果就会被操纵。今年“3·15”的时候，就有这样一个数据投毒的案例。

第三，不仅是大语言模型，我们通常的AI模型预测、识别、决策，很多都是基于数据去做训练，数据本身从哪来？数据是不是隐含了企业机密信息？如果表面上不隐含，用户是否可能通过数据推断出机密信息？这类数据泄露，也是需要注意的地方。

现在还有一些推荐算法，如广告推荐，可能是打广告的、付了钱的人去推荐，这就叫算法偏见。算法是有偏见的，不能公平地把人们想要的东西推荐给别人。这也是我们用AI模型的时候需要注意的一些安全性问题。

董主任，在AI应用的安全保障方面，咱们有没有什么工作部署？

AI跟我们电力专业的各个部门、专业都有深度的关系。

对于变电巡视一类人员，通过变电站现场发现的缺陷图像，研发专业的大模型和小模型，以改变远程巡视模式。对于企业办公人员，通过“苏电智伴”等工具进行连接，改变现有业务实现方式。对于现场作业人员，借助具身智能到现场巡视和检修，让AI在现场的作业中发挥作用。

但未来，真正需要我们自己攻克的，是电力输变配里的具身智能：要打通技术环节，要有一个云端的大脑。就跟刚才说的大模型一样，需设计一个具身智能大模型，类似特斯拉的“大脑”一样，部署在云端。

还要一个能到现场去的机器人或机器狗，它不仅是一个简单的设备，实际上它是身体上装了一个跟大脑连接和复刻的小脑，它具备到现场、在本地指挥集成作业的能力，它还搭载了很多深度相机、蓝牙、声纹相机等传感设备去感知物理世界，感知变压器有没有放电、温度有没有升高、设备状态是否异常。它还要有比较复杂的行走能力、复杂的机械手操作能力。它要有本地通信功能，能够通过无线、有线方式与数据连接，并将数据回传云端。

刚才听了董主任和徐总的介绍，我深刻意识到电网在整个AI的基础设施、数据、上层应用等方面，都构建了完善的体系架构。

相比之下，高校的一些研究是在“点”上面做，可能是提高一下性能，或是增加一点效率等。而电网是一个大而全的工程性项目体系，所以我觉得高校技术跟电网技术在未来也有很多可以结合的地方。

就我自身而言，一直在做计算机网络和大数据处理相关研究工作。这几年在智能体方面，特别是数据治理、数据质量以及智能数据知识库的构建方面，也要多向电网学习，希望能把我们“点”上面的前沿技术应用上去。