(八)你信任AI吗?或者你信任提供AI的公司吗?

AI火热到现在，除了AI能力的不断提升，还有一个话题持续火热，那就是隐私与安全。发迹于美国的AI技术，本身就围绕着极其注重隐私安全的前提去发展，但不代表这些公司在发展AI的过程，一定把保护用户的隐私和信息安全放在第一位。截至目前，只有Apple公司比较强硬的表明坚决保护用户隐私，但即便如此，Apple公司依旧遭遇过几次重大的信息泄露事件，甚至涉及到很多名人的隐私。

所以，涉及到IT技术，一定是不安全的！这是一个前提！所以只能养成自己的信息安全习惯。

在交流AIOS的隐私与安全之前，和大家交流一下DSP，不是数字信号处理，是**需求方平台，**主要进行的是广告投放管理，之前搜索引擎的竞价排名说的就是这个。为什么说这个呢，因为这本身就是早起的AI，而且涉及到很深的用户隐私与信息。

所谓广告投放，就是热门网站和APP，会开辟一些广告位，用来增加收益。这些广告位会被广告主竞价展示，也就是价高所得。比如互联网黄金期，新浪门户网站的主banner的广告价位据说为为一千万每天。但除了这些黄金广告位，还会有很多小广告位，比如之前网友诟病小米是广告手机，就因为小米OS里有太多的广告。

不知道你是否有疑问，因为你每天刷到的广告都比较精准，都可能是你最近在电商平台浏览或者购买过的类似商品，或者是你最近正好想了解的产品。这是因为本身广告产业就是一个联盟，这个里面包含所有你常用的APP或网站，也就是所有你的注册信息，喜好信息，购物信息，健身信息都已经在虚拟的网络里有一个映射。在这个联盟里，“31岁，女，广东人，162cm，50kg，喜欢听周杰伦，喜欢文艺电脑，喜欢读莎士比亚，也换简约服饰，热爱日本料理，喜欢labubu……甚至你的父母伴侣孩子的信息也和你在一个拓扑网络里。只是你作为这个网络的中心，互联网并没有关联你的姓名，身份证号，护照号等个人信息，但也并不是你的这些信息网络不知道。

所以，你个人的信息早就在网上了，这并不是危言耸听。这是说这些信息在被“合法”使用，通常不会对你带来危险与伤害。

回到AI，特别是AIOS，与之前不同的是，AI逐渐提升权限，除了你的信息，还会掌握你手机或电脑里的数据，比如照片，文档，录音，健康数据，联系人，信息，甚至一些三方APP的数据。但其实你个人的数据或者信息对于AI公司并没有价值，因为AI公司或者广告联盟是需要一整个人群的信息构成的数据集。所以AI公司并不会用你的信息去做什么。但这并不会减轻用户的担心。

很多公司在研究将Openclaw内置于端侧，或者训练端侧模型，用来解决信息安全的问题。这是一个比较好用的方式，但是端侧模型的能力有限，不可能完成所有任务，所以还是需要有大模型的能力去做支撑。不过很多常用任务，很适合用端侧模型去跑通，比如在（七）AI手机，买一只豆包，还是养一只龙虾中提到的任务。

所以，比较好办的办法是手机作为设备端，搭建好自己的AI架构。同时，训练自身的端侧模型，作为AI架构的大管家。对内执行类似Openclaw的功能，去7×24小时自助跑用户的常规任务。对外将内部信息脱敏后，发送给大模型进行任务处理，再将大模型返回的内容加权还原成用户需要的内容。

或许，你觉得自己是个普通人，自己的个人数据没有价值。但谁也无法保证大模型开发过程中没有居心不良的人参与其中。虽然大模型很难根据用户输入的数据重新学习和训练，但提交给大模型的数据很难确定是否被用于模型训练。因此，作为硬件设备，上面的端侧模型可以帮助用户了解或处理自身数据的使用方式。而且，也可以防止自己的数据被用于模型训练。或者可以制定出相应的保护措施。

大模型在为现在的世界提效的同时，也会为一些恶意的黑客提供便利。他们会根据大模型的机制，找到提示词的漏洞，从而让大模型输出不好的内容。同样的，黑客也可以通过类似的方式，让你的大模型去变成他的帮手，比如提供一些很长的提示词或者markdown文件，在其中嵌入恶意指令，这样就可能导致你的设备轻则信息泄漏，重则财产损失，甚至卷入法律风险。这也是Openclaw出现后，很多企业过于相信AI自动化，导致自己团队瞬间崩溃的风险之一。

这也是AIOS应该主动做好的一点，很重要的一点。在提供AI便利的同时，也帮用户守好设备的城墙。虽然现在世界各国政府的AI相关法案，还主要针对AI软件，但很快也会有覆盖硬件的对应法案。特别是欧盟国家，《欧盟人工智能法案》尤其严格，罚金最低3500万欧元，所以AIOS要很注重AI安全这一块。

做好这一点，不仅是让用户对AI放心，更是让用户对设备放心，对品牌放心。从而形成一个良性循环。

简单来说，用户，AI，设备作为一个三角循环，每一个点都制约着另外两个点。用户或许不关心，或者不知道如何关心安全。那设备就更要守好最后一道防线，甚至这是AIOS最重要的需要完成的一点。后面会针对AI架构单独的分析，讨论怎么实现安全防护。

我是久歌。

👁️我，一起学习AI。