夜雨聆风学习资料网

ARTICLE · 1096277

智能爆炸-AI智能体安全深度研究报告 之软件

智能爆炸-AI智能体安全深度研究报告 之软件

前阵子,OpenAI、Anthropic、微软和Meta的四位核心科学家联名发了份预警。他们担心AI已经能自己写代码、调参、做实验了。再这么递归迭代下去,以后AI可能几周就更新一代,人类根本拦不住。

英伟达给出的解法很直接:软件防越权,硬件防失控。第一道防线是OpenShell沙箱,把每个AI关进独立房间,管住它的文件读写和外网访问。但这玩意儿依赖主机系统,一旦主机被攻破就失效。所以还得靠Sentry硬件看门狗兜底。它完全独立于CPU和GPU,就算主机沦陷了,也能毫秒级强制断网隔离。

落到A股这边,市场按这个思路在找对标。软件沙箱这块中孚信息最纯正,安恒信息和天融信也在跟进。硬件旁路这边,山石网科是自研芯片的龙头,奇安信则靠产业基金投了底层企业。另外致尚科技参股的恒扬数据,也是这条线里的稀缺标的。

原文智能爆炸-AI智能体安全深度研究报告 之软件沙箱与硬件旁路看门狗全产业链解析
广东,1小时前,

相关学习资料