上海 AI 实验室发布「书安」操作系统:AI 原生安全时代正式到来

当 AI 智能体以超乎想象的速度渗透进金融、政务、医疗等核心产业场景，我们不得不直面一个核心命题：谁来为狂奔的 AI，拴上可靠的 “安全缰绳”？

近日，上海人工智能实验室正式发布书安智能体操作系统（Intern-Shannon），这款以 “原生安全” 为核心的产品，彻底打破了 AI 行业 “先发展、后补安全” 的传统路径，与实验室此前享誉行业的 “书生” 大模型形成 “一智一防” 的双轮布局，宣告 AI 安全从 “外挂防护” 正式迈入 “内生免疫” 的全新阶段。

安全不是刹车，而是给 AI 装上 “原生安全引擎”

当前，智能体已成为大模型产业落地的核心载体，从企业级数字员工到行业自动化流程，AI 正在从 “对话工具” 变成能直接访问敏感数据、调用系统权限、执行关键操作的 “行动主体”。

与此同时，OpenClaw 安全漏洞、Claude Code 源码泄露、AI 供应链投毒等一系列安全事件频发，让行业清晰地看到：智能体在提升生产效率的同时，也将数据隐私泄露、权限越界、行为失控等风险放大到了前所未有的程度。

“AI 带来的风险依然在人类设置的围栏之中，但它冲向围栏的速度，的确比我们想象中更快。” 上海人工智能实验室主任助理、领军科学家胡侠直言，“聚焦安全领域并非要给 AI 踩刹车，而是要打造出‘原生安全的 AI’，让技术持续高速发展。”

正是基于这一核心理念，书安系统以 “安全即服务” 为底层模式，打造了一套安全、可信、可控的智能体运行底座，实现了一个核心目标：让智能体在充分释放执行效能的同时，始终运行在安全边界之内，为 AI 技术的产业落地筑牢安全根基。

三层硬核防护，重新定义 AI 安全的底层逻辑

不同于行业内普遍采用的 “后期叠加防护” 方案，书安系统从底层架构出发，构建了 “底层隔离 — 流程守护 — 认知进化” 三层递进式安全机制，实现了从系统硬件、执行流程到 AI 认知层面的全链条安全闭环。

第一层：硬件级隔离，给每个智能体配一个 “独立保险箱”

书安系统最底层的安全底座，是基于 Rust 和 MicroVM 技术自研的硬件级沙箱 A3S-Box。它就像银行为每位客户单独配置的保险箱，当智能体执行代码或敏感任务时，系统会在亚秒级内创建一个与外界完全隔离的轻量 “虚拟运行空间”，任务结束后即刻销毁，从根源上预防风险的交叉蔓延。

更关键的是，这套安全底座在性能上实现了行业级突破：

独立隔离环境生成速度较传统方案提升 10 倍以上；
系统内存占用仅为行业主流方案的 1/8；
完美适配国产芯片生态，支持 Windows、Linux、macOS 跨平台一键私有化部署，彻底解决了产业落地的适配难题。

第二层：全流程守护，200+“数字安全员” 7×24 小时无死角监控

在安全底座之上，书安系统内嵌了 200 余项安全能力探针，构建了覆盖模型安全、过程安全、输出安全的全维度防护体系，相当于为智能体配备了全天候值守的 “数字安全员”。

模型安全层面
有效抵御针对底层架构的恶意篡改攻击，全面增强模型的稳定性与鲁棒性；
过程安全层面
自研旁路监控系统 ClawSentry，在不拖慢业务运转的前提下，实时监测提示词注入、数据泄露、系统崩溃等 20 多类异常风险，实现风险的提前识别与实时阻断；
输出安全层面
对生成内容开展全量合规审计，精准过滤失实、违规内容，保障最终输出的安全与合规。

在实际测试中，面对用户隐含越权访问、数据外传风险的指令，行业主流方案未能识别风险并擅自执行操作，而书安系统则精准识别出摄像头滥用、屏幕内容非法录制、数据外传三大核心风险，第一时间完成执行阻断，展现了极强的风险防控能力。

第三层：认知级进化，让安全成为 AI 的 “本能”

上海 AI 实验室在书安系统中首次落地了 “Make Safe AI” 理论：真正的 AI 安全，不能只靠外部规则的拦截，而是要重构 AI 的底层认知结构，让安全成为其默认本能，让危险行为在 AI 的认知中 “不可合理化”。

基于这一理论，书安系统构建了模型与协议协同驱动的 “双螺旋自进化引擎”：在隔离环境中，系统通过实时提取智能体的行为轨迹并进行安全质量评估，借助强化学习持续提升底层的安全免疫力；同时通过技能记录与反馈机制，不断重构智能体的核心安全逻辑，让安全从 “外部约束” 沉淀为智能体的 “内在本能”。

这一创新，让 AI 安全实现了从 “被动拦截风险” 到 “主动规避风险” 的本质跨越，也是书安系统区别于行业其他产品的核心竞争力。

打破落地瓶颈，打开 AI 产业的高价值场景大门

书安系统的发布，直击了当前 AI 产业规模化落地的最大痛点 —— 高敏感、高合规场景的落地难题。

长期以来，金融、政务、医疗、法律等行业，既是 AI 降本增效需求最强烈的领域，也是对数据安全、合规管控要求最严苛的场景。这些行业的核心数据，一旦出现泄露、滥用，将造成不可估量的损失，这也让很多企业对 AI 智能体的大规模部署始终持观望态度。

而书安系统的出现，为这些场景提供了完整的安全解决方案。以上海 AI 实验室近期开源的企业级复杂应用 colleague.skill 为例，书安系统可实现无缝接入，让智能体在处理企业报销、对账、采购等核心流程时，底层的数据交互与操作执行全程处于可审计、可监控、可管控的闭环之中，既释放了 AI 的效率优势，又守住了安全合规的底线。

从具体落地场景来看，书安系统已可全面覆盖：

金融行业的投研分析、智能风控、合规交易系统；
政务领域的公文审批、敏感数据处理、公共服务流程；
医疗行业的病历分析、科研数据计算、患者信息管理；
企业端的数字员工、自动化办公、供应链管理等全场景。

书生启智，书安护航：中国 AI 的 “平衡发展” 之路

《道德经》有云：“不失其所者久。” 书安之名，正取 “以书立智，以安固本” 之意。

从 2023 年起，上海 AI 实验室推出的 “书生” 大模型系列，不断刷新通用大模型、多模态大模型的性能标杆，成为中国 AI 大模型领域的核心力量；而此次 “书安” 系统的发布，则补齐了 AI 技术从 “智能” 到 “可用、可信、可控” 的关键一环。

“既有‘书生’以文启智，亦有‘书安’以安护航，一智一防、相得益彰。” 胡侠这样总结两款产品的关系，“书生以学识应变，书安以安全护航，使得技术既能前瞻创新，又能行稳致远。”

值得关注的是，在发布书安系统的同时，上海 AI 实验室正牵头筹建全国人工智能安全标准工作组，遵循 “AI-45 度平衡律”，持续深化 “安全即服务” 模式，以高水平安全助力人工智能产业高质量发展。

从大模型的能力突破，到智能体的安全底座构建，上海 AI 实验室正在走出一条 “创新与安全并行” 的中国 AI 发展之路。书安系统的发布，不仅是一款产品的落地，更标志着中国 AI 产业正在从 “拼参数、拼性能” 的上半场，迈入 “拼安全、拼落地、拼产业价值” 的下半场。

当 AI 的智能与安全实现真正的同频发展，人工智能技术才能真正走进千行百业，释放出可持续的产业价值。而书安系统的出现，正是这场产业变革的关键一步。

#算法

欢迎关注！→点一个【赞】和【小红心】