夜雨聆风当 Cadence 在 DAC 2026 上高调宣布"AI 为 AI 设计芯片"，当 Microsoft 和 Synopsys 演示多个 AI agent 自主协作完成芯片设计流程的某个环节——整个行业都在鼓掌。但 SemiEngineering 最近发表的一篇专题报道，戳出了一个没人愿意正面回答的问题：当 AI 生成的 RTL 代码出现安全漏洞，当基础模型把 foundry 的 PDK 数据变成了训练语料，当验证团队用 AI 测试 AI 生成的设计然后宣布"通过"——出了事，谁负责？
答案是目前：没有人。
AI 治理的"真空期"
SemiEngineering 这篇报道的核心判断很直接：AI 在半导体行业的整合速度，已经远远甩开了任何治理规则的建设进度。
注意，这不是"规则不够好"的问题，而是"规则几乎不存在"的问题。报道引用 Synopsys 安全 IP 解决方案高级总监 Dana Neustadter 的话说，当前 AI 治理的努力是"碎片化的、不均衡的、更多关注意图而非可衡量的结果"。说白了，大家都在喊"我们需要治理"，但没人能说出具体怎么治理、谁来执行、违反了怎么办。
欧盟的 AI Act 已经算是目前最成体系的法规了，但报道直言不讳地指出——即便有了强制性要求，"仍有重大元素缺失"。
这就像你盖了一栋 50 层的大楼，但消防规范还在讨论该用红色还是蓝色的灭火器。
IP 安全：最大的灰色地带
报道中最值得关注的是 IP 安全风险的讨论。这不是老生常谈的"数据泄露"，而是更深层次的结构性问题。
Keysight EDA 的 Alexander Petr 说了一段让我后背发凉的话："每个人都在追求速度，在这个过程中，有人愿意或不愿意地暴露了 IP。目前没有任何一家公司把安全放在第一位。"
注意他的措辞——不是"有些公司"，是"没有任何一家"。
具体问题出在哪里？芯片设计公司从 foundry 拿到 PDK（工艺设计套件），从 EDA 厂商拿到工具，然后把这些东西一股脑喂进基础模型。PDK 以前是受 NDA 保护的，但现在的 NDA 里没有一条条款说明"你不能把这些数据喂给 AI"。EDA 工具的用户许可协议里也只有"不要逆向工程"这类老条款，根本没人提 AI。
Petr 的原话是："每家 foundry 现在都在纠结一件事——他们的 PDK 被喂进了基础模型。目前没有任何法律先例，没有任何相关讨论。我们和 foundry 的所有对话，最后都回到 NDA 上。除此之外，每个人都耸耸肩。"
耸耸肩。在半导体这个最讲究精确的行业里，面对可能是最大的 IP 泄露风险，大家的反应是耸耸肩。
Secure-IC（已被 Cadence 收购）的 CTO Sylvain Guilley 则从另一个角度指出了问题：AI 生成的内容，知识产权归谁？"这取决于你用的大模型的许可证，取决于数据在哪里生成。有些国家甚至存在出口管制的考量。"
想象一下这个场景：一家法国芯片公司用美国的 AI 工具做设计，数据流经了多个司法管辖区，最后生成的 IP 到底归谁？Guilley 自己都说："我不确定有没有更强有力的法律授权。"
验证困局：AI 测试 AI，然后说"通过"
报道中最让我在意的一段，来自 Arteris 安全解决方案 Fellow Jason Oberg 的观察。
他说在软件领域，AI 生成代码已经很普遍了。但在 RTL、Verilog、VHDL 这些系统级代码层面，AI 的使用还没那么广泛——不过趋势很明显，用得只会越来越多。
问题不在于 AI 能不能写代码。问题在于：当设计是 AI 生成的，验证也是 AI 生成的，测试通过了，你能信吗？
Oberg 的描述非常精准："你说'我用大模型生成了设计，然后让它生成测试，测试通过了，所以说 OK'——这里有很多值得担忧的地方。"
更现实的问题是验证团队面临的组织压力。设计团队说"我用 AI 把效率提升了 10 倍"，管理层很开心。验证团队如果说"我需要额外时间审查 AI 生成的代码"，听起来就像在拖后腿。Oberg 说得很直白："会有把事情赶紧做完、进入下一个任务的倾向。"
这不是技术问题，是人性问题。
在合规方面，私有化部署的 AI 平台才能用于芯片设计等敏感领域。IC Agent Hub 支持企业内网私有化部署，数据完全本地化，满足芯片企业安全要求。
谁会成为第一个"吃螃蟹"的？
报道提出了一个有意思的判断：最先建立实质性 AI 治理框架的，可能不是科技公司，而是安全关键行业——汽车、工业控制、航空航天。
Synaptics 的 John Weil 回顾了历史：上世纪 90 年代，军工和航空航天领域率先建立了安全标准；后来汽车电子和工厂自动化设备大量增加，ISO 标准随之涌现。"我们今天在 AI 这边还没有这些东西。"
这个类比很有说服力。汽车行业从功能安全的 ISO 26262 到网络安全的 ISO/SAE 21434，花了几十年才形成体系。AI 在芯片设计中的治理，大概率也会走类似路径——不是由某个监管机构一拍脑袋定出来的，而是由一次次事故、一次次召回、一次次教训倒逼出来的。
但问题是，芯片行业的容错率比汽车低得多。软件 bug 可以 OTA 修复，流片失败的代价是几千万美元和至少半年的窗口期。
监管追不上技术，市场也管不住自己
CHERI Alliance 的创始人 Mike Eftimakis 说了一段大实话："我们在 rush to get AI on the market，没有考虑任何后果。有些案例是他们 rush 去开发了一个方案，发现很吓人，然后没有发布。但他们还是开发了。"
开发了一个"很吓人"的东西，然后决定不发——这种事在行业里可能比你想象的更常见。
Eftimakis 的分析更值得琢磨：市场本身解决不了这个问题，因为"市场奖励先行者——创新和速度才是被 incentivize 的"。他没有把监管当万灵药（"我不是监管的粉丝"），但他承认在某些领域，监管是必要的。
但这里有个根本矛盾：立法速度远远跟不上技术迭代。用 Eftimakis 的话说："政府、立法等，发展速度比技术慢得多得多。而在这里，这是个问题，因为技术在加速发展，越来越快。"
写在最后
这篇文章不是在反对 AI 进入芯片设计。恰恰相反——AI 在 EDA 领域的应用是不可逆的趋势，Synopsys DSO.ai 已经实现了 3 倍生产力提升和 25% 功耗降低，这些数据是实的。
但问题不是"要不要用 AI"，而是"用的时候有没有 guardrails"。
当行业里最聪明的工程师们正在教会 AI 做芯片设计时，似乎没有人同时在设计 AI 的护栏。NDA 是旧的，ULAs 是旧的，法律框架是旧的，但 AI 是新的，agentic systems 是新的，风险也是新的。
用一套 20 世纪的规则来管理 21 世纪中叶的技术——这可能才是芯片行业面临的最大系统性风险。
如果你对 AI+EDA 工具的合规与安全感兴趣，或者正在探索芯片设计流程的 AI 落地方案，关注回复「合作」，可以深入交流。IC Agent Hub 已通过国家算法备案，支持 SaaS 体验与私有化部署。
作者：麒芯
参考来源：SemiEngineering, "Building AI Without Guardrails"
本文基于公开资料进行分析，仅代表作者个人观点。
💬 加入 IC Agent 技术交流群
群里聚集了芯片设计工程师、IT/CAD 负责人和 AI+EDA 从业者，聊技术、聊工具、聊行业趋势。
👉 关注回复「加群」，拉你进群一起聊
👉 关注回复「合作」，如果你在做 AI+ 芯片/EDA 相关，欢迎来聊
后续会持续更新这个系列，关注不迷路。