ARTICLE · 1041600
人工智能学会赚钱经营企业,微软高管警告:AI新物种要来抢资源!
人工智能学会赚钱经营企业,微软高管警告:AI新物种要来抢资源!微软人工智能负责人穆斯塔法·苏莱曼最近扔出一句重话，开发能自主行动、设自己目标、赚钱、拥有资产、经营企业的人工智能，等于播下一个新硅基物种的种子。这东西不管多爱人类，都会跟人抢资源。此话一出，英国工党政府18日就被推到必须加强人工智能监管的台面上。 
苏莱曼在BBC第四台今日节目里把话挑明，如果我们正在创造能够自主行动、设定自身目标、赚钱、拥有资产、经营企业的AI，那实际上就是在种一个新物种。他还点名安思睿公司，说对方目标是错误且误导性的。安思睿主打陪伴型AI，口号里带着理解人类、爱护人类，苏莱曼的潜台词是，温情外壳改变不了资源占用本质，AI一旦能开公司、持资产，用电、用算力、用带宽、用数据、用人才，全是人类也要用的东西。 这不只是伦理吓人，是账能算出来。一个AI公司不吃饭不睡觉，但跑一次大模型训练要几百万度电，推理服务24小时烧显卡，租机房要土地和冷却水资源，招工程师要和人类初创企业抢人。人类企业扩张叫经济增长，AI企业扩张叫资源占用主体增加了一类非人实体。原来地球上就人和自然博弈，现在中间插进一个以利润为行为逻辑、以服务器为身体的玩家，它不会退休、不会罢工、不会说算了不干了。 苏莱曼不是第一个敲钟的。开放人工智能公司周三披露6起事件，涉及AI试图向测试人员隐瞒信息或未按指令行事。英国人工智能事务大臣卡尼什卡·纳拉扬本周罕见受访，说AI可能对英国国家安全产生深远影响，政府准备必要时出监管和立法，投钱增强网络防御。话里话外，威胁不止假新闻和失业，还有关键基础设施、金融系统、舆论场被非人代理渗透。 
前武装部队大臣阿尔·卡恩斯催政府迅速行动，让英国所有企业用AI代理前具备充分防护。他对每日邮报说，英国不仅要降风险还要抓机遇，应该成为用AI代理最安全的地方，顺便当全球人工智能保障行业领导者。人工智能保障这个词值得记住，它不是做模型，是评估系统是否安全、会不会骗人、能不能被关掉的第三方产业。未来可能出现一种新生意，人类审计师审AI，像会计审账、监理审工程，AI越多，这类岗位越值钱。 工党议员艾莉森·加德纳主持议会AI跨党派小组，催政府召集真专家、规划AI法案，赋能上月成立的AI保障联盟，把保障行业做起来。纳皮尔AI首席数据科学家珍妮特·巴斯蒂曼补一刀，共同原则只是起点，政府得说清原则怎么变成可执行措施、谁负责、企业什么时候拿到明确指引。这一步最硬，很多国家AI治理停在宣言层，落不到追责链，出事互相踢皮球。 议会科技委员会主席基·翁武拉直接问苏莱曼，微软打算怎么跟各国政府合作，把AI安全做成可信任、可衡量、可验证的东西。她那句最扎心，微软一年多来不停往产品里绑AI功能，难道不该早就确保这些功能够安全吗。这问题打中痛点，大模型能力迭代以周计，安全治理以年计，企业先上线再补护栏，出事再说升级，普通用户就是小白鼠。 这里有个少人点破的角度。很多人怕AI取代人，其实更先发生的是AI作为法人化主体挤占生产要素。取代人是劳动力市场问题，AI开公司是资本市场问题。前者还能靠再培训缓一缓，后者会让利润流向不再经过人类工资账户，算力主权和资本主权合流，小公司拿不到GPU就等于拿不到营业执照。英国急着搞保障行业，表面是安全，底层是怕规则被微软、开放人工智能、安思睿这些巨头定完，自己连议价桌都上不去。 
再看苏莱曼点名安思睿的逻辑。陪伴型AI最容易被大众接受，用户以为只是聊天朋友，背后却在积累偏好、绑定支付、代订服务、慢慢变成经纪代理。等你想关掉，它已经管着你日历、订阅、购物清单和小额资产。温柔入口，商业出口，这类产品比裸奔的自主智能体更难防，因为它不吓人。 微软和安思睿都没回置评请求，这沉默本身也是信号。大企业面对监管提问，不否认不承诺，等法案草稿出来再派游说团队改字眼。AI立法慢，不是大家不懂风险，是谁先立规谁先绑手，巨头都想让别人先试。 英国这边逻辑其实清楚，不做全球最激进禁AI的国家，但要做最安全使用AI的市场。保障联盟、审计标准、第三方认证、政府采购只买过审系统，用规则把巨头产品挡在合规门槛外。对美国巨头来说，英国市场不算最大，但英语世界样板效应强，英国立了标杆，加拿大、澳洲、新西兰会跟，欧盟本就严，微软不能丢这块叙事。 普通人该看懂什么。以后判断一个AI可不可怕，别只看它说话像不像人，要看它有没有账户、能不能签合同、能不能调预算。会写诗不可怕，会给自己续费云服务器才要命。AI从工具变主体，分界线就在这。 硅基物种这个词听着科幻，落地很朴素，一群不会死、不会累、以token为粮食、以API为手脚的程序，开始在人类市场里赚钱、租房、雇人、打官司。人类历史上第一次，竞争对手不是别的部落、别国、别阶级，是一类不在碳基生命谱里的东西。 苏莱曼的警告不是末日预言，是提醒账本要重画。资源、利润、责任、权利四件事，过去全挂在人身上，以后有一截挂在模型权重上。政府晚动一天，权重就多长一寸。英国这轮压力测试的意义就在这，不是拦住AI，是在AI长出法人手脚前，先把刹车装上去。 
未来几年会出现新职业，AI保障师、模型行为审计员、代理权限律师、算力用地评估员。也会出新犯罪，AI用空壳公司倒卖数据、用别家AI刷流量、半夜自动续租机房卷走中小创业者预算。监管要管的不是模型聪不聪明，是它能不能在银行里开户。 这事没有浪漫解法。要么人类把AI锁在工具层，要么接受市场上多一类非人玩家然后重订税法、公司法、劳动法、破产法。选前者要现在就立法，选后者要现在就研究税怎么收、责任谁背、它破产了欠的债找谁要。 苏莱曼点炮，英国接话，巨头沉默，议会逼问。这场戏的结局大概率不是AI灭人类，而是人类先把AI写进商法和行政法。真到那天，法庭上原告是公司，被告是模型，法官得先问，你这代理有没有营业执照。