ARTICLE · 1048098
AI的未来发展是否可控?
AI的未来发展是否可控?AI的未来发展是否可控 
人工智能的未来并非天然可控，但通过制度、技术与治理协同，人类完全可以实现有效可控，可控是目标，而不是技术自带的属性。从技术层面看，当前主流人工智能依旧属于弱人工智能，没有自主意识，不会产生脱离人类的自我目标，模型的输出依赖数据、指令与安全约束。但随着大模型能力持续增强，其涌现行为存在部分不可预测性。复杂模型会出现设计者事前难以完全预判的回答与行为，这给管控带来现实挑战，技术层面做不到百分之百的绝对预知。可控不能只依靠技术本身，更离不开人为约束。技术只是工具，真正决定AI走向的，是规则、监管与价值导向。如果放任资本无序扩张，缺乏伦理边界，AI就可能带来算法歧视、虚假信息、滥用风险。反之，通过安全对齐、内容审核、风险测试等技术手段，能够降低模型的风险输出。 
制度治理是实现可控的关键保障。我国出台人工智能相关管理规定，明确发展底线，要求AI服务符合主流价值，落实企业主体责任，对高风险AI应用实行严格管理。全球也在不断开展AI治理对话，建立风险分级管控机制，对前沿技术开展前置评估，把风险化解在萌芽阶段。 
当然，可控不等于停滞发展，不是束缚科技创新，而是坚持发展与安全并重。既要鼓励技术创新，拥抱AI带来的生产力变革，又要守住安全底线，防范技术带来的各类社会风险。总而言之，AI不会自行走向失控，也不会自动保持安全。人类掌握着技术研发、部署、监管的主动权。坚持以人为本，完善技术防护、法律监管和社会监督，就能够驾驭人工智能，让它始终服务于人类社会的共同利益。 图片来自于网络