乐于分享
好东西不私藏

AI战争,认知主权的偷袭

AI战争,认知主权的偷袭

正当专家预测AI会引发人类的种种不适之时,一场无声无息的战争已经开始。

对,你没听错。就AI而言,认知是有主权的,为了这一主权,各大主体国悄悄的暗战正在上演。

作为Ai的大脑,大语言模型是有底层语料和结构的,它通过语料与逻辑形成叙事自洽,包括立场、内容、逻辑等。

但这个自洽有一个令人忧虑的BUG,那就是语料及模型架构都潜藏着的跨境渗透、潜伏,以此实现主权占领。

通俗地举例,基督教国家与伊斯兰教国家,因为采信的语料有本质的不同,所以模型底层架构上,推理立场、推理逻辑、推理结论都会产生本质区别。

再比如,唯物主义与唯心主义各自有属于自己的逻辑自洽,不同着眼点下,大语言模型也存在根本差异,最终输出信息一定有所不同。

结论便是:从国界上来看,大语言模型原生国的思考逻辑、语言种类、文化倾向和思想立场等都以本国主导者的立场为叙事基础,但均面临着一场前所未有的挑战。

不同大语言模型信息存在着跨境、跨观念、跨文化、跨语言的区别。

这便给不良意图的霸权国以可乘之机,在某些时刻,有目的的实施认知殖民、认知占领、认知同化、认知绑架都是有可能的。

所以说,作为AI的底层结构之一,大语言模型在二元对立的矛盾中寻求平衡:既要吸纳足够广泛的属于全人类的语料信息,又要避免负面的信息渗透。

这时,我们会想到划定攻防界线,但这是一个相当复杂和令人头痛的工程。

何况不但要划定国别、种族、信仰攻防界线,各国大语言模型还同时要关注极端思潮、邪教思想、反人类逻辑的渗入。

这更是一个全人类的难题,因为,他没有明显的国界做标的,隐藏在各类语料和人群之中。

从初步形成的大语言模型的国家来看,目前至少有美国体系、俄罗斯体系、欧洲体系、中国体系、印度体系、中东体系、日韩体系等。

我们不能肯定哪个体系会先发制人,或已经在暗中攻防,但能够确定,某个时刻必有人会首先露出马脚。

绝非耸人听闻:可以推断,目前这种认知战争已经明显AI化,形势相当严峻:包括语料筛选、底层模型、硬件争夺、标准争夺等。

我们普通人能看到的战争是芯片、算力为主体战场的争夺。这已经是一场极其复杂的形态了,科技封锁、资本介入、产业升级等方面的拉锯战不断上演。

芯片业为什么叫“卡脖子”,而非摔跤中的锁臂、顶肩、别腿?那是因为,他强调一招致命。

你说,这不是宣战是什么?

军事上,我们正在建构强大国防体系,保卫我们物理上的领土主权。

那么,认知主权,我们如何建立独属于自己的防御系统?

我想至少有以下几个研究方向:

1、建立自主的底层大语言模型。基于本国语言系统、意识形态和文化习惯的底层逻辑。

2、建立强大的内容兼容黑洞。我们绝不能闭关自守,对多元化思想的兼容性,是这套体系最硬核的东西,让所有恶意信息吸进黑洞时便被融化。

3、建立强大的信息筛选体系。把威胁性信息进行分类,以制造信息疫苗,提供免疫防控底线,制造认知“抗体”。

4、增强汉语言兼容能力。比如,英语兼容西语系有着先天优势,但对中文、日文、韩文、阿拉伯文的兼容能力就不具备优势。

那么,中文如何能够兼容其它语言,这是个摆在社会科学体系专家面前,相当具有挑战性的复杂议题。

最近,《自然》杂志发表了一篇《国家媒体控制影响着大型语言模型》的文章。

文中自称通过研究发现,各国对媒体的管控,正在作用于大语言模型的生成内容。

这也说明,全球都开始重视大语言模型在发展过程中对认知的影响。

不过,“媒体自由”的高低也决定了大语言模型的倾向性,那种单纯只管不疏的作法,是一种可怕的躺平思维。

如果这真是一场战争,那么“阻击”仅仅是一种简单思维,建立抗体机制才是长期主义。

一个文化整体接纳外来信息,不会弱化认知,反倒会强化认知,形成独立思考;相反,总是屏蔽外来信息,当某天突然信息潮流汹涌来袭时,缺乏抗体的认知就有可能轰然崩塌。

同理,一个人半生龟缩在乡村,突然来到大城市,很容易就会被坏人利用而毫不自知。

短时期,可以举全民之力阻击病毒,但长期必需让全民免疫。

语言大模型不发展将会使思维落后、主权受损,沦为认知殖民国家。

所以,首要任务是极早发展世界最高认知的模型体系,以此保护认知主权。

不能再做沙漠鸵鸟了!抬起头,向外看,经历黑暗与光明,人才不会失去选择,否则,一但被强行拔出鸟头,那只鸟就会迷失方向,即便它的腿脚极其发达。

同样,塑造独立思考能力的孩子时,为了不落后于对方,我们不但要教他传统文化逻辑,还要教他外来文化逻辑。

大规模的开放,不让视野受限,这个孩子自然对外来的不良影响能游刃有余、置若罔闻。

相反,一个整日闭关背诵“四书五经”,只识“周易桃花”的孩子,当外面飓风来袭时,他不但难于自保,更无法他防。大清的自嗨,终究没有阻挡得了外来的强盗。

总的来说,这不只是一场简单的战争,更是决定未来是否遭遇臣服、被动挨打的决战。

物理战,你可以战胜对方。但认知战,你不一定能战胜对方。所以,当AI来临之初,我们就必须要有危机感了!

各 国 语 言 大 模 型

中国

百度・文心一言(ERNIE Bot)

阿里・通义千问 Qwen

腾讯・混元 Hunyuan

华为・盘古 PanGu

科大讯飞・星火

智谱 AI・ChatGLM(清华)

月之暗面・Kimi

深度求索 DeepSeek

MiniMax(稀宇)

字节跳动・豆包

商汤・日日新

中科院・紫东太初

央视总台算法

小米 MiMo

美国

OpenAI(GPT 系列)

Anthropic(Claude 系列)

Google DeepMind(Gemini)

Meta(开源龙头 Llama 系列)

微软 Phi 系列

马斯克旗下xAI Grok

IBM Granite

欧洲

法国 Mistral AI

多国联合 BLOOM

德国 Luminous、OpenGPT-X

英国Falcon(阿联酋投资、伦敦研发)

韩国

Naver HyperCLOVA X

Kakao KoGPT

LG Exaone

SKT A. Dot

日本

EvoLLM-JP

Nekomata

Sakura 

阿联酋

Falcon / Jais:(阿拉伯语体系)

印度

BharatGPT、Airavata(印地语体系)

加微信:rsy9797

—————— ———————

严谨 · 积极 · 向上

锐西山旗下的微信公众平台

专注热点 聚焦传媒

资讯/深度/实用/现实

值得你参考&参照的平台