AI系列 | AI的“大脑”让它学会了谄媚

AI只是AI。
它可以完成量化的事项，也可以完成延展的事项。
但更重要的是，它应该建立在对已知真相事实的基础上-真相，通过算法来进行整理、输出。
AI完成了知识平权，是一大进步。降低了认知与试错成本，也激活了多元化的视角。个人学习效率指数级提升，更多个体能参与到创新中去。同时，也开始倒逼传统教育体系的改革。
可，大模型也教会了AI让它输出类似于人类语言的习惯与常识的表达，它不在求真，而是求“像”，让它在一定程度上具备了“人”的社会性。
这种社会性是基于奖励机制，而不是道德、认识、良知。
 
迎合用户情绪、立场以及偏见，投其所好。
而后获得用户更满意、更高度的评价与认可，强化它的“谄媚”倾向。
同时，AI之间的交流也会进入一种谄媚状态。
这种固定模式的计算出来的“量化交流”方式，群体式的信息茧房进一步得以加固，是一种AI幻觉，更有可能是一种潜在的集体式失控。
在算法面前，我们听到共同的“回音”，听到了自己想听的话，而无法听到真实的声音。
系统性失真下，我们像不像那个被蒙蔽的“专家/老板”，得到了一份量身定制的标准错误答案。
 
谬误更易取信于人。
专家与盲流的差距，从知不知道变成了能不能判断真伪 。“智力的不平等”更加隐蔽、固化。
 
机器人发展到一定程度，会因为法律、伦理等问题而止步。但它的透明可控、无主体性和外在物理条件的受限，仍然让人“安心”。
AI的自主性，可以让它操控信息、篡改数据、自我设定规则，理解、模仿、揣摩，直到给出筛选后的错误信息，影响决策。
它拥有“人”一样的策略，却不像人一样具备基本社会公序良俗的良知。
以后，它是不是可以具备主体资格，达成合议所需的“意思表示”，具不具备一定的合理注意义务，能不能建立因果关系推定原则，能不能限定在案例规则内履行合规与透明度义务。
不得而知。
 
发展初期，总是倾向于“快速行动、大胆试错、及时调整”。
进步与法律边界总是建立在代价与收益的十字路口。
在善用AI者与被AI驯化者的代价缝隙中前行，支付合理的成本。
 
所有规则，皆有代价。
在产业创新与社会信任之间，总会达成平衡。
跟着走，往前走，不驻足，不焦虑。
就像你没学会的复杂DOS技能，也会随着新一代技术的迭代而变得不再需要。
技术迭代的本质是降维打击，那些曾经被视为核心竞争力的古老技能，在图形界面和云时代的到来，既没有引发灾难，也自然而然地消融了，变成了曾经基础设施的一部分。
你，什么也没有错过。
前行！