AI 并不是一个可靠的工具!

真的，只有大牛才敢站出来这么说！

全世界公认的最聪明的人之一，Terence Tao，亲自站出来把AI最致命的缺陷直接戳破了。

他问了一个所有人都回避的根本问题：

“我们该如何使用一个强大、却极度不可靠的工具？”

AI的核心方程写得清清楚楚：

W = ∑(wᵢ ⋅ xᵢ) + b

它不是在追求“正确”， 
而是在追求“看起来正确”。

所有权重都被优化成plausibility（似是而非），而不是veracity（真实性）。

于是我们造出了一个超级会“装”的镜子：

它在医学、金融、法律等领域，能用最自信、最流畅的语气， 
给你最危险、最错误的建议。

“Convincing”和“Correct”之间的鸿沟， 
才是AI时代最致命的风险。

我们越是依赖它，它就越容易把我们带进自己都看不出来的陷阱。

当最顶尖的数学家都在认真讨论“如何安全使用不可靠的AI”时， 

我们普通人还在为“它写代码好快”鼓掌吗？

这段视频值得每一个用AI的人反复看。