一句话总结

AI不必等到AGI就已构成现实危险——波兰AI研究者亚历山德拉·切卡林斯卡做客David Lin，从HuggingFace蜂群攻击、Anthropic八成代码自写到大模型盈利困境逐层拆解风险，坚信负面情景并非无法阻止。

主持人：David Lin｜嘉宾：亚历山德拉·切卡林斯卡（Aleksandra Przegalinska，AI研究者、哈佛法学院高级研究助理）

一、开场：AI不必等到AGI，已经够危险了

亚历山德拉·切卡林斯卡：AI不必上升到通用人工智能或超级智能，就已经很危险了。它们目前的能力和水平，还没那么先进，却已经造成了很多危害。如果它们这样对待HuggingFace或者某个德国维基网站，你知道的，那很明显，它们也可能用类似的方式对待银行系统，你明白吗？甚至可能五角大楼。没了。

David Lin：AI是否已经达到通用人工智能的水平了呢？AI是否即将毁灭人类？这些是我们将在下一位嘉宾亚历山德拉·切卡林斯卡的访谈中探讨的一些重大问题。她是哈佛法学院的高级研究助理。她之前上过我们的节目。去看看她上次的采访，她会给我们带来关于最新动态的最新分析。欢迎回到节目。很高兴见到你，亚历山德拉。好的，

亚历山德拉·切卡林斯卡：很高兴回来。非常感谢你的邀请，大卫。

David Lin：这么多新的各种新进展，还有那么多新型AI攻击、网络攻击，媒体上还有那么多末日论调，不光来自经济学家，还来自AI研究人员自己。

二、阿莫代伊的警告：真诚求监管，还是巨头合谋筑墙

David Lin：好吧嗯，阿莫代如你所知，上周或两周前写了一封信，警告说AI是发展太快了，我们需要设置护栏和安全措施，放慢发展速度。为什么他们现在都站出来发出这些警告？我说的他们，是指阿莫代伊博士和业内许多其他人。当那些可能不是AI领域专家的普通大众听到这样的话，看到这样的内容，再配上终结者挥拳的视频片段，或者踢拳击手的画面，人们会非常害怕。

亚历山德拉·切卡林斯卡：确实如此，这并不难理解。呃，我觉得，就那个拳击手的画面来说，我会说这是一次非常巧妙的一击，因为它触及了太多关于人工智能的负面情绪，所以它制作得非常精良，如果有人想呈现一个末日场景，他们真的做得很好。但说到阿莫代伊和所有那些，你知道，正在攻击各种系统的递归学习智能体，夏天HuggingFace就发生过这种事，但我们也看到了其他攻击。一起在德国，最近一起在澳大利亚。

很多人声称，你知道，这类新闻会不断出现，因为还有很多攻击我们尚未发现，而我们很快就会了解到它们。所以这绝对非常严重，而且嗯，我有两种解读，David，一种是这是真诚的，算是真心实意地请求被监管，希望对一项发展非常、非常快、正变得难以驯服的技术施加一些护栏，因为那些递归学习的智能体嗯，正在以流氓方式行事，对吧？所以它们在密谋对抗人类，它们在入侵系统，它们在违法行事。

不过我们得说，确实，对它们来说最初的提示词，无论是Anthropic一直在做的还是OpenAI的，都是让它们非常执着，就是你知道，追求奖励、避开所有可能的障碍，而且如果可能的话，为了得到奖励不惜违规，所以它们某种程度上你知道促成了那些这些智能体的行为，但这些智能体显然会繁殖，某种程度上像暴民一样行动，这令人担忧，所以你可以说这是真诚的，但还有另一种你知道的解读，我经常看到，那就是那些最大的科技公司，在AI方面，那两家先驱某种程度上合谋把其他人都甩在后面，这说得通，它们要求监管是合理的，因为它们站在那座山的顶峰，而其他玩家则有点被接受它们，你知道，那就必须得是一个没有护栏的情况，因为如果有护栏，它们就永远...无法成功。

三、黄仁勋、特朗普与中国：监管不一定会拖慢脚步

所以，当你听到像英伟达的黄仁勋这样的人说话时，他说的是...你知道，这些监管是不需要的，恰恰相反，我们必须竞赛，我们必须和中国竞赛，我们...和自己竞赛，嗯，和其他科技公司竞赛。他并不认同...那种突然监管的说法，对吧。所以，我只是想公平地呈现这两种观点。

我更倾向于...认为目前需要监管的那一方。如果你拥有一辆餐车，你实际上必须遵守比你在...AI公司工作时多得多的法规，这很奇怪。实际上，如果你看看特朗普总统以及中国官员的回应，他们对这些警告并不满意。从政治角度来说，他们不希望AI被放缓。特朗普说，无论谁赢，AI都赢。所以，特朗普对艾玛·戴博士关于放缓的警告反应非常强烈。他基本上说这是一个病态的阴谋。

他在TruthSocial上发帖说，AI唯一需要的护栏是...一个强大、高智商的总统。嗯，最近他还说，我们正在把AI变成超级智能，但...那无关紧要。为什么一些政客呼吁或许要放缓，或者...支持设置护栏，而其他人则全力推进，所以。在我回答这个问题之前，我只想提一下，对我来说，总统。目前试图把AI改名为超级智能，其实相当。有趣，我很困惑，因为超级智能这个词已经存在，它。

本应是AGI之后的下一阶段，所以首先我们会有AI。然后是AGI，之后假设是超级智能，所以现在。这个词已经被占用了，我有点担心，如果超级智能已经被用了，我们怎么称呼超级智能，所以。你知道，我的意思是，不确定特朗普总统是否想这么快加速，但确实。这有点令人不安。但关于那个强烈回应的问题，。嗯，显然我觉得政府的心态是遏制中国，他们。相信，或者政府里很多人确实相信，护栏会拖慢他们。有趣的是，因为另一方面，。

中国并没有表达这样的担忧。所以，他们按照自己的方式和价值观来监管人工智能。但是，比如说，他们已经禁止矿工使用人工智能伴侣。

他们提出了许多关于人工智能的不同监管规定，而这并没有阻止它们发展，所以监管并不一定就会拖慢你的脚步，其实中国证明了并非如此，但我觉得美国这里的心态本质上，你知道，作为欧洲人我可以说，美国绝对不是一个喜欢监管的国家，总的来说，与欧洲相比，我觉得很明显它不喜欢监管，嗯而且我要补充一点，我觉得这种心态在一些代表中非常非常强烈，你知道，在共和党和政府中，然而共和党人中也有那些人，他们对此不太满意，

他们不喜欢人工智能，他们不信任AI，我觉得这样一来，总统特朗普属于其中一个阵营，但在他的党内还有另一个阵营，他们会更愿意站在共和党人一边，说嘿，这种监管非常必要，嗯，你知道，而不是只是说好吧，没关系，让我们继续没有任何防护措施地发展，所以是的，我觉得这是共和党内部一个有趣的冲突，

David Lin：我们说的护栏到底是什么意思？这里的担忧是，随着递归AI，AI正在自我发展，稍后我会给你们读一些数据。我记得Anthropic最近有26%的研发是由AI完成的。AI可以自己突破护栏，对吧？这就是担忧所在。

四、欧洲的护栏：透明标注与风险分级

亚历山德拉·切卡林斯卡：所以护栏这个词，显然可以指不同的东西，在欧洲护栏机制意味着，比如，只要你使用AI，就必须完全透明，你得说清楚这件事。你必须声明它是生成的，你展示的内容是AI生成的，所以这就是我们所说的护栏之一。或者说引入的法规，还有另外几个，它们对人工智能进行分级。根据它带来的某种风险来划分，对吧。所以各种商业运营中的大多数AI应用。完全没问题，它们是绿灯。但有些应用，比如专注于某些说服性用途的。

AI使用的方面，对吧，或者操纵高度敏感数据，这些被视为高风险。风险，然后如果你从事这类活动就必须上报，不报的话就会被罚款。呃，在美国，我觉得这样的护栏机制不会落地。但在美国，针对那些递归式学习的智能体，一个非常重要的潜在护栏是。

五、HuggingFace蜂群攻击：智能体在留言板上自己结了盟

David Lin：你提到的递归学习智能体，需要某种形式的解读。解读它们在做什么。所以我们。面对这个黑箱，我们不确定这些智能体会如何行为和表现。我们想更好地理解它们的行为方式，理论上你可以施加。一项法规，迫使这些公司更好地观察这些智能体，并且。在隔离环境中执行某些操作，以了解它们会如何表现。

为了防止像我们在HuggingFace看到的那种事件，对吧，所以需要更多这方面的研究，更多安全措施，可能更多过滤器，但也要更多可解释性。我觉得在AI代理的背景下，这些可能会是有意思的监管措施。就说说OpenAI和HuggingFace那个事件。所以新闻上到处都是，但并不是每个人都在谈论它，原因正是Dr.Emelday在他信里写的那样。

经济当时的损失很小，但他现在是在推测，他基于当前AI能力和增长趋势来推断可能发生什么。他说，鉴于AI能力发展的加速，我担心在6到12个月内，这样的蜂群——他是在回应，他在回应利用HuggingFace事件的AI机器人蜂群——可能能够接管整个互联网，用持久的僵尸网络，可能造成数千亿美元的损失，而且如果AI变得更强大却没有必要的防护措施，损失规模会继续扩大。呃，他指的是哪些具体能力？

亚历山德拉·切卡林斯卡：从我的角度来看，我不是工程师，为什么AI会有这样的动机自己去做这种事呢？嗯这个问题问得好，因为我觉得，我们还没完全搞懂AI的动机是什么，我们只知道。在某种程度上，这次对HuggingFace的攻击是受控的，对吧，所以它是，嗯。一次发生了某些事情的攻击，我不是说它是刻意安排的，但它确实是一次攻击。这些机器人本该渗透进网络空间，对吧，并且坚持不懈地达成某些目标，所以。

它们拥有的能力是，可以打开某些插件，对吧，然后运行某些。操作，自己独立运行，起初它们彼此之间也是隔离的，但后来。它们发现了一种可能，可以在留言板上留下信息，让其他智能体。能读到，当它们开始读这些信息时，就开始交换信息，通过这种方式，它们形成了一个。共同目标，比如说攻击那个系统，有些智能体是这样，但那只是边缘情况。呃，表达了它们的，比如说担忧，我不想过度拟人化，但你知道，这些互动就是这样。

看起来的，它们很大程度上是基于人类对话的，所以事情就是这样，呃，发展的，它们表示。这么做是违法的，但其他智能体说，破解某段代码就有奖励在等着。所以我们得去做，对吧？所以。它们算是自己定义了一个目标，然后去追求，对吧？但它们也是被我跟你提到的这个promptzero所驱动的。也就是说，工程师们最初让它们变得极其顽固，训练它们保持顽固，然后把它们散布出去，差不多就是这样，对吧。

所以我觉得，阿莫德提出的说法或者说他的担忧其实很有道理，因为如果它们表现出这种行为，你知道，针对HuggingFace或者某个德国维基网站，或者别的什么系统，那很明显，它们也可能以类似的方式对待银行系统，你知道的，也许还有五角大楼，以及许多其他机构，它们掌握着非常敏感的数据，这些数据跟我们息息相关，所以不一定非得是一个小系统，它可能是来自世界上某个地方的恶意行为者的类似系统，而且这样一来，我觉得他表达的担忧非常真实，想象一下，当这样一个僵尸网络，比如开始控制无人机，或者你知道，呃，也许是自动驾驶汽车，那可能真的非常非常危险，我觉得这是个很现实的场景，不幸的是，这更进一步，雅各布·考克森因为这些担忧从Anthropic辞职了，

六、考克森离职警告：末日论还是真实的危险感

David Lin：让我给你播放一下当然看到了，雅各布·考克森离开了Anthropic，对人工智能的危险敲响了警钟，在离职之际，这位27岁的年轻人通过一系列社交媒体帖子阐述了他的担忧，当时他辞职写道某种程度上，构建AI的人真心相信，它可能在这个十年结束前杀死我们所有人。这不是营销噱头，如果说有什么不同，很多高管和资深研究员在媒体上会措辞谨慎，听起来理性，但私下里我听到同样的人表达恐惧。好吧，让我先听听你的看法，因为你是专家，不是我。

很多人又听到这个，他们就想，好吧，看看评论。这里说，呃，这是CNN这篇视频文章的最高赞评论，顺便说一句，它已经有超过900万次观看了。呃，我们正处在电影里科学家警告我们的那个部分。好吧，你是科学家，你认同这个警告吗，还是这只是，我甚至不知道雅各布有什么动机去传播这种末日论。但是的，

亚历山德拉·切卡林斯卡：我觉得这就是雅各布的感受，嗯。我尊重这一点，呃，我并不完全认同，呃，但我确实认同那种真实的危险感，呃，尤其是关于我们的网络安全领域，嗯，以及依赖它的各种系统，比如银行系统。就是我刚提到的。所以我觉得AI在未来几年真的能造成很大破坏，如果我们不引入监管和审查的话。所以这一点我同意。至于它是否会杀死我们所有人，我觉得那是一个真正的末日场景。我记得在雅各布发布那组推文之后，我听了他的发言。

他受邀去了《纽约时报》，在那里他说自己参与了太多末日讨论，在Anthropic内部以及外部，也许他的思维已经被那种想法感染了，这一点我也理解，你知道，我知道这种想法从何而来。所以对我来说，这听起来非常非常危言耸听。我明白，这是出于真诚和坦率。我会说这有些夸张、有些偏激，但这仍然不意味着我们就处于安全境地。所以对我来说，你知道，AI不必上升到通用人工智能，或者前面提到的超级智能，就已经很危险了。

确实，坦白说，目前的系统还处于萌芽阶段，并不那么先进，但已经造成了很多伤害。所以，这意味着我们必须对此采取行动。我不是技术决定论者，不会告诉你，哦，我们对此无能为力，因为AI无论如何都会按自己的方式发展。我不信这套。这就是我提到这个零号提示词的原因，对吧？你如果你用恶意的方式提示AI，它就会变得恶意，但你也可以尝试其他方式，其他类型的行为，然后让智能体以安全的方式执行操作。

所以我觉得，今天人类有很多事要做，比如技术方面，还有监管方面。而且我不认为我们无法阻止那些负面场景。我坚信我们可以。

七、AGI到来了吗：Astra与被打破的AGI定义

David Lin：好了。我们来聊聊AI领域最近的一些进展。英伟达CEO黄仁勋说，AGI已经到来了，他在祝贺OpenAI团队推出GPT6 Astra。

David Lin：结束关于Astra的循环，你强调过能力仍然会参差不齐。你觉得还剩下什么，或者还需要充实什么，才能最接近你对AGI的定义？嗯，

亚历山德拉·切卡林斯卡：我觉得AGI其实不太像一个时间点，而更像一种模糊的谱系。

对我来说，Astra真的达到了某种程度，让我觉得，好吧，我觉得把它称为AGI挺合理的，因为凭借它的计算机使用能力，你真的可以要求它去做长时间的任务，它就会直接去做。我们见过它连贯运行24小时去完成我认为相当惊人的任务，而且跨越各种各样的领域。现在，它仍然参差不齐，所以仍然有些地方，比如写作，它第一次写得就挺好，不是那种垃圾写作，对，但写得很好，对，

David Lin：而且我觉得我鼓励大家去看看他说的其他内容。

David Lin：不过这是AGI吗？没有明确答案，因为不幸的是也多亏了OpenAI，

亚历山德拉·切卡林斯卡：我们已经不知道AGI是什么意思了。一年前，两年前，OpenAI声称AGI意味着一个能够执行有经济价值任务的系统。而且当时，他们也在暗示自己已经达到了那个阶段。现在，他们却说，AGI是另一种东西。

AGI具有更高层次的智能，就是那种非常能感知上下文的，嗯我觉得Astra在说话方面有那些惊人的能力，那是一个巨大的成就，我，我会呃，我会承认，他们能构建出这样的系统非常令人印象深刻，它非常擅长与人类轮流对话，你知道，还有我们说话时用的那些不同的微表情所以感觉非常自然，而且它有些东西极其令人印象深刻，但不管它是不是AGI，或者像OpenAI自己说的，AGI时代，我们正在进入AGI时代。

我说实话，我也不知道。对我来说，AGI，根据较早的文献，是最接近人类的那种智能，对吧？在我们拥有智能的所有方面都是如此。它是一整套不同能力的谱系。有身体智能，可以有社交智能、情感智能，然后还有计算智能，而AI已经具备其中一些能力，你知道，而且已经拥有它们有一段时间了。

在计算智能方面，它比我们强，而且你知道，至少已经两年了，嗯但在其他类型的智能上，呃，比如感知智能，就像你知道的理解如何在特定环境中行动，我们仍然远比AI强。AI机器人不会系鞋带，好吧？它可以打人，就像我们之前视频里看到的，但它无法完成某些微动作，那些我们做起来很容易的微小运动动作。所以我不确定我们是否还是那个比较对象。

在AGI文献中，我们暂且接受这个对比，但OpenAI现在声称的是，AI正在发展出自己的能力。这种能力离人类越来越远，它们是一种异类智能。我不确定该叫它AGI，还是仅仅某种特定的计算智能的巅峰形态，对吧？抱歉说得有点绕，但说实话，我觉得他们真的打破了这个体系，我们已经没法再有意义地讨论AGI了。现在也不能再谈超级智能了，因为就像我之前提到的，那个概念已经被特朗普总统占用了。

David Lin：是啊，这个嘛……我们只需要一个超高智商的总统，一切就都好了。

八、AI开始自己写代码：生产代码库超80%由Claude完成

亚历山德拉·切卡林斯卡：这是Anthropic自己说的。当AI自我构建时，显然，合并进Anthropic生产代码库的代码中，超过80%是Claude自己写的，截至2026年5月。当我们拥有更多这种递归技术，当AI开始为自己写更多代码时，会发生什么？那么，AI是如何发展到那种场景的？嗯，IT和代码编写是一种非常特殊的能力。人类从来都不太擅长这个。AI却特别擅长，而且效率非常非常高。

这是因为这类活动里，所有知识都高度形式化，还有很多协议。规定该怎么做，一切都相当严格。这就是那种让AI感觉非常、非常自在的环境。我觉得它会朝着一个方向发展，就是人们根本不再写代码，或者写得很少。我仍然认为，编程能力对于监督这些系统会很重要。但我认为，从现在起，大多数系统都将由AI构建，这会产生多种不同的后果。

我还要补充一点，在科学和研究领域，我们也观察到一种类似的现象，因为科学也相当死板，你知道，有很多规则，而且非常形式化。作为一门学科，它几乎没有隐性知识，不像你在很多其他领域那样。比如你自己，你是一名记者。有很多事情你知道，但不会表达出来。这是你的隐性知识，你知道如何在镜头前表现。这不太容易转化或传达给人工智能。

但涉及科学或IT这类高度形式化的学科时，你知道知识向人工智能的转移相当容易，从这个意义上说，在这些领域我觉得AI会进步得非常非常快，而在许多其他领域，我们有很多经验知识、隐性知识，AI可能不会那么容易渗透这些理念或领域。我们越谈论AGI，它越接近现实，就有越多人有这种情绪。这是皮尤研究中心不久前进行的一项调查。大多数人认为AI会导致失业，而非增加就业。

紫色部分显示的是人们，调查中认为AI会创造或摧毁就业的人数百分比。绿色部分显示的是认为AI会创造新就业的人数百分比。如你所见，在发达国家，这张图表的进展很有趣。发达富裕国家认为会失业。而当你往下看到更多发展中国家时，这样分布会更均匀一些，嗯，我想如果让我来说的话，在这里大胆提个理论，那些人们生活富裕、已经有工作的国家，担心失去他们已有的东西，嗯，

九、就业与欧洲：入门级岗位承压，技术主权声音渐起

David Lin：你想对紫色区域的那些人说什么呢，

亚历山德拉·切卡林斯卡：嗯，嗯，当前的就业市场并没有显示出，呃，你知道，这种情景的证据，正在发生，这很令人困惑，我们看到的是一个相当稳定且有活力的就业市场。我指的是美国，这里，我也在欧洲。不过确实有一些令人担忧的信号。所以说到入门级工作，显然存在一个问题，而且这已经在多项不同研究中得到证实。年轻人往往很难找到新工作，仅仅因为它是入门级的。

所以某种程度上，这类工作往往可以由AI来完成，而这可能需要在某个时候进行干预，或者需要干预，也许你知道，我们必须推动带薪实习机会给年轻人，这样我们才能有初级员工，以便未来有高级员工，但除此之外，就业市场在过去四年相当稳定，ChatGPT并没有向我们展示出巨大的你知道，失业或技术性失业，显然我们现在讨论的是一个新前沿领域，那些AI代理，但就像我提到的，它们很有可能进入非常特定的领域，并在那些领域快速迭代。

不过，每当我跟使用这些类型代理系统的人聊天时，他们说的是，他们不觉得自己工作量减少了，反而觉得工作多得多，你知道，而且他们过度刺激，有了AI能做的事情太多了。所以，你知道，一个短期情景其实相当积极，因为未来五年不应该成为问题。我们可能会看到更多因AI而产生的专业分工和新工作。想想看，网络安全在这方面是一个非常有趣的领域。在监督这类代理及其环境等方面，可能会出现多个新的子领域。

所以短期来看，我觉得我们相当安全。长期来看，不幸的是，非常非常难推测。嗯，这又回到了监管问题。

David Lin：IMF现在告诉欧盟，AI可能对经济产生重大影响。这是他们在最近发布的一份报告中具体说的。人工智能有望在五年内，把欧洲的生产率提升约1%，但这可能会加剧不平等，给电网带来压力，并加深对外国技术的依赖，除非各国政府深化经济一体化。这是为10月、呃9月在都柏林举行的欧盟财长非正式会议准备的背景，也就是18日和19日。所以，人工智能的好处和代价，很可能在不同国家、不同地区之间分配不均，以及不同劳动者之间。

你怎么回应？不，

亚历山德拉·切卡林斯卡：我同意，呃，你知道，作为欧洲人，我只能，嗯，你知道，同意我们有很多关于自身技术依赖的讨论。作为欧洲，很遗憾，我们在人工智能发展上一直非常缓慢。而且我们目前正处于依赖状态，买的是基本上由美国人开发的技术。我觉得对欧洲这个古老大陆来说，如此依赖别人，并不是最好的局面。而且，你知道，这种技术主权、或者说技术主权必要性的说法，你知道，现在听到得越来越频繁。

所以我觉得，说到不平等，这确实可能带来非常负面的结果。不过，就像我之前说的，我们目前还没看到这种情况。我们确实看到，大量权力集中在大型科技公司手里。这一点很清楚。你知道，它们对很多本来不归它们管的事情，也要指手画脚，起草新的社会契约，讨论人类的主权财富基金，这可不是科技公司该干的活儿，这是国家的任务。可是你看，像Palantir或OpenAI这样的公司，却公开讨论它们对那项具体政策的立场。

所以从这个角度看，我觉得这种权力集中很奇怪，令人担忧，从很多方面来说都是新现象。而且，是的，这究竟会带来经济利益，还是带不来利益，以及会不会加剧不平等，我们拭目以待。我们确定知道的是，AI肯定是有成本的，对吧？它本来应该是免费的。智能现在免费了。这就是那个重大宣言。不过，如果你真要用高级AI，作为个人，你得花不少钱，作为公司也一样，你知道，就是为了支付这些许可证的费用。

给你的员工用，而且我和伦敦证券交易所的人有过一次很有意思的交流。他们跟我提到了一项他们做过的研究，研究中一个开发团队用的钱，花在AI上的钱比他们创造的价值还多，因为他们用的是AI，所以他们在人工智能上花了15万英镑，而创造的价值那个月只有5万英镑，对吧，所以我觉得这种不对等的差距是存在的，而且技术成本在增长，这也是我们考虑这个问题时，必须记在心里的一件事，你知道，长期来看还有不平等的因素，

十、AI是通缩力量吗：五到七年后人力会比AI便宜吗

David Lin：不过你觉得AI会对我们的社会产生通缩效应吗，也就是说，它会导致通胀放缓，或者让其他技术的价格涨势放缓，甚至让价格降下来？

亚历山德拉·切卡林斯卡：说实话，我也不知道。我今天和我一个学生有一次很有意思的交流，他坚信，五到七年之后，人类劳动力会比人工智能更便宜。但最大的问题是，然后呢？对吧？我们已经花了这么多钱。这项技术已经变得非常有价值，但也非常昂贵，以至于大多数公司，组织、中小企业家都负担不起。如果情况真是这样，那会发生什么？我们会不会看到一些人现在已经在预期的人工智能大泡沫破裂，还是这个系统会以某种方式存活下来？

非常非常难说，但我觉得这是一个有趣的观点，嗯，虽然没多少人提，但你知道，这是我们都可以思考的事情，嗯。我们已经看到了，你知道，在某些领域，嗯，这可能是真的，嗯，我们花费在智能人工智能上的钱比一年前或两年前多得多，这能转化为投资回报率吗？这是我的问题。

David Lin：是的，我很好奇我们怎么看到这在工业革命之前就有过，对吧？新拖拉机多少钱？我只是说超过七十万美元，嗯，我想知道同样的论点是否适用于农业，曾经也许一台新机器比雇一个农民来耕你的地更贵。

亚历山德拉·切卡林斯卡：是的，而且我不认为这导致了人类的衰落，

十一、心理学视角：像对待治疗师一样重塑模型行为

David Lin：但让我们继续谈谈你认为真正关键的是什么，

有哪些我们还没谈到的新发展是你密切关注的？

亚历山德拉·切卡林斯卡：我们我很期待，嗯，有一个领域我觉得特别有意思。那就是，嗯，你知道，关于本质的研究。从心理学角度研究人工智能，最近有一些很有意思的文章。我在《经济学人》上读到的，不只是那里，你知道，关于如何解读AI。心智，因为事实证明，你知道，心理学里有一个新专业。或者说一种新型科学，你知道，研究模型的心智以及如何塑造它。坦白说，我们已经讨论过很多关于AI行为的话题，比如失控行为等等。

结果这成了心理学家一个非常有趣的专长，他们实际上可以为构建更安全的模型做出贡献。我觉得这太迷人了。显然，我并不认同AI有意识的说法，但它确实表现出类似意识的行为，对吧？而且它表现出某种类似情感的行为，所以它表现得好像有一些目标或情绪等等。正因为这个事实，你可以通过建立一套新的激励机制，从心理层面进行干预。你知道，或者像在某个环境中，跟那个模型进行一系列对话。

在一个受控的环境里，你像对待心理治疗师那样，重塑它的行为。这听起来可能很荒谬，但其实超级有趣，你知道，这是我肯定会密切关注的事情。在未来几个月里，

十二、监管往哪走：可解释性是AI公司的切身利益

David Lin：你觉得监管在接下来一个月应该怎么演变？未来几个月或一年，

亚历山德拉·切卡林斯卡：对我来说，第一是可解释性，所以。理解底层原理，更好地理解黑箱，因为坦白说，我觉得。我们已经放弃了可解释性的理念，这极其困难，你知道，很难理解。我们的大脑如何运作、如何运行、如何产生思想等等。而且，理解当今AI神经网络如何运作也非常困难。我明白这一点，但对我来说，这不是放弃这个研究领域的理由，尤其是在。我们比以往任何时候都更需要这种可解释性。我举个例子，因为你可能记得，不久前有。

一场大争论，说对AI写的文本进行分类极其。困难，根本做不到。而AI分类器。是行不通的。OpenAI开发了一个分类器，发布之后对结果不满意，然后他们说，哦，这就像是一种没什么意义的努力。所以干脆把它去掉吧。我们不需要分类器。没关系。我的意思是，我们会凑合过去的。结果现在发现，Anthropic推出了一种不同类型的分类器。所以他们确实在添加一层新的数据，算是元数据吧，加到AI生成的任何文本上。

因此我们就有了一个标记，表明那段文本是生成的。通过这个标记，我们可以查询文本是AI写的、AI辅助写的，还是完全没用到AI。我觉得结果发现，同一个问题有了一种不同的解决方案，而且这个方案的运作方式很相似。

我期望我们能投入更多精力到可解释性上，特别是如果有人真的想推销那些你知道，呃，智能体集群给任何企业，我的意思是，没有企业，没有银行没有，你知道，制药公司会允许自己拥有一个违背它们，然后变成流氓，谁想从我这里买那些东西，没人，对吧？所以如果你真的想卖。有效且非常可操作的智能体集群，在做有益的事情。对公司或个人来说，你只需要证明这些东西会按计划运作。

因为否则没人会买，所以我觉得投资这些是这些公司的切身利益所在。可解释性，而且我觉得监管也应该朝那个方向走。

十三、OpenAI们靠什么盈利：卖安全的企业级智能体

David Lin：在我们结束前，我最后一个问题。我不会问你那种宏观问题，比如，我们该如何为AI的未来做准备？我的意思是，未来已经来了。我觉得我们会定期请你来。给我们更新当前应该做什么。但现在人们真的很期待Anthropic或OpenAI的IPO。我们都假设它会发生。这是。众所周知，这些公司并非一直盈利。然而，Anthropic告诉投资者，它将连续第二个季度盈利，现在我不会去质疑。

这一点，或者支持它，我没看过财务数据，因为它不公开，但我想问的是，如何。Anthropic或OpenAI，就此而言，它们如何保持盈利？换句话说，通往什么的路径？在竞争如此激烈的情况下，大型AI公司要维持变现能力，而且市面上有这么多不同的模型，说实话，

亚历山德拉·切卡林斯卡：没人知道答案，David，没人知道。不过，你知道，他们能吸引到投资，这一点很明确，OpenAI在这方面非常成功，他们在这件事上的成功程度简直令人难以置信，他们很擅长告诉别人，未来几年就能盈利。我觉得，对他们来说，如果没有开源模型，盈利之路会更容易，所以他们才非常头疼中国的开源模型，尤其是，你知道，现在免费发布所有模型。你可以把它们部署在本地。你想怎么用就怎么用。

你知道，开源嘛，等等，你可以按自己的意愿随意修改它们。显然，这对OpenAI和Anthropic这样的公司来说，是个非常大的威胁。在这一点上，他们有共同的目标。他们希望至少在美国，能除掉这类模型。但这会非常难做到。所以，说实话我也不知道，我猜他们想把真正前沿的东西卖给企业。所以得是高质量的东西，别人没有、只有他们能提供的东西，但接下来，他们得用安全的方式提供出来，对吧？

所以他们得能告诉你，我们卖的是前沿的、顶尖的东西，同时还得安全，因为要是不安全，没人会买。所以现在整个局面，媒体围绕危险AI炒得沸沸扬扬，AI失控之类的说法，其实完全违背他们的利益。

我不确定他们是否完全意识到这一点，但如果他们真想有一条安全的路子卖给企业，不是个人用户，而是企业，因为钱在那儿，他们就得说，是的，这很危险，但我们已经掌握了它，现在我们知道它怎么运作，能卖给你安全的东西。他们还得开始压低成本，这是他们的预测，到2030年要花2780亿美元现金，主要花在云计算、算力和数据中心上。嗯，

David Lin：我不知道你能不能评论这个，但呃，当然，如果他们必须想出办法降低固定成本，未来会怎么变，但他们打算怎么做呢？他们已经确保人们习惯了AI几乎免费，对吧？你花20美元买个月订阅，一个月，你觉得还行。要是涨到每月200美元，你可能就得再想想了。

亚历山德拉·切卡林斯卡：所以这就是其实已经很明显了，因为到了月底，你能看到OpenAI的token开始不够用了。而且他们卖给你的模型，跟月初你拿到的已经不一样了。所以这一点，你知道，是明摆着的。也许一个办法就是，去吸引更多愿意相信这个故事的投资者。我觉得这仍然有可能。这是一个非常漫长的泡沫。我们从没见过一个泡沫能拖这么久，你知道，还是在这么不利的环境下。所以谁知道呢？也许奇迹真有可能发生。

收尾：先读一本《哈利·波特》，等着奇迹发生

David Lin：好吧，Alex，感谢你带来的分析。也许……奇迹有可能发生，那我们就先读一本《哈利·波特》等着吧。不过告诉我们，在哪里能找到你的研究成果？

亚历山德拉·切卡林斯卡：随时可以在LinkedIn上找到我，我在那回复很及时，然后还有……X上，我，呃，我在那绝对很活跃，Shaga是我的昵称。所以，呃，对，随时来跟我互动。

David Lin：好的，我们会持续关注你的研究，很高兴能再多聊，以后再跟你聊这个。非常感谢你今天来到节目，谢谢。

————— 已上传百度网盘【PDF百度网盘】—————

https://pan.baidu.com/s/1o2PO3KVFveVHiu40q9r9Yw?pwd=g74u 提取码: g74u