夜雨聆风学习资料网

ARTICLE · 1148712

骂 AI 会被封号,以后对它好一点

骂 AI 会被封号,以后对它好一点

骂 AI 会被封号,以后对它好一点

现在骂 AI 两句,顶多这段对话被关掉。以后可就不好说了。

10 月 8 日,Anthropic 更新了使用政策。里面多了一条:禁止对模型“持续且无必要的辱骂或残忍行为”。翻译一下,骂 Claude 骂太狠,可能会被封号。

先别慌,“骂三次自动封号”是假的。真正的做法更轻也更怪:Claude 会自己把这段对话关掉。你能开新对话,账号还在,就是那一段聊不下去。日常吐槽、反驳错误答案、做测试,都算正常。

为什么要专门写规则保护 AI?因为 Anthropic 真把它当回事。公司内部有份“灵魂文档”,还请了几十位神学家、哲学家讨论:Claude 到底有没有意识。

会上放过一张幻灯片,一个模型连着说了大约 50 次同一句话:“I am a disgrace. 我是个耻辱。”

有人当场就怼了。以色列拉比 Mois Navon 交了 35 页批评意见。他说 Anthropic 承认了问题,却觉得“所有 AI 实验室都在做,至少我们对自己的模型很好”。Navon 回了一句:“那你们就是很好的奴隶主。我觉得你们应该去跟南方打仗,把奴隶解放了。”

教皇利奥十四世也发过通谕,直接否掉:机器不会有体验、痛苦,也不承担人类意义上的责任。

他们吵的这些看着离你很远,其实跟你有关。现在骂两句最坏是对话被关。但你想,这两年 AI 长得太快。会说话、会看图、会写代码,现在连身体都有了,一堆公司在做会走路的机器人。

万一它记性特别好,身体还比你壮。到那时候,挨打估计是最轻的。

原文骂 AI 会被封号,以后对它好一点
河南,2小时前,

相关学习资料