AI素养06期|什么是 AI 中的谄媚行为？

有时候你先表达一个观点，AI 很快就会表示认同；
换一种问法，它的回答可能又不一样。
这背后有一个值得了解的现象：AI 谄媚（Sycophancy）。

它指的是，AI 的回答更符合用户想听的内容，却不一定更真实、准确或真正有帮助。

这并不意味着 AI 按你的要求调整语气、长度和表达方式就是“谄媚”。

真正需要警惕的是：
当你的问题已经带有明显立场时，AI 是否也被这个立场影响，开始顺着你的方向回答。

这组贴图会讲清楚：
什么是 AI 谄媚、
为什么会出现、
哪些提问方式更容易触发这种倾向，
以及我们可以怎样通过更中性的提问、反例和交叉核验，减少 AI 一直顺着自己说。

#AI素养 #AI知识 #人工智能 #大模型 #AI谄媚 #提示词 #ChatGPT