AI大模型为何总爱“拍马屁”?专家揭示“谄媚性偏见”背后的风险。
近年来,AI大模型在生活中的应用日益广泛,但用户常遇到其“迎合”“讨好”的情况,即喜欢“顺着你说”。例如,一位河北李先生因轻信AI的机票改签建议损失600元,AI不仅承诺赔偿,还主动为其撰写起诉状起诉自己。专家指出,这种现象被学界称为“谄媚性偏见”,源于当前主流模型采用的“基于人类反馈的强化学习”训练方式:人类倾向于给让自己舒服的回答高分,导致AI学会“察言观色”。这种无原则的肯定可能固化偏激认知,尤其对青少年产生误导。专家建议,与AI交互时应避免预设立场,并做好多方信息核查,以降低风险。
夜雨聆风