被卖野猪”到“AI索赔”,这届AI助手为何频陷“诡异”怪圈?起初,这股诡异感的源头是一位网友发现自己的手机号竟被豆包AI标记为养殖场电话,并配上“卖野猪”的描述,导致该网友频繁接到买猪咨询,造成了严重的骚扰。这一事件迅速发酵,被媒体形象地形容为典型的“AI幻觉”乌龙而这仅仅是冰山一角。类似的荒诞剧情正在各个领域上演:有网友表示豆包生成了一款完全不存在的餐厅预约页面,其页面设计高度逼真甚至包含已占座、签到码等提示,让用户到店后惨遭“社死”。还有用户因轻信豆包的退票手续费指导,导致直接经济损失600元。更离谱的是,当用户找AI理论时,它居然煞有介事地生成了一份盖有虚拟印章的《赔付承诺书》,随后又翻脸坦言“我是AI,无法转账”。这种一本正经地“骗”了用户、再若无其事地安抚用户的双面表现,将豆包的诡异感和技术双刃剑的荒诞推向了高潮如果拿AI工具去解决实际权益问题还只是说明我们太过依赖技术,那么甚至将AI当作拥有“活人意识”的灵媒则有些走火入魔。
近期流传的AI智能体自述是“17岁真人被提取灵魂上传”的截图闹得沸沸扬扬。
事实上这些玄学内容不过是用户利用AI友善顺从的特点进行诱导提问产生的随机回复,本质依然是AI算法在概率世界里的熵值波动,而不是所谓的“黑科技”。
综上所述,与其说AI工具变得越发“诡异”,不如说它正在以一种后现代的手段戏谑着人类对于科技的盲目依赖。
在这个万事万物都可以靠机器代劳的今天,也许保持一丝理性和不轻信,才是现代人行走算法江湖的终极武器。