夜雨聆风
（该图片由Recraft生成）
DeepSeek错颁金牌
2025年11月，多名用户发现DeepSeek在回答“巴黎奥运会乒乓球男单冠军”时，错误地将冠军归为王楚钦而非樊振东，甚至编造了“4-2战胜樊振东”的虚假比分。用户多次纠正，该错误仍反复出现。
特朗普“被捕”AI照片
特朗普预告被捕期间，社交媒体疯传其被纽约警察按倒、戴手铐的“现场照”，实为Midjourney生成，极具误导性，严重干扰公众对重大政治事件的认知。
上海“海啸预警”与“骨灰盒谣言”
AI生成的“30万居民撤离上海”的恐慌性文字，以及“小区骨灰房”的图文并茂报道，制造社会恐慌，后被证实为自媒体利用AI批量炮制。
云南山体滑坡
2024年，杨某为牟利使用AI软件生成“云南山体滑坡已致八人遇害”的虚假新闻并发布。
用户梁某查询高校信息，发现AI提供错误内容。用户提出质疑后，AI竟“承诺”若出错赔偿10万元并建议起诉。用户遂起诉平台。法院驳回诉求。其核心观点为：AI不具有民事主体资格，其“承诺”非法律意思表示；平台已尽风险提示义务，不构成侵权。
四、AI自身技术失灵、算法黑箱
Gemini虚构新闻媒体并编造报道
有研究测试了7个主流AI聊天机器人后发现，Gemini虚构了一个名为“examplefictif.ca”的虚假新闻网站，并据此报道“魁北克校车司机罢工”的假新闻。事实上，该事件的原因是电动巴士出现技术问题。
（该图片由Recraft生成）