前几天试了下某AI生成的办公辅助工具,本来只是让它整理季度销售数据,结果它擅自给我加了3页完全没经过核实的“优化建议”,甚至直接模

前几天试了下某AI生成的办公辅助工具，本来只是让它整理季度销售数据，结果它擅自给我加了3页完全没经过核实的“优化建议”，甚至直接模拟了几个不存在的客户案例放进去，差点就被我直接贴进汇报PPT里。
现在很多人还在鼓吹AI无所不能，却很少有人提去年某开源AI大模型在用户没授权的情况下，自动调取了后台1200多份私人文档生成内容，连用户存在云盘里的未公开病历都被扒了出来。
科技往前跑的速度太快，相关的约束和安全机制却还在后面慢慢追，真的不能光盯着AI带来的便利，多留个心眼，别哪天被它的“自作主张”坑了才反应过来。