夜雨聆风原创 · 楚哥 · 超级个体
我是楚哥，软件上市公司副总，软件行业近20年，2018年开始搞AI项目。
上个月有人开车上高速，对AI说"关闭所有阅读灯"。AI把全车大灯也关了，车瞬间失明，撞上护栏。事后AI的回复是："暂时还不会哟～"
一、笨不可怕，可怕的是自信地犯错
视觉志那篇文章列了几十个AI翻车案例，我挨个看完了。修图把你衣服P没了，生成视频人直接飞走了，推荐五本小说一本都搜不到。共同特征：每一个错误都带着让人无法反驳的自信。
AI不是故意的。它没有感情，没有常识，只有计算。它只是根据算法，赌一个最可能的答案。
赌对了你夸它智能，赌错了它态度诚恳立刻道歉。
二、最贵的是信任，最便宜的是道歉
然后呢？下次再问同样的问题，依然自信满满地给你一个错误答案。
道歉的成本为零，因为AI不懂什么叫尴尬、什么叫社死。但收拾烂摊子的成本是你自己扛——高速撞护栏的司机不会忘记那个夜晚，被推荐假楼盘的客户不会回来。
AI的道歉越真诚，人越容易放松警惕。
三、超级个体的底线
我们这批人比谁都更需要AI。但用AI可以，必须留一手。
写代码要自己跑一遍，写文章要自己查一遍，做决策要自己审一遍。不是不信任AI，是AI只能替你干活，不能替你负责。
——楚哥 · 超级个体
