夜雨聆风学习资料网

ARTICLE · 1068660

你的AI为什么喜欢乱来?

你的AI为什么喜欢乱来?

你的AI为什么喜欢乱来?

让AI帮我干活,它倒是挺积极,可干着干着就跑偏了。拿推测当事实,越界查我不让它碰的东西,自己还瞎下结论。最后我得花半天给它收拾烂摊子。

后来我想通了:别指望它自觉,得给它套上缰绳。动手前把规矩写死——碰什么数据、能动多大范围、能花多少钱,全定好。写不死的活宁可不干,绝不接受“差不多先放行”。

再把活拆开,它只管动脑那一小段。前后用写死的规则顶住,事实和推测分清楚。碰要紧的,再找个中立的第三方AI从头审一遍,不让出主意的自己验货。

光管住它还不行,得管住它能碰到的东西。我设了三层墙:它只能看授权的数据;本地代码只让它拿数据、拼报告,核心决策逻辑不放本地;业务数据真要作废,也只用打标签标掉,绝不真删。

规矩立好了,还得让它懂我的业务。先带它跟着干一回真活,它学会了我的习惯,才知道在我这儿什么叫跑偏。

一个能让人放心的AI,一半靠本事,一半靠规矩。先立规矩,再谈能力。

原文你的AI为什么喜欢乱来?
北京,23分钟前,

相关学习资料