AI语音软件,最重要的指标是什么?是准确率?是方言?是AI能力?
都对。但有一个更重要:响应速度。
响应速度慢,体验差。响应速度快,体验好。
有多快算快?
说"开灯",灯要0.3秒内响应。超过1秒,感觉就慢了。超过2秒,等不及。
0.3秒是什么概念?眨一下眼睛的时间。
这个速度,靠的是本地处理。不是云端处理,是本地处理。
云端处理,要上传语音、等AI识别、返回指令。一来一回,最快也要0.5到1秒。网络慢的时候,2到3秒都有可能。
本地处理,不用上传。语音识别在本地完成,指令直接发出去。0.2到0.3秒,灯就亮了。
这就是为什么,允董的语音软件,坚持本地处理。
快0.1秒,体验不一样。用户说"开灯",灯就亮,像开关一样快。
用户感觉不到延迟。像跟灯说话,灯就应了。
为了这个0.1秒,要做很多优化。语音模型要小、要快、要在本地跑。
大厂的云端AI,做不到这个速度。因为要上传,要云端处理,有延迟。
小团队的本地AI,能做到这个速度。因为在本地,少了上传和返回的时间。
AI语音软件,响应速度是关键。
快0.1秒,用户体验好很多。
允董专注响应速度。目标是0.3秒内响应,像开关一样快。


夜雨聆风