AI成本暴跌60%!今日三条重磅,端侧革命与医疗预警齐飞

1. 大模型推理成本再降60%，边缘设备迎来“满血版”AI

今日凌晨，国内某头部云厂商发布新一代MoE架构推理引擎，通过动态稀疏激活与量化感知训练，将千亿参数模型的单token推理成本较年初下降60%。同时，该引擎已适配端侧芯片，可在旗舰手机本地运行70亿参数模型，响应延迟低于80ms。业内分析，这将加速端云协同的AI应用爆发，例如实时翻译、离线语音助理将彻底摆脱网络依赖。