乐于分享
好东西不私藏

华为新专利曝光:AI助手“自我体检”机制,让设备运行大模型更高效精准

华为新专利曝光:AI助手“自我体检”机制,让设备运行大模型更高效精准
专利动态: 华为获批一项新专利,涉及可改善设备与AI助手通信效率的AI解决方案。国内商业信息专利平台“天眼查”已授予该公司这一旨在增强设备通信能力的新创意。
随着AI日益成为日常生活中的重要组成部分,各大品牌正将其融入每款设备,确保所有产品都能根据自身需求选择最合适的AI模式。
华为正是其中之一,它现已公布一项基于AI的通信解决方案新专利,名为——“一种人工智能(AI)通信方法及设备”。
该专利申请显示,这项新的通信技术将使用一种结合了AI能力的设备,使其能够匹配自身的通信系统。它将主要致力于提高AI大语言模型(LLM)在设备上运行的效率和准确性,从而在各方面为用户带来更便捷的体验。
同时,通信系统中的第二台设备会将AI模型相关细节(包括复杂数据)发送给第一台设备,其中记录了不同AI驱动模型的运行时间和能耗表现。
在收到相关信息后,第一台设备可基于自身的硬件能力对模型进行测试,并将结果反馈给第二台设备。
该方案为AI功能提供了一种自检与匹配机制。这样一来,设备无需再逐一评估不同模型,而是能协同处理运行相关模型的能力,并判断哪种模型更适合当前环境。
我们来简单总结该专利的技术核心机制(基于已披露信息)。该专利的核心在于构建一个设备间的AI能力协同与自检系统:
  1. 数据交互:通信系统中的“第二设备”将不同AI模型(大语言模型)的运行时长、能耗表现等复杂数据,发送给“第一设备”。
  2. 硬件自检:“第一设备”接收数据后,根据自身硬件性能进行测试与评估。
  3. 智能匹配:设备自动判断并选出当前环境下最适合运行的AI模型,无需逐一尝试。
  4. 效率优化:大幅提升AI大模型在终端设备上的运行效率和准确性,同时优化能耗。
值得注意的是,这种方法使设备能够更轻松、更高效地完成AI能力评估,同时还能优化评估结果的准确性。