HUAWEI HiAI Foundation端云协同助力开发者快速上线新业务

目前AI服务和算法模型不断快速演进，AI计算平台难以快速适应新服务、升级新算法。

为了帮助开发者快速推出新业务，为消费者提供新体验，华为HiAI  Foundation在华为开发者大会2021(HDC)上发布了全新技术功能——端云协同。一起)。端云协作是为新业务场景运营商和现有典型业务场景运营商提供性能优化和平台能力快速升级的解决方案。它拥有可变的计算框架和广泛的模型结构，帮助开发者快速支持新模型和推出新服务，让消费者快速获得端侧AI带来的体验提升。

把运营商库放到云端，老手机“焕发青春”

首先，端云协同解决了老手机的“新服务”问题。

以往消费者想要体验最新的AI功能和服务，需要等待运营商库更新，而运营商库内置在手机的ROM中，只有在手机新版本更新时才能更新运营商库。但是，旧手机的版本更新次数会随着时间的推移而减少，甚至会停止服务，停止更新。如果手机版本不更新，运营商库的升级将成为难题，消费者体验将被耽误。此外，新功能从开发到rom升级的周期也是几个月，极大影响了新业务推出的周期。

端对云协同可以让老手机用户更灵活地享受更新更好的服务，不受终端版本的限制。基于华为端核云的优势，——底层是计算芯片和HiAI  Foundation，端侧有预设的HiAI  Engine，云侧有自己的计算库插件更新云，HiAI  Foundation可以把运营商库放到云中。当新支持的运营商或性能优化发布后，华为HiAI  Foundation会在空闲时间默默自动更新新的运营商库。开发者只需要在APP开发的时候正常调用，不知觉地使用升级后的计算能力，就可以刷新旧手机。

fde4c2e8-42c3-11ec-b939-dac502259ad0.png

(HiAI基金会云协作示意图)

将模型放到云中，开发人员可以根据需要使用它。

其次，端云协作可以快速匹配开发者的需求，帮助他们降低开发成本。

通常，应用程序开发的理想状态是一个模型可以应用于所有类型的手机终端。虽然在CPU上运行该模型可以实现这一目标，但传统的以CPU为核心的计算架构已经不能满足当前应用对计算性能的强烈需求，很多应用只有借助NPU强大的计算能力才能将功能发挥到极致。此时，开发人员需要为NPU定制模型，但问题随之而来。一方面，不可能在打包的一个SDK中下载所有的模型，另一方面，API的大小会受到限制，开发麻烦会增加而不是减少。

HiFoundation的云协同解决方案支持开发者将模型放入云端，不仅可以节省APP的体积，还可以为芯片独立部署最佳模型，最大化用户体验。端云协同技术不会干扰开发者的任何模型数据，真正建立起完整的生态屏障，帮助各行业开发者加速业务应用的落地。

fe6c9a4c-42c3-11ec-b939-dac502259ad0.png

(HiAI基金会云协作示意图)

未来是一个以智力为主导的时代。HiFoundation将利用这一端云协同的渠道，进一步放大端侧的AI能力，通过端云协同的运营商搜索、融合策略、异构细分策略、FFTL等技术赋能NPU模型，快速、高效地解决开发者的技术难题