端云混合可能是未来AI计算的最终解决方案，AI落地终端具有必要性
思瀚产业研究院    2024-06-21

高通提出了混合AI的概念，据高通《混合AI是AI的未来》，混合AI指终端和云端协同工作，在适当的场景和时间下分配AI计算的工作负载，能够为使用者提供更好的体验同时高效利用资源。

在一些场景下，计算将主要以终端为中心，在必要时向云端分流任务；而在以云为中心的场景下，终端将根据自身能力，在可能的情况下从云端分担一些AI工作负载。• AI落地终端具有必要性，AI落地终端能够在全球范围带来成本、能耗、性能、隐私、安全和个性化优势。混合AI具有显著的五大优势。

首先，它能够将部分处理从云端转移到边缘终端，从而减轻云基础设施压力并减少开支，显著降低生成式AI模型的运营成本。

其次，边缘终端能够以更低的能耗运行生成式AI模型，帮助云服务提供商降低数据中心的能耗，促进环境和可持续发展目标。

第三，终端侧AI处理可靠，能够在网络拥堵时仍然提供高性能和低时延，防止高峰期排队等待和拒绝服务的情况发生。

第四，终端侧AI有助于保护用户隐私，查询和个人信息完全保留在终端上，减少敏感数据泄露的风险。最后，终端侧AI能够实现更加个性化的体验，基于用户行为和偏好定制响应，支持个性化生成式AI应用。这些优势使混合AI在推动生成式AI规模化扩展方面至关重要。

AI终端运行在成本、能耗、性能、隐私、安全和个性化方面具有优势

成本:将部分处理从云端转移到边缘终端，减轻云基础设施压力并减少开支。生成式AI模型的终端侧运行能显著降低运营成本。

能耗:边缘终端能够以更低的能耗运行生成式AI模型，帮助云服务提供商降低数据中心的能耗，推动环境和可持续发展目标。

可靠性、性能和时延:终端侧AI处理可靠，在网络拥堵时仍能提供高性能和低时延，防止因高峰期产生的排队等待和拒绝服务情况。

隐私和安全:终端侧AI有助于保护用户隐私，查询和个人信息完全保留在终端上，减少敏感数据泄露风险。

个性化:终端侧AI能够实现更加个性化的体验，基于用户行为和偏好定制响应，支持个性化生成式AI应用。

更多行业研究分析请参考思瀚产业研究院官网，同时思瀚产业研究院亦提供行研报告、可研报告、产业规划、园区规划、商业计划书、专项调研、建筑设计、境外投资报告等相关咨询服务方案。