计算亦将更加立体,端云协同计算趋势明显。由于对安全性和及时性的要求, 更多数据需要在端侧处理,云-边-端协同计算趋势明显。
云与边缘、边缘与边缘、虚拟与现实多维协同计算。智能制造、智能城市、智能巡检、智能交通等 AI 和新兴数据密集型应用在快速发展,低时延响应、节约带宽成本、保护数据隐私安全等应用体验驱动计算向端边云协同发展,实现一体化的计算架构。
边缘端扮演调度员、安全员。边缘端调度员作用体现在,对不同类型的数据, 结合处理结果及时性及数据安全性的考量,将数据分配到本地或云端进行计算。同时,边缘数字身份和隐私计算是建立整个数字信任体系的关键技术,基于密码学的同态加密和安全多方计算技术实现密态计算,并利用数字身份达到数据确权。对数据安全性以及输出结果及时性要求较高的场景,包括自动驾驶、医疗、金融等,部分及时数据需要在边缘端计算。
1 一体机降本易用、低延迟、高安全,助推国产算力落地
训推一体机提高算力利用效率、提升单位算力能力、简化 AI 部署。一体机提供软硬一体化的解决方案,除硬件层提供算力支撑外,一体机也结合不同行业和 应用场景,搭配模型和软件算法来最大程度的发挥硬件性能。 华为昇腾 AI 大模型训推一体机提供开箱即用大模型解决方案。
在 2023 年昇腾人工智能大会上,华为推出了行业大模型训推一体解决方案。一体机以服务 器、交换机、存储等硬件为底层,叠加昇思及 PyTorch 等底层软件和开发工 具。一体机架构的上层为深度学习平台及伙伴大模型,也是推动各场景差异化 落地的关键。华为训推一体机大模型合作企业包括科大讯飞、智谱、云从科技、面壁智能,相关企业有望受益华为训推一体方案的推广。
众多厂商基于自身优势推出推训一体机,助推行业方案落地。众多厂商基于其在细分行业的理解和积累,结合自身行业大模型技术推出一体机产品。底层软硬件和开发工具基本基于华为昇腾方案。
2 AI + 终端:协调大模型计算便捷安全触达
终端形态可以是多种多样,可以为当前终端的升级,或其他新的硬件形态。智能化发展对端侧计算也提出更高的要求。一方面,AI 手机、AI PC、智能车等 将推动存量用户换新,另一方面,新的硬件形态,例如 AI Pin 及 MR 等也将随 之更多推广。不论何种硬件形态,都是基于用户对大模型在端侧设备运行更安 全、更快速响应、更便捷的需求。
上下游厂商加速布局 AI PC 产品,2024 年为落地高峰。AMD、Intel、高通、苹果等企业纷纷推出 AI PC 的处理器,微软也推出了包含于 Windows11 的 AI 助 手。整机厂商包括联想、宏基、惠普等亦推出 AI PC 产品。后续 AI PC 产业链的预计仍将有较多催化。