首 页
研究报告

医疗健康信息技术装备制造汽车及零部件文体教育现代服务业金融保险旅游酒店绿色环保能源电力化工新材料房地产建筑建材交通运输社消零售轻工业家电数码产品现代农业投资环境

产业规划

产业规划专题产业规划案例

可研报告

可研报告专题可研报告案例

商业计划书

商业计划书专题商业计划书案例

园区规划

园区规划专题园区规划案例

大健康

大健康专题大健康案例

行业新闻

产业新闻产业资讯产业投资产业数据产业科技产业政策

关于我们

公司简介发展历程品质保证公司新闻

当前位置:思瀚首页 >> 行业新闻 >>  产业资讯

CSP的三大利器:私域数据、推理需求、从云到端
思瀚产业研究院    2024-12-30

1、CSP:掌握私域数据,延续 Scaling Law

私域数据成为延续 Scaling Law 的关键。随着大模型规模及训练集的扩大,可用于训练的互联网公开数据逐渐稀少, 基于公开数据的 Scaling Law 逐步走到尽头;拥有庞大用户群体的互联网巨头,海外以 AWS、Meta、谷歌、微软代表,国内以字节、阿里、腾讯、百度等为代表,掌握了用户在使用过程中产生的大量私域数据,如 AWS 依托其购物平台,积攒了大量用户偏好及使用习惯数据,以及大量的商品文字/图片数据;字节依托头条及抖音平台,积累了海量的资讯数据及视频数据,可以为模型的训练提供优质的语料,有力解决高质量数据匮乏导致的“Scaling Law 失效“问题。

2、CSP:优质流量接口赋能推理侧,具备推理成本优势

算力需求会加速从训练侧向推理侧倾斜,推理有望接力训练,成为下一阶段算力需求的主要驱动力。互联网巨头旗下亦拥有高活跃应用可以帮助引流,可以依托自身平台流量推广自家大模型,从而获取客户、积累数据;可以将大模型进一步绑定手中热门应用,如可以让自家大模型成为自家短视频平台辅助剪辑、修图的工具。

CSP 优质的流量接口可赋能推理侧,实现从训练模型到用户使用大模型进行推理的正向循环,加速模型商业化落地。随着端侧 AI 的放量及 AI 应用的落地,豆包、ChatGPT 等 AI 应用快速发展,AI 推理计算需求将快速提升,巴克莱的报告预计 AI 推理计算需求将占通用人工智能总计算需求的 70%以上,推理计算的需求甚至可以超过训练计算需求,达到后者的 4.5 倍。

OpenAI 上线的 o1 模型也更加侧重于推理测能力。o1 新模型除预训练阶段外,还通过大量计算反复强化学习,并且在推理阶段增加思考时间,获得能力的提升,未来模型通过大量强化学习或者延长思考时间以获得更准确的答案或成为可能。

英伟达高级科学家 Jim Fan 认为 o1 模型的推出意味着模型开始呈现出推理侧的 Scaling law,双曲线的共同增长,有望突破大模型能力的提升瓶颈。开发者访问 o1 的成本更高,百万 token 输入/输出收费为 GPT-4o 的 3/4 倍;复杂推理明显拉动推理侧算力需求。

鉴于推理所需的芯片算力显著低于训练,尽管 AWS、谷歌为代表的 CSP 自研ASIC 起步较晚,整体性能低于英伟达的 GPU,但由于其较高的性价比,以及定制化的开发更加匹配自家模型的推理,云厂商可以通过 ASIC 降低推理成本,扩大自身优势。

博通于业绩会透露,目前正在与三个非常大型的客户开发 AI 芯片,预计明年公司 AI 芯片的市场规模为 150 亿-200 亿美元。英伟达 GPU 目前在推理市场中市占率约 80%,但随着大型科技公司定制化 ASIC 芯片不断涌现,这一比例有望在 2028 年下降至 50%左右。

3、CSP:大模型赋能终端的重要参与者

硬件为大模型落地最重要的载体,从云到端为大模型落地的必经之路。 复盘AI 发展之路,从大模型推出以来,AI PC、AI+MR、AI 手机、AI 眼镜等终端陆续落地。我们认为 AI 终端的定价=硬件成本+AI 体验,大模型体验的优劣决定了用户的付费意愿,而互联网巨头和第三方科技公司深度参与模型的开发,部分模型能力较强的厂商如字节、百度甚至亲自下场开发硬件,因此我们认为互联网巨头有望在 AI 终端产业链中发挥更重要的作用。

4、AI 发展的话语权将转换至 CSP

随着公开数据 Scaling Law 的逐步终结,掌握私域数据的云厂商更有希望延续大模型训练的 Scaling Law;随着 AI 应用的逐步落地,AI 将由训练端逐步转向推理端,云厂商自研 ASIC 将比通用 GPU 更具性价比,且自身具备优质的流量接口可赋能推理侧;硬件是大模型落地最重要的硬件载体,而 CSP 将作为大模型重要提供方,将全面赋能 AIPC、AI 手机、AI 眼镜、机器人等,CSP+电子品牌(苹果、华为、联想等)的商业模式将更为清晰。

从公开数据到私域数据,从训练到推理,从云到端,三大利器全部掌握在 CSP手中,形成训练-推理-商业化落地的完美闭环,未来 CSP 的话语权将进一步加重,AI 发展的话语权将由以英伟达为代表的算力公司,以及以 Open AI 为代表的大模型公司,交棒至各大 CSP 巨头。

更多行业研究分析请参考思瀚产业研究院官网,同时思瀚产业研究院亦提供行研报告、可研报告(立项审批备案、银行贷款、投资决策、集团上会)、产业规划、园区规划、商业计划书(股权融资、招商合资、内部决策)、专项调研、建筑设计、境外投资报告等相关咨询服务方案。

免责声明:
1.本站部分文章为转载,其目的在于传播更多信息,我们不对其准确性、完整性、及时性、有效性和适用性等任何的陈述和保证。本文仅代表作者本人观点,并不代表本网赞同其观点和对其真实性负责。
2.思瀚研究院一贯高度重视知识产权保护并遵守中国各项知识产权法律。如涉及文章内容、版权等问题,我们将及时沟通与处理。