深度合成鉴伪检测系统研发建设项目可行性可行性研究报告
思瀚产业研究院 浩瀚深度    2023-08-12

1、项目基本情况

（1）项目建设内容

本项目拟主要针对深度伪造鉴伪技术进行开发，支持运营商网络的图片、音频、视频文件深度伪造鉴伪、鉴伪结果人工审核标注、页面快照取证、异常行为预警、统一数据接口、海量文件训练等功能。为运营商、工信部、公安、安全等行业提供高性能深度伪造鉴别解决方案。

（2）项目实施主体及建设周期

本项目实施主体为北京浩瀚深度信息技术股份有限公司，建设周期为 3 年。

（3）项目投资概算与融资安排

本项目拟投资 30,529.49 万元，其中拟使用募集资金投资 20,380.91 万元。

（4）项目备案、审批情况

目前相关项目的备案、环评等手续尚在办理中。

2、项目建设的必要性

（1）本项目是公司把握网络技术发展新机遇的有效举措

近年来，人工智能各项技术飞速发展，应用更加普及多元。其中，深度合成和生成式 AI 技术作为人工智能领域的创新应用技术，以其较低的应用门槛、较强的娱乐属性、丰富的应用场景备受关注。

根据彭博行业研究（BloombergIntelligence）新近报告预计，ChatGPT 将给生成式 AI 市场带来为期十年的繁荣，市场规模将以 42%的速度扩张，2032 年全球生成式 AI 市场规模将达到 1.3 万亿美元。根据浙商证券研究所测算，预计到 2025 年，国内生成式 AI 市场空间可达403.52 亿元，到 2030 年市场空间可达2,175.58 亿元，未来几年市场有望迎来爆发式成长。

在网络技术飞速发展的同时，2023 年 7 月 10 日，国家互联网信息办公室发布《生成式人工智能服务管理暂行办法》，聚焦生成式人工智能，在算法设计、训练数据选择、模型生成和优化、提供服务、生成内容、个人信息和隐私保护方1 《人工智能行业深度：潮起潮落， 拐点已过，AIGC 有望引领人工智能商业化浪潮》，浙商证券，2023年 2 月。

面均做出了限制，为生成式人工智能的产品推出设立了门槛。这是国家首次向生成式人工智能领域发布产业规范性政策文件，为相关市场迎来发展新契机。

本项目将牢牢把握网络技术发展新机遇，重点研发深度伪造图片、视频鉴伪引擎、深度伪造音频鉴伪引擎、深度伪造多态融合深度伪造鉴别引擎；基于互联网海量数据的图片、视频、音频训练标记模型；深度伪造鉴伪应用管理系统；深度伪造鉴伪北向数据接口以及基于各类应用场景，进行型号和功能细分和产品化包装，为运营商、工信部、公安、安全等行业提供高性能深度伪造鉴别解决方案。

（2）本项目是帮助提升运营商公共互联网深度伪造行为检测能力，满足监管要求的重要手段

随着深度合成和生成式 AI 技术的开放开源、深度合成和生成产品和服务的增多，技术门槛快速降低，技术逐渐“平民化”。深度合成和生成式 AI 技术被滥用的可能性提高，造成安全风险与实质性危害，包括制造虚假视频、语音进行诈骗、勒索的违法行为不断增多，给个人、企业造成肖像、名誉等人格和财产权益损害。深度伪造技术的发展给社会带来了巨大的负面影响，从社会国家领导人到普通的互联网公民，都有被此类技术侵害的可能性，深度伪造的治理已经迫在眉睫。

为了能够有效防控深度合成技术带来的危害，在工信部的统一部署、信通院整体规划、运营商配合实施下，工信厅印发《关于印发<2022 年省级基础电信企业网络与信息安全工作考核要点与评分标准><2022 年基础电信企业专业公司网络与信息安全工作考核要点与评分标准>的通知》（工信厅网安函〔2022〕55 号）的要求，中国移动的 5 个试点省份企业需按要求配合开展深度合成检测处置技术手段建设，标志着深度合成检测处置技术手段的建设工作已经开始启动。

通过本项目的建设，能够实现快速、精准检测虚假伪造信息，并对虚假信息进行溯源，筑牢网络防御体系，让伪造虚假信息，误导舆论等行为更易被追踪发现处置，是协助运营商进行公共互联网深度伪造行为检测，满足监管要求的重要手段。

（3）本项目是丰富公司产品种类，实现公司可持续快速发展的重要途径

本项目属于公司信息安全防护解决方案系列的产品扩展。公司信息安全防护解决方案目前拥有互联网信息安全管理系统与异常流量监测防护系统，基础核心技术均来源于自主研发，相关业务是运营商为满足工信部考核要求而相应产生的市场需求。

随着“新基建”的推进以及“数字经济”的发展，工信部对运营商公用网络的安全性不断提出新的要求，相关市场需求预计持续增长，未来公司将紧密围绕工信部以及运营商需求，研发深度伪造检测产品，不断丰富产品种类、提升产品性能，全面积极参与运营商网络安全项目建设，持续满足客户市场需求，从而占据新的市场，不断提升产品市场竞争力，促进公司可持续快速发展。

3、项目建设的可行性

（1）国家各部委陆续推出重要政策大力支持深度伪造检测技术的发展

2021 年以来，国家网信办、国家发改委、工信部、公安部等多个有关部门已陆续出台《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法律法规，对深度合成及AI 生成式内容进行管控。《互联网信息服务算法推荐管理规定》要求对算法生成合成的信息做显著标识，并要求提供互联网新闻信息服务的算法推荐服务提供者和使用者，不得生成合成虚假新闻信息。

《互联网信息服务深度合成管理规定》则更加细致地规定了包括智能对话、智能写作、人脸生成、人脸操控、姿态操控等具有生成或显著改变信息内容功能的深度合成服务应当遵守的要求，包括以显著标识的形式向公众提示。

2023 年 7 月 10 日，国家网信办发布的《生成式人工智能服务管理暂行办法》进一步对生成式人工智能的开发与使用等进行规范，表明国家对于人工智能创新持支持态度，加强监管力度，引导产业发展趋势。国家层面逐步完善的监管政策成为深度伪造检测技术发展的重要推手，为本次募投项目的实施提供了良好的政策环境。

（2）本项目立足于满足运营商、网络管理部门的系统建设需求，市场空间广阔

得益于人工智能技术的不断发展与开放，深度合成技术已经广泛应用于文本、图像、音频、视频、虚拟场景等数字内容的生成生产，在影视、传媒、教育等领域实现大规模应用。根据清华大学人工智能研究院发布的《深度合成十大趋势报告（2022）》，近几年，深度合成内容制作和传播数量高速增长。

2021 年新发布的深度合成视频数量，较 2017 年已增长 10 倍以上。此外，深度合成内容关注度也呈指数级增长，以视频的“点赞/喜欢”互动数据为例进行统计，2021年新发布的深度合成视频的点赞数已超过 3 亿。

在数字经济快速发展的同时，网络安全风险隐患也逐渐增多，催生了对网络安全技术和产业发展的新需求。运营商作为建设新型基础设施的重要力量，如何构筑网络安全体系，保障运营骨干网络，支撑网络及其承载业务的安全性是其面临的严峻挑战。为了能够有效防控深度合成技术带来的危害，在工信部的统一部署、信通院整体规划、运营商配合实施下，中国移动的 5 个试点省份企业已被要求配合开展深度合成检测处置技术手段建设，未来运营商、网络管理部门的系统建设需求广阔。

本项目建设完成后，能实现对公共互联违法传播深度伪造图片、音频、视频行为的检测。随着国家加强对生成式 AI 的监管，运营商等重点行业客户对深度伪造监测的需求将持续增加，项目下游市场空间广阔，前景良好。

（3）公司充足的研发人才队伍及深厚的技术储备为项目实施提供保障

公司拥有充足的研发人才队伍和深厚的技术储备。截至 2022 年 12 月 31 日，公司拥有研发人员 181 人，占员工总数的 41%，公司核心研发团队拥有流量采集、分析及管控等关键技术背景，具有丰富的行业、技术及管理经验，研发团队始终紧跟产业和技术发展前沿，不断从行业发展中汲取经验，将先进的产品开发和设计思路融入到公司产品中去，为公司的长远发展提供了坚实支撑。

在技术储备上，深度合成鉴伪检测系统以浩瀚私有云技术为基础，后台系统支持虚拟化、容器化部署等多种部署模式，公司现有的私有云环境具备相应的研发及测试的环境，为系统任务开发提供有力帮助。另外，公司充分利用外部人才优势，采用产学研相结合研发模式，依托浩瀚深度、北京邮电大学、天津移动联合成立的安全实验室研发能力，开发图片、视频、音频和多模态鉴伪引擎。

综上，公司完善的研发人才梯队和深厚的技术储备，能够保障本项目高质量、高效率的运行和实施。

可行性研究报告依据国家部门及地方政府相关法律、法规、标准，本着客观、求实、科学、公正的原则，在现有能够掌握的资料和数据的基础上，主要就项目建设背景、需求分析及必要性、可行性、建设规模及内容、建设条件及方案、项目投资及资金来源、社会效益、经济效益以及项目建设的环境保护等方面逐一进行研究论证，以确定项目经济上的合理性、技术上的可行性，为项目投资主体和主管部门提供决策参考。