新轮科技革命和产业变革正在快速推进，大数据的爆发式增长、算法的革新、算力的提升及络设施的演进驱动人工智能发展进新阶段，智能化成为技术和产业发展的重要向。人工智能具有显著的溢出效应，将进步带动其他技术的进步，推动战略性新兴产业总体突破，正在成为推进供给侧结构性改的新动能、振兴实体经济的新机遇、建设制造强国和网络强国的新引擎，源源不断地为数字经济的发展提供持续创新动力。
而计算力是承载和推动人工智能走向实际应用的基础平台和决定性量，根据IDC全球DataSphere的研究，全球新创建的数据量将从年的33ZB增到年的ZB。随着数据持续爆炸性增长及算法的不断演进，未来算仍有很的发展空间。8月28日，人工智能计算大会在京举行，会上IDC联合浪潮集团发布了《-中国人工智能计算力发展评估报告》。
本期的智能内参，我们推荐这篇研究报告，揭秘最新中国人工智能算及应的发展现状，并从宏观经济、技术成熟度、劳动供给三个维度对人工智能算力的发展平和未来发展潜力进行评估。
一、中国人工智能算力及应用的发展现状
1、算力基础架构的发展
算力，作为工智能发展进步的基础保障,其发展进步将对人工智能技术的进步和行业应用起到根本性的作用。IDC从算力基础架构层面，重点研究和考量芯片、服务器、边缘设备、AIaaS和主流框架等个方面的发展及变化，旨在了解-年算力的革新和进步，下就此进行逐分析：
预计年，推理市场占比将超过训练，芯片市场将迎来多元化发展。算法，数据和算力是人工智能的三大要素，其中数据的获取以及处理的难度在慢慢下降，算法也在多种深度学习的框架上不断优化。因此，市场将目光聚焦在将数据和算法协调起来的芯片上。目前，人工智能芯片大致可分为以下几类：
▲人工智能芯片
按照工作负载，人工智能芯片可以分为训练芯片和推理芯片，训练是指在已有数据中学习，获得某些能的过程，对计算的精度要求较高，它直接影响推断的准确度。这就要训练芯片有强大的单芯片计算能力，目前GPU芯片更适合用于训练负载。而推理过程则是指对新的数据，使用这些能力完成特定任务（比如分类、识别等）。
▲推理和训练市场占比预测
目前，人工智能领域的主流芯片依然是GPU芯片，其中英伟达和AMD是较突出的两厂商。英伟达的优势在于矩阵运算，先后推出了PascalGPU和Volta架构；AMD作为GPU的另一大厂商，也推出RadeonInstinct系列，预计将于数据中心等人工智能基础设施上。FPGA经常做ASIC芯片的批量替代品，近年来在微软和百度等公司的数据中有部署，以提供强的计算和够的灵活性。前市场上应用比较多的是Xilinx和Intel两大厂商。ASIC芯片是针对专应用而特别设计的，所以可以满足体积小，功耗低，保密性强，计算效率等用户需求，并且出货量越其成本越低。目前，国内主要的ASIC芯片供应商，国内有寒武纪、地平线、华为等，国外有Graphcore等。
未来五年，中国人工智能服务器市场复合增率将超过30%，增速达到中国整体服务器市场增速的三倍。人工智能市场的爆发带动智能服务器的发展驶入了快车道，服务器厂商相继推出搭载GPU、FPGA等多种加速类型专向人工智能作负载的人工智能服务器，适于深度学习、计算机视觉、语音识别、然语处理、视频分析等领域，泛应用于视频监控、图像处理、动化客服、精准营销推荐等典型AI应用场景。另外，些厂商也推出了专的GPU体机，如英伟达的DGX系列服务器和浪潮的AGX系列服务器。
人工智能服务器采用异构架构进行加速计算，可以分为CPU+GPU、CPU+FPGA、CPU+ASIC等多种形式。和传统服务器相比，人工智能服务器在组件上，如内存模块、存储模块、网络模块与传统服务器差别不大，主要的提升为持更容量的内存满当下实时负载增加的需求，提供更多外置硬盘插槽，并广泛支持NVME∕PCIE等协议，满足数据洪流需求。除此之外，各大厂商也在不断完善并发展新的互联协议，例如英伟达推出的可实现GPU之间互联的NVLink协议，以及Intel推出的速互联的CXL协议。尽管人工智能服务器可以采多种异构形式，但目前市场上广泛应用的还是CPU+GPU架构的服务器，随着摩尔定律失效，CPU的物理工艺和核心数已接近极限，在万物皆AI的时代下，数据总量呈指数级增，仅由CPU提供算的传统服务器很难满足这种密集型计算的需求，而目前CPU+GPU架构恰好能很好的解决算的问题，GPU的并行计算能力适用于人工智能起步阶段的数据量的训练，擅长处理密集型运算应用；另外人工智能推理通常需要实时进行，并且需要强的处理性能。
未来人工智能将会是传统企业数字化转型的关键，到年全球35%的员将开始使机器或其他形式的人工智能。随着人工智能推理与各业的深度融合，搭载各类人工智能加速卡的服务器将会层出不穷。IDC预计，于人工智能工作负载的服务器是全球及中国服务器市场中迅速增长的部分，全球人工智能基础设施市场规模年达到67亿美元，同增46.0%，在年将达到亿美元，未来五年复合增长率为27.9%；中国人工智能基础架构市场在年约为19亿美元，年将达到83亿美元，未来五年复合增率为33.8%，其中，服务器市场规模占整个硬件市场85%以上。年GPU服务器继续保持速增，销售额同增.2%，仍然是人工智能服务器的主流。
其中16卡GPU服务器增z迅速，销售额从年的万美元增到年的2.63亿美元，同比增速高达.7%，在GPU服务器整体份额中的例从年的3.7%增长年的20.2%，浪潮在这细分市场占最，份额接近8成。另外，GPU中的M4、P4、T4型号销售额从年的万美元，增长到年的3.6亿美元，在整个GPU的份额占从8.5%提升到27.6%。同时，年FPGA销售额达到万美元，同大幅增了.1%，这趋势表明，中国人工智能已逐渐步入大规模应阶段，产业AI化进程正不断加速。从供应商来看，中国本供应商占据了部分国内的市场份额，年中国GPU服务器市场份额排名前三的供应商依次为浪潮、华为和曙光，其中浪潮占超过50%。浪潮凭借较早的进入人工智能领域，通过JDM模式与领先互联网公司进行深合作，在中国互联网业，浪潮GPU服务器市场份额超过60%，并不断向传统行业渗透。
5G和物联推动边缘、端侧人工智能快速发展，性能、灵活性和能效将成为用户未来重点考量因素。随着5G和物联网的发展，传感器、摄像头等终端设备产了空前规模的数据量，虽然核数据中对于数据分析、机器学习和人工智能算法的开发关重要，但越来越需要将智能靠近边缘端以便及时做出决策，“核心计算”向“边缘计算”转化的过程中，将会激发边缘IT基础设施的进步发展。
边缘位于终端和核之间，IDC将边缘分为轻边缘和重边缘，轻边缘用于特定功能，例如控制，数据采集和传输的低功耗计算平台，有时也需要提供分析功能，例如车载计算平台等；重边缘相轻边缘更靠近核心层，是集成的计算平台，常见部署于型数据中，主要提供IT功能，有时也会集成OT功能。同时，专门面向边缘计算和5G作负载的边缘计算服务器应运而生，具有在极端边缘部署环境中抗温、防尘、防腐蚀、电磁兼容、抗震等特性，适于图像识别、视频监控等边缘AI应场景，以及物联网、MEC、NFV等5G应场景。
目前，36%的中国用户正在使边缘计算设备来分析物联数据，领先的服务器商已经开始布局边缘计算平台。另外，5G即将商用也将极推动边缘计算的大规模部署，对于5G大带宽、低时延、本地化的业务特性，大量的业务需求将发生在边缘场景，中国的电信运营商也将积极推进MEC边缘云的建设。IDC预计未来边缘数据中心将会分担部分核数据中心和端侧功能，与云起构建融合计算、存储和络功能的边缘能力，承载边缘产生的数据计算、分析等需求，充分释放与俱增的算的潜。
物联网终端设备以摄像头为例，全球范围内有数以亿计的摄像头，每天都在产EB级的数据，其中，中国在全球占比最大。随着人工智能技术的迅速发展，智能摄像头在智慧城市（异常行为识别、人群异常聚集识别、交通红绿灯配时优化等），制造（机器视觉质检）等领域被泛应用，以应对海量的图和视频数据处理。
人工智能与云的融合将进步加速，未来五年，AIaaS市场规模的年复合增长率为66.0%，将成为推动云计算市场增长的重要细分领域。近年来，企业IT基础架构的部署模式已经发生了显著的变化。企业从传统采购服务器、存储和网络等硬件和软件及服务加速向公有云上迁移，相应从AI的能力来看，企业也逐步开始向公有云服务供应商采购云上GPU和FPGA等计算能力以及AI能的AIaaS服务。AI与云的融合是必然趋势，AI将会以公有云服务的形式使企业能够轻松在云上获取AI能力从而有效的访问和使AI技术。
AIaaS发展潜力巨大，也将成为推动云计算市场发展的最主要动力之。IDC预计，未来五年，AIaaS市场规模的年复合增率将为66.0%，将成为推动云计算市场增的重要细分领域。AIaaS的发展与AI态的发展息息相关，在过去几年随着AI在数据、算法和算的日益成熟，行业应用更加丰富，以及AI产业链各个商的贡献，尤其是以云服务商为代表的的软件平台型商在AI平台和技术上的投与创新，使得AIaaS应场景更加丰富和成熟。
AI生态中软件平台型商是不可或缺的类参与者，软件平台型商按照技术分类可以分为通用机器学习平台、可分为通用机器学习平台、自然语言处理类、计算机视觉类、知识图谱类商。平台型商提供包含了训练好的模型的通技术平台，可以向应场景提供推理服务。云服务商是典型的软件平台型商，以阿里云、百度云、腾讯云、AWS等为代表的云服务商提供包括GPU和FPGA的云服务器实例，以及语语义、计算机视觉、自然语处理、知识图谱、深度学习等丰富的AIaaS服务，同时提供向融、政府、制造、零售、教育、交通、医疗等业AI解决案。
软件框架市场逐渐呈现双足鼎立之势，并向标准化发展；TensorFlow依然占据主导地位，PyTorch将从优势领域突破，未来的竞争格局更加激烈。目前，主要的软件框架包括TensorFlow,PyTorch,Caffe,MXNet,CNTK,Theano,PaddlePaddle等，其中被应用最泛的是TensorFlow和PyTorch。TensorFlow功能全，可被于语识别或图像识别等机器学习和深度学习领域，具有泛的兼容性和完备的生态系统，目前依然是用户接受度最高的主流框架；PyTorch是基于Python语的人工于深度学习计算包，包含大量机器学习、计算机视觉、并行计算、图像、视频处理的库，非常灵活和快速，并且能实现在GPU上的计算优化。从发展趋势来看，软件框架逐渐向标准化发展，例如歌也开始在TensorFlow最新版本中也提供了动态图持，增加了易用性；Facebook将PyTorch和Caffe2的优点整合到起，幅增加了其性能，实现了平稳过渡；百度的深度学习开源平台PaddlePaddle是国内自主开发软件框架的代表，其最大的特点就是易用性并持业级应用，随着中国对深度学习框架的逐年重视，百度的PaddlePaddle需要建更完备的生态，未来依然有很的发展潜。
2、算力是推动产业AI化前进的源动力
算力基础设施的进化推动了产业AI的发展，随着云计算、大数据以及高性能计算这些底层硬件的支撑，人工智能能够解决的企业需求也越来越多，应用场景也越来越广泛。
▲中国人工智能应用场景的发展
▲年中国人工智能产业投资额（美元）
人工智能经过数十年的发展，已经从实验室阶段到进化到AI产业，领先的人工智能、互联网公司相继推出人工智能产品，例如智能音箱。年，智能音箱的市场得到飞速发展，根据IDC报道，年第一季度智能音箱市场出货量达到万台，同比增长.2%，家庭普及率已经和PC、智能电视等产品相当，且未来发展空间巨大。
IDC预测，在年-年，有望得到泛使的应场景包括制造业领域的IT动化、QC动化、ERP动化；零售业的动结账、客流分析、商品稽核；电信业的智能络、智能服务等。
3、生态是跨越鸿沟的必经之路
大部分业用户对于人工智能采取了开放的心态，但是未来的挑战在于如何快速建智能的应。传统企业的IT供应商不具备人工智能技术的优势，而人工智能技术的开发者对于垂直行业没有很强的耦合力。算力虽然提供了前进的源动力，但人工智能在产业的渗透最终还需要可供行走的公路。目前，中国已经有部分领军企业开始推动人工智能生态的建立，例如前提到的阿和百度等互联网企业，通过在公有云上提供AI服务来帮助企业解决应落地的问题。在本地环境，也有浪潮等智能领先企业在推动生态的建设，浪潮提出的“元脑”生态，包含人工智能算力、算法框架和服务，拉通行业用户、扎根行业的SV、SI，以及人工智能开发者，提供面向场景的整体解决方案。未来，基于生态的创新变得益重要，如何构建产业生态，为更多上下游供应商提供整合的平台，为最终用户输出理想的解决案在未来也变得关重要。
二、中国人工智能算力发展评估
1、整体评估
IDC从宏观经济、技术成熟度、劳动供给三个维度对智能算的发展平和未来发展潜力进评估，重点考量了包括经济状况、基础架构、第三平台、人员水平等核因素。这些因素对本次评估的定性和定量部分关重要。如下图所示：
▲评估体系框架
中国人工智能市场未来五年将持续保持高增长率，硬件市场规模占将持续在50%以上。IDC将智能市场按技术类别分成硬件、软件和服务，未来5年中国人工智能市场总体规模将继续保持高增长率，年复合增率将达到44.9%并超过亿美金。在整个人工智能市场中，硬件市场规模异常突出，IDC预测，年人工智能硬件市场将达到83亿美。方面原因是中国市场投资新兴技术时倾向于首先投资硬件，另方面原因是在智能模型的训练及预测市场中，以图形处理器（GPU）为代表的异构服务器价格远高于CPU，IDC预计在年之前，人工智能硬件市场规模占都将在50%以上，其中，服务器市场规模占整个硬件市场85%以上。
▲中国人工智能整体市场规模及预测，-
▲中国人工智能服务器市场规模及预测，-
用户接受度相比去年有较大提高，未来投资计划也随之增长。根据IDC调研结果显示，年中国人工智能的市场接受度从年的10%提升到45%，同时，82%未使人工智能的企业计划在未来1-2年内部署，大部分正在采人工智能的企业计划在未来两年增加至少倍的部署投资，人工智能市场未来两年仍将保持高速增长。另外我们看到，企业部署智能最主要的原因是希望通过采智能来缩短流程所需时间、降低人力需求以及降低企业总成本，除此之外，还有提产效率、提资产利率等主要原因。通过越多越多的智能场景被采并验证，用户对人工智能带来的的巨收益有了更深的认知，并希望通过智能技术更有效的实现企业目标。
互联网依然是智能算力投资最大的业，占据中国62.4%的人工智能算投资市场份额；排名前五的行业中，政府和金融行业增最迅速，增长率均超过%。人工智能正在成为所有行业中企业的股颠覆性力量，人工智能例的范围已经很广泛，并且每年都保持高速增长。大数据、高性能计算和复杂的机器学习能的融合使得人工智能成为现实，人工智能在各行业的应用也更加丰富和成熟，其中在互联网、政府、金融、电信、制造等行业已经形成了比较典型的应场景，但在不同的产业间、产业内不同规模的企业间，在人工智能应用的进程上差异明显。随着企业继续看到人工智能技术的价值，人们对人工智能系统的热情已经超出了炒作的范围，人工智能技术也真正开始应用，成为传统企业数字化转型的关键一步，为整个商业界、IT界和普通众产生前所未有的影响。
▲中国人工智能行业渗透度，H1
▲中国人工智能算力投资行业分布，H1
与年，年上半年按照智能业应用渗透度排名的TOP4行业和去年排名保持致，为互联网、政府、金融和制造，电信超过了服务位列第五。电信运营商在用户对应用体验及自在网络重构过程中对于人工智能的需求双重因素的驱动下，加速布局智能客服、精准营销及智能络等应场景以实现智能战略转型。制造业企持续布局动驾驶，另外以电子制造为代表的企业在质量检测等产环节推进人工智能的应。年上半年，按照人工智能算力投资排名的TOP5行业与去年排名保持致，依次为互联网、政府、金融、制造和服务。其中，服务行业中以科大讯飞、商汤、旷视、依图、寒武纪、第四范式等为代表的的人工智能科技企业加快对智能基础设施的投资，逐渐形成在人工智能产业中其独特的核心竞争优势。
2、从行业的维度分析了人工智能应用的特点和趋势
互联网–互联作为新技术开拓和应的先者，在全球范围引领新轮科技命和产业变。在人工智能领域，中国互联人工企业和全球科技巨头处于同赛道，提前布局AI为未来竞争争取先机。在中国，互联网业是AI应用成熟度最的业，同时凭借%的人工智能算力投资年增率，继续保持算力投资第名。互联人工巨头将人工智能战略上升到公司战略层面，互联人工具备原优势以业务和场景为驱动将AI技术应用到各个业务和环节，其中电商在精准营销、图像识别和智能客服，视频在内容审查、人脸识别和智能写作，互联媒体在舆情管理和内容审核等方面都是比较典型的场景；同时，云服务供应商逐渐将AIaaS能作为云服务中重要的项能输出给行业用户使用。
政府–政府行业的人工智能投资主要集中在平安城市、智慧城市、智慧交通等城市运营和管理平台，主要应用集中在采用人脸识别、车辆识别等技术的视频监控、采语义理解和情感分析等技术的舆情管理、以及采用计算机视觉技术的公共安全预警等典型应场景。其中，基于脸识别和车辆识别的技术的视频监控解决方案在平安城市、智慧城市、天网程、雪亮工程等项目中都得到了广泛的应用。IDC预计，到年60%的中国政府部门将部署人工智能应用，用数据中心管理、服务和信息精准化、百姓体验提升。
AI技术已经在在政府的视频监控解决案中规模落地和应用，以平安城市为例，平安城市建设在视频监控、卡电警等系统已经掌握了大量的视频图像资源和卡口车辆数据集图片，但传统技侦和侦段法实现快速、准实时的响应。而基于脸识别、车牌识别、图像识别的智能化解决案成为实现准实时追查、通缉的关键段，同时减少了警力资源浪费和事故发概率。在传统平安城市的终端层，交通卡口摄像头、人群密集区域摄像头、单兵执法摄像头已经有了量应，但是这些前端设备的主要价值在于视频数据的原始呈现，需要量警力和员进甄别判断，投资收益的瓶颈在于警力。而人工智能的引入，将前端设备从视频数据的呈现转变为视频分析结果的呈现，瓶颈变为具备AI能力的前端平台和海量非结构化数据分析平台。这变化也将进步驱动平安城市前端市场的快速发展。
金融–在中国，金融行业凭借%的人工智能算力投资年增长率，继续稳固其在行业排名TOP5中的位置。另外，综合多个来源的数据分析，金融行业论是净利润总和还是净利润率都稳居各行业之首，这也在宏观层面保证了金融在人工智能投资的稳定增长。从成熟度来看，金融行业同时具有专业化程度高、整体IT水平高、拥有独立而完整的行业和客户数据的特点，比较适合人工智能应对算和数据的要求，因此在人工智能的应用上在了传统业的前列。
电信–电信行业人工智能转型的驱动主要来于企业及个人用户对应用体验的需求，以及电信运营商在网络重构过程中对于人工智能的需求。凭借在人工智能发展中的先天优势，例如拥有开展人工智能算法和应用研究的海量数据资源、遍布全国的数据中心以提供算等，电信业也即将迎来人工智能的快速发展。从应用场景看，除了已经相对成熟的智能客服和精准营销，未来五年，智能络、智能节能等场景也有望被普遍应用，从而进步促进电信行业迈产业AI化。另外，随着5G时代的到来，将有更多的业务和应被部署在网络边缘，以减轻核心网络的压力。例如辅助安防监控、质量管理、自动驾驶等应用，因此智能在边缘网络的部署也变得至关重要。
3、中国人工智能城市排行榜
本次报告中，IDC通过调研统计出了人工智能领域最强城市排行，TOP5城市依次为北京、杭州、深圳、上海、广州，排名6-10的城市是合肥、苏州、重庆、南京、西安。与年相比，北京凭借互联网企业的快速发展以及全国最多的人工智能初创企业和人才储备，超越杭州位居第一；广州凭借全国领先的GDP增速，以及政府在人工智能方面增加了大量的投入，大量行业领先企业的进驻，排名进入第一梯队；苏州、南京、西安凭借政府和人工智能产业链领先企业的推动，以及大量的资金投入，跻身前十。
▲中国AI计算力发展评估城市排名
排名6-10名的城市依次为：合肥，苏州，重庆，南京，西安。这些城市在发展智能的过程中有以下个的共性：
都得到了政府的励，政策的引导，建立高新科技区，为智能发展提供良好的发展环境，比如：苏州的业园区和西安的西部创新港；
高校对才的培养，比如：合肥的中国科学技术大学、南京的南京学和西安的西安交通大学等；
拥有人工智能产业链领先企业的推进，如：合肥的科讯;
大量资金的注，为人工智能发展提供良好的撑，如：重庆签约多个人工智能项目，未来三年预计超过5万亿的投资。
除了TOP10城市，青岛和成都也具有极高的人工智能发展潜力。人工智能的发展少不了政府的持，青岛市政府制定了《三五青岛市科技创新规划》，将在全市范围筹建十大科技创新中心。与此同时，青岛市科技局与新代人工智能产业技术创新战略联盟签署战略合作协议，共同加快青岛市人工智能领域技术和产业的发展壮。成都市政府发布了《关于推动新代智能发展的实施意见》，提出了实施前沿基础研发、新兴产业发展、骨干企业引育、才地建设、服务能提升五重点计划，还明确了成都市人工智能领域的发展标。同时，成都还将进步推进计算机视觉，智能语处理等技术的研发，推动智能发展，促成完整的人工智能产业链。
智东西认为，计算力是承载和推动人工智能向实际应的基础平台和决定性力量。随着5G的部署，数据的增长速度将越来越快，这些类型丰富、场景各异的数据资源为人工智能系统自主学习并建预测模型提供了丰沃的土壤。量变引起质变，人工智能的应用相信很快会出现井喷式的发展，届时，不仅是互联网、政府、金融等行业，人工智能将给各行各业带来革命性的发展，而算已经成为承载和推动智能向实际应的基础平台和决定性力量。可以预见，未来随着数据持续爆炸性增以及算法的不断演进，算力仍有很大的发展空间。
智能内参
权威数据·专业解读读懂智能行业必看的报告在智东西回复“智能内参”查看全部报告