2021年中国云原生AI开发平台白皮书

AI开发丨研究报告

核心摘要：

行业背景：近年来，国内人工智能技术成熟度持续提升、服务种类不断丰富，在企业经营管理各环节的价值已得到市场的初步验证。然而，当前国内甲方企业在进行人工智能开发和应用时仍然面临着技术人才储备不足、AI应用部署存在困难、投入产出比不达预期等问题，亟需能够帮助企业解决这一问题的高效AI开发和应用工具。

产品&关键技术：云原生AI开发平台融合了成熟的人工智能开发框架以及云原生工具灵认为云原生AI开发平台在AI开发应用全生命周期视角下具备一定的综合优势。

应用场景：云原生AI开发平台在诸多人工智能密集应用的下游场景和行业具备通用性，包括互联网、金融、自动驾驶、政务、制造、营销等。本报告挑选了部分应用场景，梳理了上述场景下企业进行AI开发和应用过程中面临的实际需求和难点，展示了典型云原生AI开发产品的服务架构以及对企业经营管理的价值。

人工智能发展环境

政策引导AI算法的协同开发与AI应用的产业化落地

过去数年间，国务院、国家发改委、工信部、科技部以及各省市、地方政府陆续发布了有关推进人工智能算法开发以及应用落地的政策。在算法开发层面，政策明确倡导开源开放、互助共享的理念，支持具备人工智能资源与技术优势的企业、高校构建促进AI能力开源开放的平台，释放优势互补的协同效应，缩小我国人工智能技术与领先国家的差距；在人工智能应用层面，政策鼓励人工智能等数字化能力在企业层面加大应用力度、在区域层面实现项目落地，通过人工智能等前沿IT技术驱动工业化和信息化深度融合。整体来看，国内政策对于人工智能始终保持积极态度，人工智能产业化和规范化的发展前景会更加明朗。

人工智能相关产业规模高速增长，市场需求更加明确

随着数字产业化和产业数字化的不断深化，我国数字经济高速发展，在宏观经济中的重要性持续提升。2020年中国人工智能核心产业规模超过1500亿元，至2025年预计超过4500亿元，2020-2025年人工智能核心产品CAGR为25%；2020年人工智能带动相关产业规模超5700亿元，至2025年将突破16000亿元，2020-2025年人工智能带动相关产业CAGR为24%。在新产业、新业态、新商业模式经济建设的大背景下，人工智能产业的成长速度令人瞩目，并已逐步展现出从单向的产品供应向各产业深度双向共建的发展特征，带动相关产业发展，回馈社会经济。在这样的发展环境下，企业对人工智能的需求逐渐升温，人工智能在企业端的应用成熟度也渐入佳境。

人工智能应用现状

感知智能相对成熟，认知智能加速发展

一般认为，人工智能可分为感知智能和认知智能两大类。感知智能以智能语音、计算机视觉和部分生物体征识别（如体态识别）为核心底层技术，对应的上层应用为智能对话、图像识别和人体识别等，分别直接应用于客服机器人、智能安防、智能监控等解决方案；认知智能以机器学习/深度学习、知识图谱和自然语言处理等为核心底层技术，对应的上层应用为预测建模、知识仓库、机器翻译等，分别直接应用于商业决策、智能推荐、全文信息检索等解决方案，二者是互为支持和补充的关系，同一个AI解决方案中往往包含多种技术。目前我国感知智能的算法研发和应用落地相对成熟，而认知智能正在加速发展过程中，未来将有着更广阔的应用空间。

营销、客服、质检、安防等应用的市场价值已获得验证

具体到实际应用中看，人工智能已广泛渗入各行业经营管理的诸多环节，为企业带来更高效的自动化流程、更精准的情报分析以及更智能的运营管理。当前国内人工智能应用成熟度较高的领域包括：①在金融、互联网等需要密集与客户沟通交流的行业中用于智能呼叫、客服、销售等环节，帮助企业提升触达能力和服务质量，从而提升用户粘性；②赋能公安、交通和企业内部的安防监控以及制造业企业的物流配送、产品质检等环节，代替人眼进行大规模监测并提升监测精准度、从而提高调度和管理效率。整体来看，感知智能的诸多应用对于企业的应用价值已得到了市场验证，而涉及认知分析、智能决策的认知领域的应用成熟度也正在逐步提高，已在部分行业展开试水，应用渗透有望加速。

人工智能与云服务

当前各类前沿信息技术彼此融合促进，界限正逐渐模糊，无论是在技术开发、实施还是应用阶段，包括云计算、大数据、人工智能等在内的多项技术都互为依托和补充。云计算在我国经历了十余年的发展，目前基础云服务已经进入成熟阶段，各类上层应用以云服务平台为技术基座和分发渠道，逐步构建起云上的IT服务生态闭环。具体到人工智能领域，云计算为人工智能研发和部署提供计算集群、存储阵列等基础设施，通过大数据和AI算法PaaS提升企业进行AI开发的节奏和效能，而信息安全、敏捷开发等应用则间接提升了企业采用云上AI能力的稳定性。对于企业的AI开发和应用工作而言，云平台已成为他们加强AI能力的重要助力。

云原生成为业界认可的云计算技术发展方向

以Docker和K8s为代表的容器和容器编排技术是云原生应用的典型代表，容器对基础资源的调用相较虚拟机更加轻量、敏捷、高效，能够直接部署于物理机上作为资源调度器，但在当前的企业用云实践中，无论对于公有化还是私有化部署模式，容器引擎普遍架构于虚拟机之上，对虚拟化的IT基础设施实行弹性资源调度、流程自动化以及集群管理。整体来看，云原生架构具备弹性扩容、敏捷分发、高效易用、兼容适配等主要优势，在云计算成为企业数字化转型标配的今天，云原生带来了更加灵活的用云模式，能够帮助用户降低用云成本、提高云服务可用性和云端服务的质量，其价值已获得了产业界的普遍认可，云原生也被认为是云计算未来的技术发展方向，诸多云端服务也被业界证实能够与云原生架构充分融合并带来使用性能的提升。

云原生融合分布式计算性能更具优势，应用前景广阔

伴随着数据量的大爆发和数据应用的丰富，传统的集中式计算架构已无法支撑超大规模的数据处理需求，现今AI应用主要部署在以分布式为基础的云平台之上，AI模型开发以及应用事实上也是以分布式计算为基础。分布式计算通过将数据负载分配到不同的终端进行统筹处理，以异步、并行、多线程的方式提高计算效率，同时，分布式系统的复杂化带来了环境一致性下降、可用性不足、容错能力降低等问题，对于复杂的模型训练和超大规模的应用部署尤其突出。作为云计算未来的总体发展趋势，云原生自诞生之始就以轻量的模块组合以及分布统筹为核心理念，其性能优势可以帮助使用者应对分布式计算架构带来的诸多问题，从而为云原生与人工智能的融合提供了广阔的应用前景。

AI人才仍短缺

人才短缺限制企业进行AI开发和落地的步伐

作为前沿IT技术的代表，人工智能产业近年来高速发展，带动了市场对AI人才的集中需求。与许多发达国家相比，我国的AI人才总数仍处于短缺状态，而在企业微观层面上，AI人才市场表现出人才相对集中于互联网科技公司，且技术人才缺口更加显著等问题。人才短缺导致企业的AI需求无法得到及时满足，而人才的培养也非一日之功，长期来看这依赖于IT教育的转型和结构调整，而在短期则更需要产业端通过复用成熟能力、降低应用难度、促进技术交流等方式来提升业内人员的产出能力。

应用部署障碍

生产环境对AI基础设施、算法及数据质量要求更高

企业在实际应用人工智能的过程中主要面临基础设施、AI算法及数据等方面的阻碍。在基础设施方面，企业的IT基础设施在海量数据参与运算和采取分布式架构的条件下可能面临算力不足以及不兼容问题，从而降低企业AI应用的可用性；在算法领域，以“大模型”为代表的人工智能算法模型体现出模型参数的数量不断增加的趋势，高度复杂化的模型融入应用程序后可能带来应用延迟的增加，而在交付和部署后对模型的修改也会给用户带来服务中断等问题；此外，由于训练/测试环境和生产环境存在差异，实际应用中的数据存在较多噪音、与模型匹配度较低，也会降低AI应用的质量。总体来看，尤其是中小企业在应用和部署AI应用过程中所遇到的障碍更需要高质量的软硬件平台提供支持，降低开发者在基础配置和运维方面的消耗的精力，并帮助开发者提升模型优化能力。

投入-产出比不足

企业应用人工智能的回报尚不及预期

据统计，目前我国企业，尤其是非科技类甲方企业应用人工智能的效果还不尽如人意，许多企业表示人工智能落地后并未达到预期的投入产出比。在成本和支出方面，企业进行AI开发所需的人才和IT资源价格较高并处于相对稀缺状态，引入AI给企业业务更迭和内部管理等带来的隐性成本也可能成为降低企业应用AI效果的因素；在价值回报方面，尽管人工智能应用在许多领域和场景已经得到验证，但对于不同的企业和具体工作环境，其效能可能并不稳定。因此，成本和效能两方面原因共同提高了AI应用对于甲方企业的门槛，导致企业不能充分享受人工智能带来的红利。

云原生AI开发平台架构

以云原生的敏捷高效赋能人工智能应用开发与部署

云原生AI开发平台以云计算为基础，因为考虑到信息安全和数据隐秘性，该类项目在实践中通常以私有化部署和专有化部署的云服务器为基础，通过容器组件进行IT资源的调用，以微服务架构指导应用设计和开发，并配置分布式、大数据和人工智能计算框架作为底层计算平台。云原生AI开发平台内置数据智能标注、智能模型开发、API开放平台管理以及云原生应用部署等功能模块，辅以包括数据挖掘、网络安全等在内的数据资源管理系统，帮助企业敏捷、高效、安全地利用数据进行人工智能应用开发，并在应用部署过程中实现成本优化和灵活的版本控制。

相关应用图谱

核心技术优势

资源灵活运用，模型敏捷开发，应用高效部署

我们着眼于企业在云上进行AI开发的各个主要环节，可以发现这一过程也符合著名的“2-8法则”，在AI应用中模型设计和算法精度才是决定其应用价值的核心关键，但企业和开发者实际上将大部分的时间和精力投入了平台搭建、系统调试、团队磨合、监控运维等“非核心”的工作中，云原生与AI开发平台的结合

核心技术优势：模型敏捷开发

多种开发模式，赋能人工智能低门槛、高效能开发

云原生AI开发平台配备多种人工智能模型开发模式，其中较为典型的是可视化建模和编程式建模。前者利用JavaScript脚本等组件对算法进行封装，使得用户能够通过拖拽等图型界面进行模型开发，帮助对编程语言不熟悉的甲方企业的开发者乃至业务部门进行定制化开发；另一方面，编程式建模一般基于TensorFlow、PyTorch、Caffe等AI开发框架，利用Python等通用编程语言进行模型开发，由于上述开源框架普遍具备完备的功能，能够赋予开发者更多的开发选项和进行编程优化的空间。云原生组件如容器和微服务框架也能够从底层架构方面对编程、测试等过程进行支持，进一步提升开发者的开发效率。

核心技术优势：云原生部署

云原生发布、部署、运维组件提供便捷的AI应用管理渠道

除人工智能算法编写开发之外，云原生AI开发平台利用丰富的云原生组件赋能企业更好地对AI应用进行发布、部署、运维等方面的高效管理。除前文所提及的蓝绿部署、灰度发布和DevOps运维等功能之外，云原生环境中常用的API接口和网关、便捷移植和扩容、边缘侧部署功能均对人工智能的规模应用形成支撑，帮助企业提升用户的使用体验，并降低企业的IT经营成本。

产品应用价值

经横向对比，云原生AI开发平台更具成本效用优势

甲方企业获得AI能力有多种渠道和方式，其中，从零开始进行自主研究能够最大程度贴合企业自身需求，但考虑到一般甲方企业的AI人才有限，此方法无论是从IT成本角度还是从最终应用水平角度上看都不合算，如果直接购买产品化的软件，虽免去了开发流程，但未必能够完全满足企业自身的特殊需求。目前，通过AI开发平台进行自主订制化开发是企业常规的选择，在此基础上考虑各类基础资源服务平台，则基于云原生架构的AI开发平台在IT成本优化、开发和部署效率、运维效果等方面具备较好的表现。尤其对于中小企业而言，云原生AI开发能够帮助企业在更大程度上弥补由资金和人才短缺带来的技术水平限制，利于企业平衡AI成本收益，打造符合企业需求的AI产品。

AI提升用户体验，并帮助企业实现精准营销

互联网娱乐行业的成长植根于各类前沿IT技术，其产品服务和商业模式的演进与IT技术的发展紧密相关。近年来随着人工智能技术的进步，互联网娱乐产品的形式和内容也在不断迎来创新，互联网企业运用各类智能组件为用户带来了更强的沉浸感、交互感和趣味性，同时也利用用户画像和智能营销系统充实客户群体、提高用户粘性。总的来说，人工智能在互联网娱乐领域的应用非常广泛，同时，互娱企业在应用人工智能的同时也面临着设备、用户体验、推荐模型精度等方面的不足，仍有较大的改进空间。

金融场景的AI开发

AI贯穿金融机构运营多个流程，提升机构经营质量

金融行业的运行无处不与数字打交道，这一特性决定了金融业务与大数据和人工智能应用有着天然的契合性，加之金融机构普遍资金充足、信息化水平相对较高，因此对人工智能的投入度较高，与IT企业的合作开发也较多。具体来看，人工智能在金融机构的营销决策、智能门店建设、在线服务、风控合规等领域都有较多的应用，与低代码、RPA等效率工具配合，能够替代金融机构员工完成大量重复性高且复杂的工作，提升机构运营的效率，并避免人工操作带来的疏漏。另一方面，金融机构客户群体较大，需要实时处理海量数据，且金融服务对交易数据实时性和同步要求超过其他任何行业，更需要人工智能在满足客户和机构需求的同时不能够对系统性能造成显著影响。

自动驾驶场景的AI开发

AI为实现自动驾驶的核心技术，准度和性能要求极高

在智能化、网联化、电动化、共享化的背景下，自动驾驶成为智能网联汽车行业发展的重点，也成为了下一代汽车企业转型升级的技术高地。自动驾驶对算力、实时性、安全性等系统性能的要求极高，且自动驾驶的工作环境复杂多变又涉及公共交通安全，要求计算机在极短时间做出正确的判断，因此需要以强大的算力、算法和数据传输能力作为支撑。在自动驾驶实现过程中，人工智能算法承接传感器接收的实时信息并进行数字化处理和分析，经过决策算法对周围环境进行的判断和预测，并对驾驶操作进行调整。

制造业场景AI需求分析

通过高效自动化和智能决策，帮助企业实现降本增效

以人工智能应用赋能制造业发展是我国进行制造业产业升级、建设工业互联网平台的关键。当前人工智能主要通过三种模式融入工业互联网：第一，将AI模型嵌入工业互联网平台层，提升平台层数据分析能力；第二，提供工业AI软件系统，并通过云端部署形成工业互联网SaaS层应用；第三，提供工业互联网框架下含软件和边缘侧硬件的完整系统。具体到制造企业的生产流程中，上述应用广泛融入企业从产品设计、供应链管理到生产制造和销售运营的各个环节，能够通过提升自动化和决策智能化水平为企业带来降本增效价值。

产品易用性、综合性不断提升，帮助企业形成AI规模经济

企业进行人工智能应用开发的核心资源大致经历了三个发展阶段：在雏形期，应用开发主要依靠开源模型或开发者自发分享的代码进行；随着AI技术发展和需求激增，开源框架陆续出现，助力开发人员快速生成及训练模型，开源框架也成为了众多AI开发平台的基础；后续AI产业化进程加速，为满足智能化转型需求方对多层次资源的多样性需求，专业化的商用的AI开发平台出现，致力于为甲方提供一站式的AI模型生产服务。为了进一步满足企业运用人工智能过程中全方位的需求，AI开发平台还将朝着易用性、专业化、综合性、产用协同等方向发展，在这一过程中，在底层技术、IT资源、人才和经验等方面具备优势的头部平台产品将能够更好地协助企业形成人工智能应用的规模经济。

产品广度

以数据资产为核心，数据智能/模型开发/数据应用紧密协同

现今大数据产业在独立的领域如数据库、智能搜索、数据可视化及人工智能领域均实现了一定突破，应用价值得到了普遍的认可。未来大数据相关产品将以数据资产为中心，实现进一步整合和协同，最终形成商业数据智能、AI模型开发、数据应用三大飞轮，为企业的数字化运营提供精准决策、生产工具、经营管理方面的支持。同时，三个飞轮所代表的业务体系和流程将彼此融合、紧密关联，对应着一类链路更加复杂的工具，IT厂商或将以现有的云原生AI开发平台为基础进行服务扩充和集成，而云原生组件则有望在这一高度集成的服务链中发挥服务编排作用。

DevOps和AIOps有望进一步提升AI开发运维效率

头部云计算和人工智能厂商在不断对包括人工智能在内的数字化产品进行丰富和升级，DevOps和AIOps/MLOps均有望与当前的云原生开发平台进行深度集成，进一步提升企业进行人工智能开发和应用效率。其中，DevOps是云原生服务于软件开发的应用流程，主要用于软件的协作编程开发，目前和AI算法模型的编写流程并不完全相通，但仍能用于模型封装成软件应用之后的开发流程。另一方面，AIOps/MLOps原本主要用于软件上线部署后的运维，不仅能够帮助甲方企业进行复杂AI应用的监测，从而提升客户体验，也能利用自动化流程来进行模型效果的测试。目前AIOps不仅是国内IT运维产业的发展新方向，也有望成为云原生AI开发平台优先的集成方向。

服务业态

AI开发平台与IT基础设施进一步融合，提升计算能力

随着数字经济大发展，数据量爆发，应用类型丰富，原有的IT基础设施无法满足AI应用需求。近年来，适宜于大规模数据集群计算的CPU、GPU、DPU等计算芯片不断推陈出新，内存、虚拟化、网络等IT基础层技术也都在向着大规模并发、超高速传输的方向演进，并配合主流的人工智能框架进行优化升级。未来人工智能开发与上述IT基础设施深度融合将成为大趋势，这一趋势或将从AI技术和硬件厂商的合作起步并逐渐深化。

社区生态

AI用户与开发者角色交融，加速产品创新与市场拓展

以开源社区为代表，全球范围内有着众多软件技术交流社区与平台，在这些组织之中，软件的开发者与使用者对产品的架构、功能、缺陷进行讨论，为开发者创造了解用户真实需求和实际使用难点的环境，帮助开发者进行产品打磨，也为用户提供了深入产品底层、基于自身需求对产品进行改良的平台。随着软件市场活力不断提升和开发者人群技术的增长，国内市场上也出现了越来越多的技术交流社区。

查看及下载完整版报告

专题

中国企业人事管理    |    中国企业服务研究

企业直播服务行业    |    企业级无代码开发

中国薪税服务研究    |    中国信创产业研究

👇点击

免费查看及下载更多PDF高清完整版报告