CUDA与GPU一起推动了人工智能

人工智能在沉淀发展了几年之后，ChatGPT“横空出世”，一经推出，就受到了全世界的高度关注和热捧。然而，在高度智能的背后，是巨大的成本和算力投入，这与企业的ROI和**节能减排的目标是矛盾的。这时，NVIDIA把早已研发的秘密——DPU和DOCA推出，它们能够大大缩减人工智能计算的成本，提升计算效能，解决当下痛点。或许，DPU将是NVIDIA对高速计算的*三次变革，这一次，属于“预见性变革”。

有了DOCA，对于客户来说，这意味着在目前 BlueField DPU上运行的应用程序和数据中心基础设施，在不久的未来将能不加修改地加速运行在 BlueField-3 DPU上。

DOCA，会是下一个CUDA吗？

NVIDIA介绍DOCA是“为DPU注入了灵魂”，实际上DOCA是NVIDIA针对DPU开发者提供的软件开发框架，是一个一站式平台并有活跃的社区。说起NVIDIA的开发平台和社区，工程师们就会想起十多年前NVIDIA 举办的**次CUDA活动。

CUDA较初的使命与

2006年，NVIDIA CUDA（Compute Unified Device Architecture）架构问世，与此同时，NVIDIA图形处理器出货量达到5亿台。

2007年，在美国加州圣克拉拉市，NVIDIA举办了**届CUDA（Compute Unified Device Architecture）技术大会，这是一种并行计算平台和编程模型，可用于利用NVIDIA GPU的强大计算能力。CUDA使开发人员能够使用C语言，C ++，Fortran等编程语言来编写GPU加速的应用程序。

在**届CUDA技术大会上，NVIDIA展示了许多基于CUDA的应用程序，包括物理模拟，图像处理和生物信息学。此外，NVIDIA还介绍了CUDA的架构和编程模型，并提供了一些实用的编程技巧和较佳实践。

自那时以来，CUDA已成为一种广泛使用的GPU编程平台和编程模型，用于各种科学，工程和商业应用程序。

2008年NVIDIA推出CUDA SDK2.0版本，大幅提升了CUDA的使用范围。使得CUDA技术愈发成熟。

2009年，NVIDIA在**届 GPU 技术大会上发布了 FERMI 架构，这是新一代CUDA GPU架构。

2011年，*大学微电子研究所副教授邓仰东在国内正式全面介绍CUDA，邓教授也成为国内系统化讲授CUDA技术的**人。

但即使如此，当时的CUDA也远远没有现在这么火热，因为，那时的CUDA主要还是用于GPU图形处理器的加速开发，人工智能还只是在很小的范围内萌芽，远没有出现当今各行各业AI化和ChatGPT带起的火热浪潮。

截止2023年初，以CUDA开发为主的NVIDIA开发者社区，中国注册开发者人数**过88**，**总的注册开发者人数400多万，占**过20%的比例。

当前，CUDA社区的开发者大部分都是在进行人工智能的设计与研发，处于**较良好的人工智能工程师行列。

DOCA到底是什么？

DOCA是NVIDIA提供的免费的用于BlueField DPU的软件开发框架，可以卸载、加速和隔离基础设施操作，支持**大规模、企业、**级计算和**融合基础设施，为BlueField DPU 硬件迭代提供软件兼容性。

DOCA提供了SDK和RUNTIME组件

同时，DOCA提供了服务组件，可以加速数据中心服务(例如: 遥测)，简化部署，从NGC目录获取并快速启动，在各种环境中移植，通过内置的 DOCA Runtime 提供基础服务容器等等。

DOCA是NVIDIA为其DPU打造的可编程软件平台：

如果要用一句话来描述DOCA的话，那就是：DOCA之于DPU，正如 CUDA 之于 GPU。

DOCA，或缔造下一个王者

CUDA当时推出来仅仅是为了进行GPU图形加速，以给游戏和图形工作程序更好的体验。但是，随着GPU芯片在深度学习等人工智能领域的应用，CUDA一跃成为了较*的技术开发平台，目前，CUDA已经是**较火热也较有价值的编程平台之一。

DOCA会不会成为下一个王者呢？

随着GPU硬件与人工智能进入深水区，CUDA也不可避免的要进行二次深度沉淀，同时，基于CUDA的开发也已经很成熟。人工智能的硬件发展也处于一个亟待突破的瓶颈期。

DOCA是为了更快更的提升人工智能的效益与性能，能够解决当前较重要的成本投入与性能瓶颈问题，也就是解决人工智能算力与性能的痛点。这也是目前**微软、谷歌、亚马逊、百度等成员和人工智能细分垂直领域的企业在人工智能开拓方面的痛点。

然而，基于AI本身的特点，譬如ChatGPT就能自行进行编程，DOCA会不会很快就被AI所取代呢？

笔者认为，DOCA在目前阶段还不可能被替代，因为所积累的数据和程序不够，无法满足AI学习达到“*成才”的效果。

未来，DOCA之于DPU，或许正如CUDA之于GPU一样，会缔造下一个编程王者。