Modular：能否替代英伟达的CUDA？

Modular：能否替代英伟达的CUDA？

在AI行业，英伟达已经建立起一种难以逾越的优势，并且愈来愈强。不过在这座“大山”面前，仍有挑战者希望分到一杯羹。就在上周，一家名为Modular的美国初创企业拿下一笔1亿美元融资，由知名基金GeneralCatalyst领投，GV（GoogleVentures），SVAngel，Greylock和Factory等机构参投。

这家初创企业于2022年1月成立，当年就开发出一款全新的开源编程语言Mojo，在开发者社区内引起了不小讨论。但创始人真正的目标，是在AI软件领域推出一种替代方案，用来取代英伟达旗下成本高昂的CUDA平台。

要知道，CUDA是英伟达名副其实的“护城河”，在AI软件领域近乎垄断地位，Modular凭什么吸引投资者？AI厂商，苦于CUDA在英伟达的介绍里，CUDA（ComputeUnifiedDeviceArchitecture）是一个运算平台，可利用GPU的能力，大幅提升计算能力。在大模型时代来临之前，CUDA主要应用于科学计算、神经网络算法等领域。一方面，英伟达一直大力支持GPU在这些领域推广，另一方面，CUDA的竞争者OpenCL在优化方面做得并不好，性能也不如CUDA，因此CUDA广受软件开发商、科学家以及研究人员的好评。此后，各大AI框架开始优先支持CUDA，形成了一种正循环，同时英伟达还在自动驾驶、机器人等领域继续推进CUDA的支持。

不过CUDA真正厉害的是做到了“软硬件绑定”，简单来说，就是一些特定功能做到了英伟达GPU限定，换了其他家的硬件难以达到训练的要求。这时，摆在芯片厂商面前的只有两个选择——要么选择兼容CUDA路线，要么重新选择一种软件生态。但其实大部分算法工程师早已经习惯了CUDA提供的工具库，更换新平台必然会带来新的问题。这其实是一种“双刃剑”，AI芯片厂商使用英伟达的产品，可以降低AI训练的门槛，减少工程师的工作量，但英伟达GPU日益上涨的成本问题，也会成为自家产品发展的“天花板”。

往更大的方向看，英伟达形成了垄断之后，只有英伟达的GPU才能处理AI任务，其他硬件厂商也不愿看到这种情况。因此在Modular创始人兼CEOChrisLattner投入AI软件创业后，瞬间吸引了众多风险投资者的注意。这位前谷歌科技大牛，曾领导了多个大型编译器项目，而他最成功的贡献，就是为苹果研发了新编程语言Swift。离开苹果后，ChrisLattner在特斯拉、谷歌、SiFive等企业任职，在此期间还负责知名AI框架Tensor-Flow的开发。在接受采访时，ChrisLattner表示，Modular的使命是希望简化大规模创建和管理人工智能系统的复杂性，就像DevOps（一种软件开发的方法论）简化了传统的软件开发一样。

就单凭ChrisLattner的名头来说，业界也是对新公司寄予了厚望。如何替代？CUDA并非没有缺点。首先，就是越来越稀缺的英伟达GPU资源，限制了一些小型公司的发展。其次，CUDA存在一定的门槛，不像Python那样简单上手。因此Modular的思路就是尽可能降低门槛，无论是AI开发工具还是编程语言。

在Modular的官网上，我们可以看到两大明星产品的介绍，一个是“用于提高人工智能模型性能”的AI引擎，另一个是Mojo语言。其中，前者是Modular在AI领域长期进行的项目，其设计思路是通过“模块化”的方式，解决“当前AI应用栈常常与特定硬件和软件耦合”的问题。从这里我们可以看到，Modular其实不仅要替代CUDA，还要进一步整合TensorFlow和PyTorch这类的人工智能框架，用一个平台解决所有的问题。

在ChrisLattner来看，这种人工智能框架本质上还是插件，使用起来非常复杂繁琐，每次调试都必须小心各个函数、功能间的关联，一旦出现问题就会使整个项目出现偏差，就像计算机早期编程语言那样。而有了全平台开发工具后，开发人员就可以直接调用自己需要的工具包，这样编写的程序，不仅可以在英伟达的GPU上进行训练和运行，还在英特尔、AMD和Google等其他公司设计的芯片上运行，硬件与软件之间的阻碍就这样成功化解。

为了配合这个AI引擎，Modular还开发了开源编程语言Mojo。据Modular声称，这是一个结合Python和C++优点的全新编程语音，既有Python的易用性，又有C语言的性能，其速度是Python的3.5万倍，并且性能上毫不减量。你可以把它想象成一个“专为AI而生”的编程语言，Modular用它开发各种工具整合到前面提到的AI引擎里，同时又可以无缝衔接上Python，降低学习成本。

下一步的挑战不得不说，ChrisLattner所期待的“大一统”是业内非常期待的。在人工智能领域竞争日益激烈的今天，英伟达的”护城河”愈发牢固，在“GPU+CUDA”这套组合拳体系下，所有的AI企业都很难绕开这座大山。而Modular的出现，将会给行业带来了新的选择，同时也为其他GPU/CPU厂商提供了新的机会。当然，CUDA并不是那么容易就能被替代，而ChrisLattner所设想的“全平台开发工具”又太过理想化。虽然顶着“超越Python”的头衔，又有ChrisLattner名声作为背书，但Mojo作为一种新语言，在推广上还需要经过众多开发者的考验。我们可以看到，Python之成为AI届的统治语言，除了本身易用之外，其自身也有惯性的因素，那就是长时间的积累。虽然Mojo不需要零开始构建自己的生态，但想在短时间内实现转化并不实现。而AI引擎要面临的问题就更多，不仅需要与众多硬件公司之间达成协议，还要考虑各平台之间的兼容。这些都是需要长时间的打磨才能完成的工作，到时候的英伟达会进化成什么样子，恐怕没人会知道。总之，Modular刚刚起步，它对简化和进化人工智能领域的承诺无疑令人心动，苦于CUDA的厂商们，起码有个盼头了。

本文来自微信公众号“镁客网”（ID:im2maker），作者：MKWjh，36氪经授权发布。