ARTICLE · 人工智能
老黄垒 20 年的 CUDA 护城河，AI 刚刚用 10 小时凿开了
一语总结本文以「AI Agent 10 小时搭建类 CUDA 软件」事件为引，分析英伟达 CUDA 护城河的真实结构，并指出推理市场正在成为竞争者切入的缺口，但短期内 CUDA 生态仍难以被颠覆。
文章从一家初创公司 Infinity 用 AI Agent 在 10 小时内为推理芯片公司 d-Matrix 搭建类 CUDA 软件的事件切入，系统拆解了英伟达 CUDA 护城河的三个层次：底层 Kernel 与编译器、中间层优化库与工具链、上层开发框架与开发者生态。作者指出，该事件主要攻入的是底层 Kernel 适配层，远未触及 CUDA 近 20 年积累的完整生态。文章进一步分析，在训练侧 CUDA 仍近乎无解，但在推理侧，由于推理任务对极致性能的依赖降低、对成本更敏感，且推理软件可跨芯片运行，CUDA 的锁定效应正在削弱。文章引用了多位行业人士的观点，包括对 AI Agent 生成代码后验证瓶颈的讨论、英伟达自身也在使用 AI 加速 CUDA 开发等，最终得出判断：短期内 CUDA 护城河安然无恙，但长期竞争焦点正从「代码存量」迁移到「验证与优化生态」。
- AI Agent 10 小时搭建的类 CUDA 软件仅触及底层 Kernel 适配层，远未复制完整生态。
Infinity 的 Ignition Agent 主要生成和优化推理 Kernel，而 CUDA 的护城河还包括中间层优化库、调试工具链、上层开发框架与数百万开发者生态，这些无法在短时间内被复刻。
- 推理市场是 CUDA 护城河最可能被突破的缺口。
推理任务对极致性能的依赖低于训练，更关注成本与灵活性，且推理软件可跨芯片运行，降低了 CUDA 的锁定效应，为专用推理芯片提供了切入机会。
- AI Agent 生成代码的验证瓶颈是当前最大挑战。
前英伟达工程师 Bing Xu 指出，Agent 能快速生成大量代码，但证明代码在各种边界情况下正确且稳定运行极慢，验证生态可能成为 CUDA 的下一道护城河。
- 英伟达自身也在使用 AI 加速 CUDA 开发，削弱了进攻方的相对优势。
英伟达开发者生态副总裁表示，公司也在用 AI Agent 更快地开发 CUDA 并进行更大规模验证，这意味着竞争双方都在利用同一技术，进攻方难以获得不对称优势。
老黄垒 20 年的 CUDA 护城河，AI 刚刚用 10 小时凿开了
文章从一家初创公司 Infinity 用 AI Agent 在 10 小时内为推理芯片公司 d-Matrix 搭建类 CUDA 软件的事件切入，系统拆解了英伟达 CUDA 护城河的三个层次：底层 Kernel 与编译器、中间层优化库与工具链、上层开发框架与开发者生态。作者指出，该事件主要攻入的是底层 Kernel 适配层，远未触及 CUDA 近 20 年积累的完整生态。文章进一步分析，在训练侧 CUDA 仍近乎无解，但在推理侧，由于推理任务对极致性能的依赖降低、对成本更敏感，且推理软件可跨芯片运行，CUDA 的锁定效应正在削弱。文章引用了多位行业人士的观点，包括对 AI Agent 生成代码后验证瓶颈的讨论、英伟达自身也在使用 AI 加速 CUDA 开发等，最终得出判断：短期内 CUDA 护城河安然无恙，但长期竞争焦点正从「代码存量」迁移到「验证与优化生态」。
文章金句
"Agent 能在短时间内生成大量代码，但验证才是最大瓶颈。
"在推理侧，CUDA 不再是决定因素。这将是一场开源软件的竞争。
"这场仗的胜负，取决于竞争对手追赶英伟达的速度，能否快过英伟达自我迭代的速度。