写CUDA到底难在哪?

2025-06-23 22:45:12

对GPU进行性能优化时,cudagraph是绕不开的话题。

不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

本文尝试从底层原理出发,根据文档 和 …。

写CUDA到底难在哪?
广告位810*200
相关阅读
为什么切尔诺贝利泄漏了100年不能住人,而广岛原***爆炸后很快就重建了,不都是核么?

为什么切尔诺贝利泄漏了100年不能住人,而广岛原***爆炸后很快就重建了,不都是核么?

因为切尔诺贝利虽然核反应堆炸了,但是核反应没停。 苏联航空...

2025-06-29
月薪一万在南宁能过什么样的生活?

月薪一万在南宁能过什么样的生活?

我年入20w➕,配偶年入15➕,有两辆车,无车贷,住人才公寓...

2025-06-29
为什么中国开发不出流行的编程语言?

为什么中国开发不出流行的编程语言?

巴西的编程语言都占领全世界了,中国怎么就不行呢? 转自公众号...

2025-06-29
为什么台式 PC 还处在组装(DIY)阶段?

为什么台式 PC 还处在组装(DIY)阶段?

你去买个品牌机,然后自己拆开,你会发觉,你TM主板就给我一个...

2025-06-29
为什么微信不向telegram学习?

为什么微信不向telegram学习?

我乱猜的观点: 微信的代码,张小龙不敢让别人重构。 代码这...

2025-06-29