写CUDA到底难在哪?

2025-06-20 09:45:12

对GPU进行性能优化时,cudagraph是绕不开的话题。

不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

本文尝试从底层原理出发,根据文档 和 …。

写CUDA到底难在哪?
广告位810*200
相关阅读
男朋友说我穿衣服太开放,难道好身材不应该显示出来吗?

男朋友说我穿衣服太开放,难道好身材不应该显示出来吗?

上次爬华山遇上一对夫妻,女的30出头,男的明显大些,女士穿白...

2025-06-18
Golang和J***a到底怎么选?

Golang和J***a到底怎么选?

就不想用rust吗?局面打开,j***a写一堆class太臃...

2025-06-18
我的世界怎么租一个四个人的服务器?

我的世界怎么租一个四个人的服务器?

我个人是用的阿里云做的内网穿透,阿里云有个峰值带宽200M不...

2025-06-18
冬天也要穿胸罩吗?

冬天也要穿胸罩吗?

坦白局…你们的冬天真的都不穿内衣啊?是这样的,今天不小心碰到...

2025-06-18
如何评价字节跳动开源的 HTTP 框架 Hertz ?

如何评价字节跳动开源的 HTTP 框架 Hertz ?

0 前言近期工作接触到 cloudwego 开源的 hert...

2025-06-18