@wo_shi_nai_long 在 请教一下各位佬,优化 GPU 程序的加速比,哪个模型最擅长 中发帖
先说一下我的背景,不是写 AI 算子,那个排行榜很多我可以直接参考。我主要是做通用科学计算,所以内部不完全是矩阵运算,即使有也是小规模矩阵运算,更多的是一些通用计算函数。
现在想把之前 CPU 的程序迁移到 GPU 上节省计算费,要是放在以前我会无脑 OpenAI 最大模型,最高思考。有没有佬对比过 GPT 和 claude 这两个模型写 CUDA 程序的能力,尤其是榨干 GPU 性能获得最大加速比的能力。如果有,希望佬能不吝赐教。