您认为CUDA技术最终能让我们电脑发展走向GPGPU计算时代吗？[NVIDIA达人挑选赛]

Elvis

本辩论赛为第一届PCINLIFE显卡达人精英辩论赛，其目的和动机是提升PCINLIFE网站显卡玩家的整体技术水平和对产品的认知深度，与此同时发掘更多的顶级显卡高手来为我站会员服务，引导他们挑选适合自己的显卡。本辩论赛将会从中挑选优秀的5名辩手成为第一届PCINLIFE显卡达人，从而在一个季度里免费试用某著名显卡厂商提供的最新款顶级显卡。

考量标准： 语言表达要通顺，有逻辑，另外要有深度，有独特的视觉，其它大家就自然发挥吧。

补充： 什么是NVIDIA CUDA技术？

1、CUDA 引入了多层次内存、线程架构，特别是 shared memory 概念的引入，让线程可以在程序员控制下实现片上共享，显著提高 GPGPU 的性能。
2、CUDA 是一个硬件和软件架构的统称，在硬件上而言，特指提供了将 SIMD 单元 SOA 化使其达到标量化执行、片上 shared memory 的 G80+ 架构，这些概念已经被 OpenCL 和 Compute Shader 全盘接纳。
在软件上而言，则是指可以直接使用 C 语言编程编写 SPMD 程序，程序员无需有图形编程的经验。
3、NVIDIA 支持使用 CUDA C 语言扩展以及 OpenCL、Compute Shader 等 API 编写在 CUDA 硬件上执行的程序。

更多与NVIDIA CUDA技术有关的参考资料：
http://www.nvidia.com/object/cuda_home.html

ft5555

普通人买中高端显卡是打游戏用的  n卡玩家已经承担了the way的成本 没理由为再GPGPU买单

weihua8206

CUDA是不可能取代CPU的计算功能的：

首先，是架构的不统一：英伟达的CUDA运算体系与X86是互不兼容的，而绝大多数的海量运算都是基于X86架构的。从事科学计算、数据库、底层开发的程序员绝大多数都不熟悉CUDA，而且，为了使用CUDA而使自己的程序不兼容于没有使用英伟达显卡的PC，这是很可笑的事情（除非英伟达CUDA的运算速度几何倍数的强于英特尔和AMD，这可能么？NO！）
其次，是商业壁垒的束缚：英伟达要依赖于IBM的架构而生存，推翻X86架构，并且与INTEL分庭抗礼，对于英伟达来说是不切实际的。那意味着一切都推倒重来，就像龙芯。。。

weihua8206

按照e版的定义，cuda c和cuda架构是不是一体的？讨论其前途是一起讨论还是分开来看？

我一直觉得论坛上很多xd所谓的cuda没竞争力的标准说的是cuda c部分，没有涉及cuda硬件架构部分。
westlee 发表于 2009-7-4 07:25

在一个已经非常成熟的领域中另起炉灶，闭门造车，除非技术上有着无与伦比的优势，否则是不可能成功的。就算有着很大技术优势的项目（比如网络电话），在传统产业巨头（比如移动电信运营商）的压制下，也很难发展起来。

况且，CUDA与X86-64架构比起来并没有遥遥领先的优势，英特尔和AMD有着足够的能力升级其架构以保证不落后于英伟达。由此可见，CUDA这个架构不兼容的运算处理单元只会局限于3D领域，不会有很好的发展前途。

weihua8206

1、CUDA 引入了多层次内存、线程架构，特别是 shared memory 概念的引入，让线程可以在程序员控制下实现片上共享，显著提高 GPGPU 的性能。
2、CUDA 是一个硬件和软件架构的统称，在硬件上而言，特指提供了将 SIMD 单元 SOA 化使其达到标量化执行、片上 shared memory 的 G80+ 架构，这些概念已经被 OpenCL 和 Compute Shader 全盘接纳。
在软件上而言，则是指可以直接使用 C 语言编程编写 SPMD 程序，程序员无需有图形编程的经验。
3、NVIDIA 支持使用 CUDA C 语言扩展以及 OpenCL、Compute Shader 等 API 编写在 CUDA 硬件上执行的程序。

Elvis 发表于 2009-7-4 00:56

1、多线程、内存分片、线程共享等技术早已在传统CPU架构中实现，而多层次内存将使指令集复杂化，更难于调试，程序员也更难上手、运算效率的优化极其困难。在数字运算领域RISC优于CISC、2进制优于10进制，这已经被无数事实证明！而英伟达此时弄出个“多层次内存”来使内存控制器复杂化，属于典型的逆潮流而行，故对其不看好。

2、兼容C语言是“皇帝的新装”，是一种华而不实的宣传：世界上还有不兼容C语言的处理器么？单片机都支持C语言！

关键在于：可以用C语言编程 不等于 用C语言编的程序都能运行！不能改变它不能运行X86指令集的硬伤！原先任何基于X86的程序（包括WINDOWS）都不能被其运行
3、为什么程序员要使用英伟达提供的API编写通用程序？？这将会造成程序在任何没有安装英伟达硬件的电脑上都运行出错！对于一个新架构来说，不兼容老架构是绝对没有前途的：君不见即使是先进的i7，也不敢抛弃386时代的X86指令集么？所以，相对来说，我更看好拥有x86使用权的AMD的“一体化CPU ”构想，英伟达的CUDA即使再成功，也只是在遥远的将来有可能和POWER MAC一样成为另类罢了。

312459588

从发展的眼光看,我支持反方,不过从现实的实用价值来说,我支持正方.

tomsmith123

目前的情况看，CUDA 在GPGPU 领域是暂时领先的，但是问题是，GPGPU 是否需要这样的领先，特别是CUDA 的发展方向是否正确。从nVidia 的规划看，CUDA 在HPC 领域推广最不惜血本，对于某些用户，白送一套理论峰值128T 的S1070，如此的大手笔，今年实在罕见，不过从HPC 这个领域看，很不看好。
CUDA 面临几个方面的问题：
首先是算法适应性，大部分HPC 算法，数据吞吐量大，对于CUDA 架构来说，当数据大量通过PCIE 传送，整体效能会非常低，这不仅仅是CUDA 的问题，任何GPGPU 的结构，都无法解决；
其次是计算精度，多数的HPC 算法，要求双精度，甚至四倍精度，而CUDA 仅仅提供单精度非标浮点，在若干次迭代后，结果误差累计会比较大，无法满足计算要求。在我们做的一些理论化学计算中，CUDA 的误差高达7％极限情况达到15％，远远超过0.3%的误差许可。
第三是移植复杂度，目前的CUDA 程序，以一个3000行的MPI 程序为例，移植到CUDA 上，需要2个熟练的CUDA 程序员，三个月时间，而针对不同的CUDA 设备，优化工作还需要从做，这对于CUDA 软件的开发和维护成本是不可想象的。即使在国内，维护一套CUDA 软件，也是多数单位无法承担的。
Intel 在年底会发布CT 的beta 版，我们已经拿到并测试，同时通过Intel 方面，拿到了一些Larrabee 在我们用到算法的实测数据，基本结论如下：
1. CT 的开发维护复杂度，大致是CUDA 的1/5 甚至更小，后期升级系统维护的成本，基本上是0。比较显著的例子是CT 一段15行的程序，CUDA 大致需要90行来完成。
2. Larrabee 的性能效率最高可以到57％，平均42％，CUDA 则最高45％，平均19％，二者完全不是一个量级的产品；
3. Larrabee 的单精度累计误差较CUDA 低一些，最高3％，极端情况下可能到5％。
就上述的数据，我们和ARSC 的朋友交流，他们也确认了类似的结论，我们共同对明年Larrabee 上市表示了期待，他们有希望在明年年初拿到测试板，比预计晚了四个月。
除了HPC 外，CUDA 在桌面个人程序上也有一定进展，包括CODEC，这方面由于nVidia 的持续投入，已经有很明显的效益，如我之前所说，CUDA 软件的维护升级可能会消耗一些人力，很难说nVidia 是否会持续投入下去，软件开发商是否有意愿维护这部分代码。
CUDA-PHYSX 是nVidia 自己的产品，理论上不会受到影响。
目前，我们还在维护用到的CUDA 相关代码，但是已经基本暂停进一步的开发，主要精力转移到CT 上，如果Intel 愿意，CT 的支持面会非常广泛，这对于从事计算密集型研究的人来说，都是好事。

weihua8206

首先，要清楚CUDA是加速性技术，是在CPU力不从心的领域加以助力。
比如，为CPU独立难支而且效果欠佳的游戏物理效果上，提供更好的效能和效果。又比如，在PHOTOSHOP处理大幅图片时，CPU要花很长的时间，而支持CU ...
iverlin 发表于 2009-7-4 21:25

对方辩友请注意：辩论的主题是“CUDA能否引领GPGPU运算时代”，而不是“CUDA是否比LARRABEE优秀”！！

举个例子：“你百米跑比我跑得快，所以你是百米跑世界冠军”，这句话成立么？笑话，比我跑得快的人地球上有10亿以上，比我跑得快就冠军，那全世界的金子都用来铸金牌算了。

同样的：LARRABEE有着严重缺陷，并不证明CUDA就能引领未来，英特尔私心很重，想独占市场，但其缺乏硬件浮点运算的技术。LARRABEE事实上是在用软件强行捆绑自己的硬件。…………跑题了


对方辩友论证了LARRABEE不行，而世界上并非只有LARRABEE和CUDA两种GPGPU结构体系! 应该说：CUDA不行，LARRABEE也不行！！

weihua8206

1，不管是什么机制，CUDA的效能已摆在面前，优秀与否，事实胜于理论。
另外，难以上手不说明什么，PS3比XBOX360编写游戏难的多，还不是一样成功的站在XBOX360同样的高度。再说，一切成熟起来后，难度也就会降低。就拿左数学题来说，做的多了，会做就不难，不会做的人就觉得难。

2，现在一大堆支持CUDA软件，比如PHOTOSHOP CS4， 没N卡的电脑就不能运行了吗？比如支持PHYSX的游戏，没N卡就出错了吗？显然这个论点不成立，CUDA只是助力性的，而不是替代性的存在。

3.MAC不能喝CUDA混为一谈，属于偷换概念，CUDA是软体，MAC是硬体，CUDA可以支持A卡，而且不脱离CPU，但能做CPU能做的事，而且更高效，本质上属于加速型技术，适用性广。如果AMD愿意接受CUDA，那CUDA就会成为绝对主流。
    当然，你说AMD不肯，别忘记现在不是谈市场，而是CUDA技术本身，CUDA本身是具有这个能力，引领GPGPU时代。
iverlin 发表于 2009-7-4 20:40

对方辩友在理论方面十分专业，在下佩服，但是有以下事实是对方不能忽视的：

1、首先，CUDA的软件体系走在错误的发展轨道上：基于CUDA的软件编写困难、维护复杂、指令集晦涩。作为一种开放的加速技术接口，既然英伟达不在自己的GPU硬件上捆绑CUDA，开发商就完全有理由抛弃这种接口，转而使用更简便的指令集来实现GPGPU。

2、借用对方辩友的例子：支持PHYSX的游戏，没N卡就出错了吗?是的，假如一个游戏只使用PHYSX，而放弃对传统的3D架构支持，那么没有N卡必然运行出错！看过PHYSX的宣传DEMO吗?在A卡平台上运行时是什么样子?画面破碎、物体移动规律全都不对，重力缺失，帧数惨不忍睹！如果这还不算运行错误，我想不出什么才能算错误了！
英伟达用硬件绑定了PHYSX，PHYSX不能被AMD的GPU所支援，这是PHYSX存活的一大优势。而CUDA不具有这种优势，我们完全可以用更友善的指令集来实现GPGPU，从而淘汰CUDA。那么，请问对方辩友，一个编写得不很成功的软体指令集何以引领GPGPU的未来呢?

3、对方辩友避而不谈市场，说CUDA单从技术上有能力引领GPGPU时代。这是形而上学的片面观点，是在用静止、孤立的观点来看问题：没有市场的技术是引领不了任何时代的，它只能走向消亡！当年的RAMBUS总线规格要比DDR266先进很多，按您的观点，"RAMBUS技术本身是可以引领高速内存时代"咯?事实如何呢?现在DDR已经发展到第5代，而RAMBUS早已被世人遗忘！如果当初英特尔还死抱着RAMBUS，现在他们将和RAMBUS一起被PC市场遗忘！没有市场、何谈时代！RAMBUS引领过什么时代么?没有！同样的，CUDA也同样不会有未来！况且，CUDA并不先进，从软件架构上来讲，CUDA的设计思想是落后的：
(1)CUDA目前只有在linux下提供了64bit支持，windows还是32bit，而且只支持单精度
(2)CUDA的开发界面很不友好，廉价高速计算方面，一般大家公认为开发难度的难易顺序是CUDA、SPU CLE然后是Ct。
由此可见，CT、CLE等指令集均优于CUDA，CUDA即使单从技术上讲也不能引领什么潮流！

(管理员害苦我了，这么多字差点白打了 )

weihua8206

汗，nv的显卡在cuda运算的时候根本就不需要运行x86指令，显卡是通过驱动把x86指令编译，解释成显卡可以直接执行的二进制代码运行的，难道现在的游戏，是因为显卡可以执行x86指令才可以运行的吗？

如果程序本身 ...
westlee 发表于 2009-7-4 20:23

CUDA的开发界面很不友好，廉价高速计算方面，一般大家公认为开发难度的难易顺序是CUDA、SPU CLE然后是Ct。

CT、CLE等指令集均优于CUDA，那么，既没有野心吞并X86，又不捆绑英伟达的GPU硬件来强行推广，请对方辩友告诉我，这样一种相对落后的软件架构如何才能不被淘汰？

tomsmith123

CUDA 是一种从硬件体系结构，到软件编程结构的概念。
体系结构理论上是软件和硬件的结合，对于many core 来说，很重要的是可编程性问题，CUDA 的软件支持，解决了对CUDA 架构硬件的可编程性问题，但是暂时CUDA 的编程优化的难度还非常高，一般要求有较多经验的程序员做。
CUDA CBE CT 都不是，或者不仅仅是指令系统。
CUDA 也谈不上落后，不过要改善其可编程性，可能要对软件支撑环境做比较大的改变，并有新的方法来解决其优化问题，很重要的问题是，硬件架构需要有什么样的变化，是否符合nVidia 的战略规划，是否依旧能够在GPU 上保持较高的效率。
Larrabee 做GPU 是副业，而GPU 做GPGPU 也是副业，二者的目的不同，Larrabee 做GPU 是摊薄开发成本，提高市场的生存能力，GPU 做GPGPU 是为了拓展市场，这两方面在GPGPU 市场必然会有竞争，我想和GPU 市场竞争的态势类似，更专业的，会有一定优势。
从体系结构的角度，越专越强，但是从商业的角度，越博越廉，当many core  成为一种潮流，GPGPU 可能逐步走向衰落。

weihua8206

呵呵，CUDA要是很难的话那OPEN CL更不要玩了，OPEN CL每换个显卡都要换底层算法

目前NV的目的首先是把自己的CUDA融入到MS的CS和OPEN CL中，争取更大的标准话语权，NV不是intel他还是首先考虑游戏性能和功耗，然后 ...
66666 发表于 2009-7-5 06:19

呵呵，你又不是黄仁勋，你何以肯定英伟达没有吞并X86的野心？

英伟达的企业文化是极富侵略性的，如果AMD和英特尔接纳英伟达的标准，x86的未来将增加很多不确定性！

竞争对手也不是傻子，不会坐以待毙：英特尔狙击英伟达收购VIA的计划，威胁全面终止对英伟达的授权就是一例。AMD和INTEL也必然不会接纳CUDA，通过开发其它指令集与CUDA对抗是必然的选择。而对于指令集的开发水平，我相信，AMD、INTEL、IBM等厂商的实力目前还不是英伟达可以比得上的。

weihua8206

英特尔想用自己的集显+CPU开发的非对称内核对抗CPU+GPU是不切实际的，性价比差，功耗高，运算能力不足是其软肋！ INTEL做的最好的GPU性能能有多少？相信大家心里都有数。

现在我们讨论的是体系结构的优劣：
从GPU的角度，毫无疑问我们应该选用AMD和NVIDIA的GPU，其运算能力是英特尔远远不能比的。所以，如果英特尔要捆绑自己的GPGPU核心来强推LARRABEE，我们只有对他说：NO！！

从配套的开发界面来说：CUDA确实算不上是一个很好的选择，目前的领先是暂时的。由于体系过于冗杂，界面易用度比起CT等界面来简直就是外星界面（地球人都不明白），其不能代表GPGPU的发展方向。就好像万米赛跑中的乌龟：虽然他暂时领先了1千米，但只要跑得快的动物奋起直追，最终垫底的仍将是乌龟！

另外，从科学计算的发展趋势来说：GPGPU并不是未来的发展主流，“专用浮点处理器”才是最合理的方案。从纯技术角度来说，GPGPU是一种争夺市场的手段和产物，大家都想在通用领域压迫对手，让自己取得更大的话语权。

就好像一个装修队，每个师傅都想把其他师傅赶走，木工电工水暖工都自己来，别人打下手递个扳手改锥什么的就得了，这样挣的钱95%就都是他的了。可是对于业主来说，这样的“GP装修工”装修出来的房子会是什么样子呢？耗时长、质量差、家居开裂、下水管天天堵，电表有事没事就掉闸！！

cullam

个人观点，RT，世界不会没有竞争，当N发展自己CUDA时，I与A不会轻易让N独揽大权，终会利用自己的技术以及各方面的条件支持与CUDA相抗衡，AMD也表明不会接受N的CUDA技术

weihua8206

您再次打了自己嘴巴，我又要重复一次，支持PHYSX的软件 比如PS CS4,TMPENC，游戏如UT3,GRAW2等等太多了，根本就没在其他显卡上出错这回事。
iverlin 发表于 2009-7-5 13:37

请对方辩友不要混淆视听，谢谢。没出错是因为那些游戏厂商在程序中做了判断，发现N卡在电脑中的时候才调用那些PHYSX代码！

作为一个程序员，您应该知道：如果不加判断的强行调用PHYSX（比如英伟达的DEMO）在其他显卡上就必然会出错。

weihua8206

还有对方辩友的观点总是拿CUDA架构复杂编程难来做借口，来看看CUDA对游戏的支持度再说吧：

2 Days to Vegas Steel Monkeys PC
Adrenalin 2: Rush Hour Gaijin Entertainment PC
Age of Empires III Distineer ...
iverlin 发表于 2009-7-5 13:42

世界上有多少游戏？您列举的这寥寥无几的游戏能说明什么问题呢？而且这其中有多少游戏是完全依靠英伟达的赞助开发出来的（“你用我的代码，我给你钱，卖不出去的损失我承担”）？阁下总在强调让程序员去克服困难，问题是，明明有更简单的途径，您凭什么让我多花工夫费心费力的去拿个复杂的工具来用呢？

就算英伟达能砸钱去雇佣程序员使用他们的代码，那么，IBM不会吗？英特尔不会吗？相对来说，谁更有钱？况且CUDA的培训成本还远远高于CT！！

weihua8206

CUDA已经发展得很快了，占尽了先机，再说INTEL在猴年马月推出的LLB在长期内也只能应用在超级计算机和服务器工作站领域，根本不能引领一个时代。。。。
至于AMD。。。还是算了吧。。。现在能拿出什么成果了？AMD的市 ...
iverlin 发表于 2009-7-5 13:49

这是一场马拉松接力，英伟达如果用乌龟一跑到低，最后输的肯定是英伟达！！别忘了，当年英伟达出道的时候，S3还是巨无霸呢！自以为是，觉得技术开发得早了就沾沾自喜，说什么引领时代。最终的结果只能是沦为笑柄，被时代所淘汰

希望英伟达正视使用者的意见，不要把自己当成上帝！CUDA的不好用是大家公认的，为什么还要一味的强推？早点开发一套更易用的方案取代CUDA才是正确的出路！

weihua8206

。。。。。。请问管理员：多大的字体是标准字体？希望能给个规范格式，以便大家共同遵守。

另外，请管理员核对一下，我19楼的帖子是不是在您修改字体的时候把内容误删了？原本我列举和很多事例对反方逐条进行批驳，可是现在怎么和20楼内容一样了呀？

weihua8206

朋友你别太激动，各抒己见罢了~你的大字体和叹号让我很大压力呀~

既然你认为

“早点开发一套更易用的方案取代CUDA才是正确的出路！”

谁来开发？INTEL正在着手只能面对服务器和工作站的LLB，AMD还拿不出什么 ...
iverlin 发表于 2009-7-5 15:03

谁来开发、怎样开发GPGPU技术并不是咱们这次辩论的重点。咱们在此讨论的是“CUDA是否能让电脑走向GPGPU计算时代”。

当苹果一家独大的时候，IBM的PC架构还只是一个雏形。所以，现在只有英伟达推出了GPGPU的解决方案，并不意味着他必然能引领一个时代：

（1）CUDA目前只提供单精度浮点运算，这对于天体物理，量子物理等需要海量高精度运算的场合，其误差会非常离谱。
（2）当CUDA通过PCIE总线传输海量数据时，其效率之低是令人难以接受的！
（3）更适用于科学运算的指令集其实已经存在：相信熟悉matlab的程序员都已经对CT、CLE等耳熟能详。如果英特尔未来把CT进行扩展，使其支持GPU硬件调用，CUDA受到的冲击将会非常大。作为一个程序员，当你知道CT的可移植性、易用性、编程难度都远远低于CUDA时，你还会使用CUDA么？

PS：INTEL为了维护CPU在运算领域的权威地位，不会轻易认可英伟达的GPU运算构想。面对行业巨头的全力抵制，英伟达任重道远。若想开创GPGPU运算时代，尽快开发出一套易用的软件接口（像CT那样易用、广受用户好评的）无疑是当务之急。已经领先并不够，关键在于如何站稳脚跟，不被其他人迅速超越。

tomsmith123

拿PHYSX 来说明CUDA的可编程性没有多少意义，多数支持PHYSX 的游戏，根本不牵扯CUDA 的编程，仅仅利用PHYSX CUDA 提供的API 做计算而已，未来还会有OPENCL CS 可以用来调用，从高层逻辑隐藏CUDA 的复杂性是可能的，但是GPGPU 的目标恐怕不是仅仅提供一个调用接口，否则就不用叫GPGPU了，BROOK已经做得相当好了。
CUDA 通过从硬件结构到软件架构一整套解决方案，提供了可以控制的，一定效能基础的，相对较好的可编程性，至于这个解决方案，能否使GPGPU 成为计算的主流，目前我感觉基本上没什么希望。
Larrabee 和CT 的出现，可能会成为GPGPU 的主流，唯一的问题是，那时候的GPGPU 可能就不是GPGPU 了，而是Many Core 计算时代。
HPC 领域，Many Core 和异构计算无可置疑是未来几年的主流方向，民用服务器和桌面领域，会晚一些，迟早的问题。