CPU和GPU之所以大不相同，是由于其设计目标的不同，它们分别针对了两种不同的应用场景。CPU需要很强的通用性来处理各种不同的数据类型，同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂。而GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境。

 

    这个视频，非常具象的表述了CPU和GPU在图像处理时的不同的原理和方法。看到GPU的模型喷射出的一瞬间，你就秒懂了。

 

    根据上面视频中的比喻，你应该很清楚CPU和GPU就呈现出非常不同的架构：
 

 

    绿色的是计算单元

 

    橙红色的是存储单元

 

    橙黄色的是控制单元

 

    GPU采用了数量众多的计算单元和超长的流水线，但只有非常简单的控制逻辑并省去了Cache。而CPU不仅被Cache占据了大量空间，而且还有有复杂的控制逻辑和诸多优化电路，相比之下计算能力只是CPU很小的一部分。

 

    GPU如何加快软件应用程序的运行速度

 

    GPU加速计算可以提供非凡的应用程序性能，能将应用程序计算密集部分的工作负载转移到GPU，同时仍由CPU运行其余程序代码。从用户的角度来看，应用程序的运行速度明显加快。

 

 

    理解GPU和CPU之间区别的一种简单方式是比较它们如何处理任务。CPU由专为顺序串行处理而优化的几个核心组成，而GPU则拥有一个由数以千计的更小、更高效的核心（专为同时处理多重任务而设计）组成的大规模并行计算架构。
 

 

    从上图可以看出：

 

    Cache，localmemory：CPU>GPU

 

    Threads(线程数)：GPU>CPU

 

    Registers：GPU>CPU

 

    SIMDUnit(单指令多数据流，以同步方式，在同一时间内执行同一条指令)：GPU>CPU。

 

    CPU基于低延时的设计：
 

 

    CPU有强大的ALU（算术运算单元），它可以在很少的时钟周期内完成算术计算。

 

    当今的CPU可以达到64bit双精度。执行双精度浮点源算的加法和乘法只需要1～3个时钟周期。

 

    CPU的时钟周期的频率是非常高的，达到1.532～3gigahertz(千兆HZ，10的9次方).

 

    大的缓存也可以降低延时。保存很多的数据放在缓存里面，当需要访问的这些数据，只要在之前访问过的，如今直接在缓存里面取即可。

 

    复杂的逻辑控制单元。当程序含有多个分支的时候，它通过提供分支预测的能力来降低延时。