|
不同类型AI服务器之比较分析首先看下不同类型AI服务器的比较,通过上面这张二维图中我们可以对不同架构的服务器进行简单的比较。 从左上方到右下角依次是CPU、GPU、FPGA、TPU、ASIC,从横轴来看,越往右性能(Performance)越好。 纵轴Programmability/Flexibility是指服务器的可编程性和灵活性, ASIC的性能最好,因为它是将算法固化在芯片上,算法是比较固定的,所以它的性能最好的,但是它的编程性和灵活性就相对比较弱。 而CPU的灵活性和编程性最好,但性能最弱。 总的来说,GPU的灵活性比CPU弱,但它的性能更好。 往下依次是FPGA、TPU以及ASIC。 在实际选择时需要考虑到功耗、成本、性能、实时性等各方面因素,尤其是一些具有专用目的的处理器,如果算法已经固化并且很简单,可以考虑ASIC,因为ASIC性能好且功耗低。 如果是在训练或者通用情况下,GPU则是更好的选择。 |