AI芯片里有没有NPU,区别真有那么大吗?懂的进来。
手机吧
全部回复
仅看楼主
level 2
magiclover_V 楼主
在微博上看见一副漫画,把AI芯片比喻成学校,感觉确实很形象啊,这连个AI专用的模块都没有,光用软件和算法能做成AI吗?技术小白,求大神科普啊。
2018年05月30日 05点05分 1
level 1
回答下楼主的问题,AI手机芯片里有没有NPU其实区别挺大的,主要体现在处理AI运算的性能和效率上。
移动AI处理是一个软硬结合的多层次系统项目。最上层是应用层,其下是API作为应用层和硬件层的交互应用接口。目前Android平台中AI加速的API主要有两个:一个是Google官方的Android AI Runtime,类似Windows下的Direct Compute,软硬件兼容性好,是行业规范;另一个是华为的HiAI,这个是麒麟970独有的API。类似NVIDIA的CUDA,虽然硬件上有限制,但效率更高。在API层下面还有一个HiAI异构资源管理系统,分配任务给下面的硬件层。下面的硬件层可以是NPU,也可以是GPU、CPU、DSP,甚至是ISP。
这说明AI不是一定只能跑在NPU上,其他CPU,GPU、DSP什么也都可以,但在性能和效率上却有着根本性差别:GPU性能是CPU的4倍,而NPU则是CPU的25倍。除开绝对性能,能耗比的差距更为明显,NPU相比GPU和CPU有高达8倍和50倍的差距。这对于电量捉襟见肘的移动设备而言,这完全可以说是有本质的差距。
目前业界在处理AI手机芯片时,也分为NPU和非NPU两大阵营。其中华为麒麟970和苹果A11集成AI专用的硬件处理单元,而高通骁龙845采用CPU/GPU/DSP调度的解决方案,主要通过Hexagon 685实现AI运算。但Hexagon 685只是之前Hexagon 682的小改,严格来说还是一个DSP,只是简单化的向量处理单元,并且这个DSP计算能力还有可能被其他任务占用。骁龙845中更为复杂的AI机器学习任务依然需要GPU甚至是CPU来实现,这样的代价是巨大的。
相比之下,集成NPU的麒麟970在对物体进行识别时,性能可以达到16GFlops的运算能力,单个处理耗时仅为32ns,而工作电流仅为300mA,相比动辄几瓦的CPU和GPU而言十分的绿色。
所以,AI手机芯片里有没有NPU差别还是很明显的,集成NPU还真像是请专家来解决专业问题,既解放了CPU/GPU/DSP,还能提升运算效率,对手机用户来说确实是好事。
2018年05月30日 05点05分 2
[真棒]大佬解惑
2018年05月30日 06点05分
level 12
楼上不错
2018年05月30日 06点05分 3
level 9
其实楼主的疑问很简单 就是当前那么火爆的ai 具体优势在哪 反正目前有ai的各大手机使用下来 用户都很难感受到 这也是所有人的疑惑
2018年05月30日 06点05分 4
level 1
现在市面上的高端AI芯片,主要也就苹果A11,华为麒麟970,高通骁龙845,能看到苹果和华为都是带独立的AI硬件处理单元的,而高通采用的是AIE解决方案,调度CPU、GPU和DSP处理AI任务,感觉这个AI还得是专业硬件才能玩儿得转啊。。。
2018年05月30日 06点05分 5
level 9
目前就是单纯的噱头罢了。ai没感觉到,只感觉到满满的炒作
2018年05月30日 06点05分 6
level 15
其实现阶段最大的问题不是AI是否必须要NPU,而是‘AI’本身的表现形态究竟如何。
必然的事实在于,NPU在未来会成为处理AI功能必须的核心结构存在。但现阶段的AI功能对于用户体验的影响还是微乎其微。华为现在还并没有一个拿得出手值得称赞的‘AI’设计。目前,对于普通用户来说,能够对体验进行较大提升的AI功能,只有语音助手。而现阶段中文语音助手做最好的,还是三星。
2018年05月30日 06点05分 7
level 14
图像识别上速度差好几倍
2018年05月30日 06点05分 8
level 14
除了A11和970上的其它都是耍流氓
2018年05月30日 06点05分 9
level 14
看到楼主和楼上的这群人也是逗,你们知道什么叫AI吗?人工智能,就华为,苹果这些垃圾也叫AI? 去看看阿尔法狗大战柯洁看看什么叫AI。不是拍照识别几个场景,识别几张照片就叫AI,去看看Google最新发布的那个系统,能自动餐厅预订作为,就算故意诱导它,它还是能自动识别错误信息。那才是AI
2018年05月30日 07点05分 10
1