为什么edge AI是一个无需大脑的人

为什么edge AI是一个无需大脑的人

Why edge AI is a no-brainer

德勤预计，到2020年，将售出超过7.5亿个edge AI芯片，即在设备上而不是在远程数据中心执行或加速机器学习任务的全芯片或芯片的一部分，收入将达到26亿美元。此外，边缘人工智能芯片市场的增长速度将远远超过整个芯片市场。到2024年，预计edge人工智能芯片的单位销售额将超过15亿，可能会大幅增长。这意味着复合年单位销售额至少增长20%，是整体半导体行业9%复合年增长率的长期预测的两倍多。

图1：可以嵌入智能的位置

这些边缘人工智能芯片很可能会进入越来越多的消费设备，如高端智能手机、平板电脑、智能音箱和可穿戴设备。还将用于多个企业市场：机器人、摄像机、传感器和其物联网设备。edge AI芯片的消费市场比企业市场大得多，但增长速度可能会更慢，预计2020年至2024年的复合年增长率为18%。企业级人工智能芯片市场的增长速度更快，预计在同一时间段内复合年增长率为50%。

图2:edge AI芯片市场

然而，今年，无论是从销量还是美元价值来看，消费类设备市场将可能占据edge AI芯片市场90%以上的份额。这些edge AI芯片绝大多数将进入高端智能手机领域，目前使用的所有消费类edge AI芯片中，智能手机占70%以上。事实上，不仅是在2020年，而且在未来几年，人工智能芯片的增长将主要由智能手机推动。相信，今年15.6亿部智能手机市场中，超过三分之一的智能手机可能含有edge AI芯片。

由于处理器密集型的需求，人工智能计算几乎都是在数据中心、企业核心设备或电信边缘处理器上远程执行的，而不是在设备上本地执行的。Edge AI芯片正在改变这一切。体积更小，相对便宜，耗电更少，产生的热量也更少，因此可以将集成到手持设备以及机器人等非消费设备中。通过使这些设备能够在本地执行处理器密集型人工智能计算，edge AI芯片减少或消除了向远程位置发送大量数据的需要，从而在可用性、速度、数据安全性和隐私性方面带来了好处。

在隐私和安全性方面，保持在设备上的处理效果更好；永远不会离开手机的个人信息不会被截获或滥用。当edge-AI芯片在手机上时，即使没有连接到网络，也可以做所有这些事情。

当然，并不是所有的人工智能计算都必须在本地进行。对于某些应用——例如，当设备的边缘AI芯片处理的数据太多时——发送数据由远程AI阵列处理可能是足够的，甚至是首选。事实上，大多数时候，人工智能将以一种混合的方式完成：一部分在设备上，另一部分在云端。在任何给定的情况下，首选的组合都会根据需要进行何种人工智能处理而有所不同。

The economics of edge AI in smartphones

智能手机中边缘人工智能的经济性

智能手机并不是唯一使用edge AI芯片的设备；其设备类别——平板电脑、可穿戴设备、智能音箱——也包含了这些芯片。从短期来看，这些非智能手机设备对edge AI芯片销售的影响可能要比智能手机小得多，原因可能是市场没有增长（比如平板电脑），或者是因为市场规模太小，无法产生实质性的变化（例如，智能音箱和可穿戴设备预计到2020年销量仅为1.25亿台）。然而，许多可穿戴设备和智能音箱都依赖于edge-AI芯片，因此普及率已经很高。

目前，只有最昂贵的智能手机——价格分布前三分之一的智能手机——可能会使用edge AI芯片。不过，在智能手机中植入人工智能芯片，对消费者来说并不一定是价格上的障碍。

有可能对智能手机的edge AI芯片内容做出相当合理的估计。迄今为止，三星、苹果和华为手机处理器的图片显示，裸硅芯片的所有功能都清晰可见，可以识别芯片的哪些部分用于哪些功能。三星的芯片中有98%的芯片专用于芯片芯片芯片。三星整个SoC应用处理器的成本估计为70.50美元，是手机第二昂贵的部件（仅次于显示器），约占设备总材料清单的17%。假设人工智能部分的成本与其组件在模具面积上的成本相同，Exynos的edge AI神经网络

处理器（NPU）大约占芯片总成本的5%。这相当于每人3.5美元。

图3：三星Exynos 9820芯片的一张照片显示，大约5%的芯片面积专用于AI处理器。

同样，苹果公司的A12仿生芯片将大约7%的芯片面积用于机器学习。整个处理器的成本估计为72美元，这一百分比意味着edge AI部分的成本为5.10美元。据估计，华为麒麟970芯片的成本为52.5美元，该芯片的2.1%用于NPU，这意味着成本为1.10美元。（然而，芯片面积并不是衡量芯片总成本的百分比用于人工智能的唯一方法。据华为称，麒麟970的NPU有1.5亿个晶体管，占芯片总晶体管55亿个的2.7%。这意味着NPU成本略高于1.42美元）。

图4:Apple的A12仿生芯片将大约7%的模具面积用于机器学习。

虽然所引用的成本范围很广，但可以合理地假设NPU的平均成本为每个芯片3.50美元。再加上5亿部智能手机（更不用说平板电脑、扬声器和可穿戴设备），这就形成了一个庞大的市场，尽管每片芯片的价格很低。制造商的平均成本为3.5美元，最低可能为1美元，在智能手机处理芯片上添加一个专用的edge AI NPU看起来是一件轻而易举的事。假设正常的加价，增加1美元的制造成本对最终客户来说只会多赚2美元。这意味着NPU及其附带的好处——更好的摄像头、离线语音辅助等——即使是售价250美元的智能手机，价格涨幅也不到1%。

Sourcing AI chips: In-house or third party?

采购人工智能芯片：内部还是第三方？

生产智能手机和其设备的公司在获取边缘人工智能芯片的方法上各不相同，决定的因素包括手机型号和某些情况下的地理位置。一些公司从第三方供应商购买应用处理器/调制解调器芯片，如高通公司和联发科，这两家公司在2018年共同占据了智能手机SoC市场约60%的份额。

高通公司和联发科都以不同的价格提供一系列的SOC；虽然并非所有产品都包括edge AI芯片，但高端产品（包括高通公司的Snapdragon 845和855以及联发科的Helio P60）通常都有。另一方面，苹果根本不使用外部AP芯片：设计并使用自己的SoC处理器，如A11、A12和A13仿生芯片，所有这些芯片都有edge AI。

其设备制造商，如三星和华为，则采用混合策略，从商业市场的硅供应商那里购买一些soc，其余的则使用自己的芯片（如三星的Exynos 9820和华为的麒麟970/980）。