对于人工智能的所有希望和风险而言，其看似无情的前进道路上存在一个巨大障碍：运行AI应用程序的算法是如此之大和复杂，以至于它们需要在云和数据中心的强大机器上进行处理，大量的应用程序在智能手机和其他“边缘”设备上不太有用。

现在，由于近几个月来在软件，硬件和能源技术方面迅速推出的一系列突破，这种担忧正在迅速消除。

这很可能使AI驱动的产品和服务进一步远离对强大的云计算服务的依赖，并使它们进入我们生活的每个部分，甚至进入我们的身体。反过来，这最终可能会引入咨询公司Deloitte去年年底所说的“普适性智能”，随着AI服务的普及，在未来几年内将震动行业。

根据市场研究机构Gartner Inc.的数据，到2022年，出货的智能手机中80%将具有设备本身的AI功能，而2017年为10%。到2023年，将增加约12亿部具有AI计算功能的设备的出货量。根据ABI Research的数据，该市场的规模从2017年的7900万增长到2017年的7900万。

许多创业公司及其支持者闻到了很大的机会。上周在硅谷召开会议的嵌入式视觉联盟创始人杰夫·比尔(Jeff Bier)表示，过去三年来，投资者向新的AI芯片初创公司投入了约15亿美元，超过了对所有AI芯片初创公司的投资。前三年。市场研究人员YoleDéveloppement预测，到2023年，人工智能应用处理器的复合年增长率将达到46%，届时几乎所有智能手机都将拥有它们，而今天这一比例还不到20%。

这不只是初创企业，正如本周在台北举行的Computex计算机会议上宣布的一系列公告一样。就在今天，英特尔公司预览了即将面世的Ice Lake芯片，其中包括“深度学习Boost”软件和图形处理单元上的其他新AI指令。周一早些时候，Arm Ltd.还推出了一系列针对AI应用的处理器，包括智能手机和其他边缘设备。几个小时后，Nvidia Corp.宣布了其首个用于AI设备的平台。

IHS Markit首席分析师汤姆·哈克特(Tom Hackett)在联盟的嵌入式视觉峰会上说：“在未来两年内，几乎每个处理器供应商都将为AI提供某种竞争性平台。” “我们现在看到了下一代机会。”

这些芯片正在进入智能手机以外的更多设备中。它们还被用于数百万个“物联网”机器中，例如机器人，无人机，汽车，照相机和可穿戴设备。例如，在约75家开发机器学习芯片的公司中，有以色列的Hailo，该公司在一月份筹集了2100万美元的融资。5月中旬，它发布了针对深度学习进行了调整的处理器，这是机器学习的一个分支，负责语音和图像识别的最新突破。

根据新的研究表明，神经网络的规模可以缩小十倍，并且仍然可以达到类似的结果，因此，更加紧凑和功能强大的软件将为边缘更多的AI铺平道路。 已经有一些公司设法压缩AI所需的软件大小。

例如，谷歌有限责任公司(Google LLC)于2017年末推出了针对移动设备的TensorFlow Lite机器学习库，这使智能相机具有潜力，即使没有互联网连接，它们也可以识别野生生物或成像设备来进行医疗诊断。Google员工研究工程师Pete Warden在Embedded Vision Summit上的主题演讲中说，现在大约有20亿移动设备已部署TensorFlow Lite。

3月份，Google推出了设备上的语音识别器，以在Google的虚拟键盘应用Gboard中增强语音输入。自动语音识别转录算法现在已降至80兆字节，因此可以在典型的Pixel手机内的Arm Ltd. A系列芯片上运行，这意味着它可以脱机工作，因此没有网络延迟或斑点。

尤其重要的是，对遍历云的数据的隐私担忧迅速提高，这也意味着有规章制度应避免将数据移出小工具。

“几乎所有的机器学习处理都将在设备上完成，”比尔(Bier)也是伯克利设计技术公司(Berkeley Design Technology Inc.)的联合创始人兼总裁，该公司为嵌入式数字信号处理技术提供分析和工程服务。而且会有很多这样的硬件：Warden引用了当今世界上大约2500亿个活动嵌入式设备的估计，并且这个数字正在以每年20%的速度增长。

但是，在云端进行AI并非易事。它不仅仅是机器学习算法的大小，还包括执行它们所需的能力，尤其是因为智能手机，尤其是物联网机器(如相机和各种传感器)不能依靠墙上的电源甚至电池来供电。沃登说：“如果我们不得不更换或充电电池，这些设备将无法扩展。”

向云发送数据和从云发送数据所需的无线电连接也是能源消耗，因此通过蜂窝或其他连接进行通信对于许多小型，廉价的设备而言都是一笔交易。YoleDéveloppement的技术和市场分析师Yohann Tschudi表示，结果是：“我们需要一种专门的架构来实现我们想要做的事情。”

还需要开发实际上消耗不到一毫瓦的设备，这大约是智能手机所用电量的千分之一。好消息是，越来越多的传感器甚至微处理器有望做到这一点。

例如，美国能源部与Molex Inc.和楼宇自动化公司SkyCentrics Inc合作，帮助开发了用于建筑能源管理的低成本无线剥离式传感器。新的实验图像传感器可以利用环境光为自身供电。

甚至微处理器，也就是计算的主要力量，例如Ambiq Micro，Eta Compute，Syntiant Corp.，Applied Brain Research，Silicon Laboratories Inc.和GreenWaves Technologies之类的初创公司，其功耗可能都非常低。Warden说：“没有理论上的理由，我们不能以微瓦为单位进行计算，或者比毫瓦小一千倍。这部分是因为可以对它们进行编程，例如，仅当发生可操作的事情(例如，液体洒在地板上)时，才能唤醒收音机以与云对话。

所有这些都表明，机器学习将在智能手机，智能相机和工厂监控传感器等各种领域中广泛应用。确实，沃登说：“我们收到了太多的产品请求，要求在嵌入式设备上运行机器学习。”