华为和AlphaZero亲身示范，揭示物联网蕴藏在NB-IoT之后的新机遇

　　物联网领域继NB-IoT等低功耗广域网技术的浪潮之后，下一个大的机遇蕴藏在哪里?通过上周AlphaZero和华为的亲身示范，下一波浪潮已经呼之欲出，那就是“边缘智能Edge Intelligence”。

　　上周连续发生了两则重磅新闻：

　　一是10月16日，华为Mate 10系列如期在德国慕尼黑全球发布。华为Mate 10和华为Pro配备了全球首款带有专门神经网络处理器NPU的人工智能芯片麒麟970，基于该芯片的Mate10系列手机的人工智能应用性能得以大大增强，能像人脑一样思考。颠覆性创新加营销让一众脑残粉直呼剁手，各大电商平台均出现一机难求的盛况。

　　另一个是10月19日，DeepMind公布了最新版AlphaGo论文，介绍了迄今最强最新版本的AlphaGo Zero，使用纯强化学习的算法，3天训练后就以100比0的惨烈比分击败了上一版本的AlphaGo。

　　最近我一直被问到物联网领域继NB-IoT等低功耗广域网技术的浪潮之后，下一个大的机遇蕴藏在哪里?答案已经初见端倪，本文就来正式解答。通过本周AlphaZero和华为的亲身示范，下一波浪潮已经呼之欲出，那就是“边缘智能Edge Intelligence”。

　　一、什么是边缘智能(Edge Intelligence，EI)?

　　一句话概括，边缘智能是指在终端侧部署人工智能。

　　毫无疑问，人工智能正在成为一种改变各行各业的通用技术。此前，绝大部分的人工智能都是依赖云端实现，现在，部署在终端侧的人工智能正在开辟更为广阔的市场。除了智能手机等个人终端之外，靠近设备或数据源头的网络边缘，物联网终端将会成为最大战场。

　　依靠云端实现的人工智能存在一些显而易见的弊端，如业内众所周知的“三大罪”：首先，个人数据上传到云端不利于隐私保护;其次，云端人工智能需要较高的带宽支持，功耗较高;第三，云端人工智能会有较高的延时性，很多需要实时物联网RT-IoT的场景无法应用。

　　而边缘智能将会有效的避免这些问题，优势堪称碾压性的：

　　1. 网络时延优势：边缘终端的位置确保了时间敏感类应用的实时性需求。

　　2. 网络分布优势：部署于边缘的人工智能让终端设备直接得到AI分析结果，既减少了网络流量，又分流了云端集中推理的计算压力。

　　3. 安全性和可靠性提升：边缘智能不必将个人数据上传到云端，就地进行人工智能分析，利于隐私保护，同时提升对网络依赖方面的可靠性。

　　4. 产业布局灵活：围绕边缘智能将会衍生出全新生态，由于人工智能的各种算法发展日新月异、组合千变万化，边缘智能将会推动产业的进一步分工，产生算法提供商、终端生产商、边缘智能服务运营商等多重角色。总之，比边缘计算更进一步的边缘智能，拥有更高的安全性、更低的功耗、更短的延时、更高的可靠性、更低的带宽需求…这些都是边缘智能EI傲视云端智能的资本。

　　二、从市场角度来讲，边缘智能的好处在哪里?省钱。

　　B2C领域的各种智能家居终端和可穿戴设备更通人性，帮你省电、省水、省洗衣粉、省粮食…这些好处根本不值再提。

　　这里仅以B2B范畴的工业为例，某研究机构算了一笔详细的经济账。大部分边缘设备都与云端相隔万里，而当边缘与云端的距离减少到200英里时，数据处理成本将减少30%，相隔100英里时，数据处理成本将减少60%。而当边缘具备人工智能分析能力时，这一成本还有继续缩减的空间。报告同时发现，近一半的设备维护工作实则鸡肋。如果利用边缘智能，根据机器的实际状况开展维护工作，工厂就能更快地响应异常情况，减少停机事件，避免白干活。如果利用视频监控施工现场或危险区域的工人，并通过边缘智能即时进行分析，可以将人工观察成本减少30%到50%。这些看得见摸得着的经济效益对工业、制造业有着致命的吸引力。总体而言，通过边缘智能，企业能够将运营成本降低5%到12.5%，同时提高生产力，延长设备的使用寿命。

　　除了省钱之外，边缘智能还有可能无心插柳柳成荫，带来意料之外的惊喜价值。根据麦肯锡的分析，虽然工业现场安装了成千上万的传感器，但是决策时使用的传感器数据却仅仅只有1%。那么，其他99%的数据去哪儿了呢?丢了!

　　大多数的数据在采集点就丢了。麦肯锡发现，40%的数据完全没有保存，剩余60%的数据也只是离线保存在采集终端上。仅仅依靠1%可怜的回传数据，谈何实时管理和深入分析?边缘智能让企业第一次有机会抓住事先和事中分析的可能性，从事后亡羊补牢的怪圈中跳出来，重新审视自身、重构管理机制。

　　三、从技术发展的时间轴来看，为什么说边缘智能的机遇在当下这个时刻开启了呢?

　　硬件是最直观的说服力。开篇中提到华为Mate 10搭载的正是全球首款内置神经元网络单元(NPU)的人工智能处理器麒麟970。无独有偶，苹果发布的新一代iPhone所搭载的A11仿生处理器也加入了全新的神经网络引擎。除了华为和苹果之外，巨头们也纷纷表示不想输在起跑线上。虽然尚未推出移动AI芯片，但高通将加大AI领域的投资：集中在提升CPU、GPU和DSP性能三大方面。事实上，高通神经处理引擎的软件开发工具包已经在不久前面向开发者推出。

　　至于三星，韩媒称这家公司也正在开发“多款”专用AI处理芯片。不久之前，Imagination发布了全新神经网络加速器PowerVR Series2NX NNA，据称性能秒杀麒麟970和苹果A11。ARM推出新架构DynamIQ芯片，该CPU架构将会通过为不同部分配置软件的方式将多个处理核心集聚在一起，其中包括一个专门为AI算法设计的处理器。芯片厂商将可以为新处理器配置最多8个核心。同时为了能让主流AI在自己的处理器上更好地运行，ARM还将放出一系列软件库。英特尔也推出了Myriad X芯片，将专用的成像、计算机视觉以及高性能深度学习推理结合在同一个芯片中，立志以惊人的低功耗和高性能将人工智能引入边缘。更多的企业正在半路杀来。比如，全球领先的智能和互联设备的信号处理IP授权许可厂商CEVA和正在申请专利的深度学习技术厂商Brodmann17宣布合作，为边缘设备增强20 倍AI性能。

　　虽然，移动AI芯片并非一切通吃，它的普及也不是一朝一夕之事，技术需要不断进步，才能进化出更符合我们期待的“边缘智能大脑”，但是，华为和苹果在手机中引入移动AI芯片的做法具有首创与首试的重要意义：

　　首先，有预测称，在巨头们的带动下， 2018年的智能手机都会搭载AI芯片。由于手机仍旧是世界上出货量最大的智能终端之一，移动AI芯片搭载于手机端，似乎可预见一大波手机大战，这无疑有利于促进其成本的迅速下降。

　　其次，Mate 10并不是智能手机，而是智能机器。华为和苹果引领的不只是手机市场革新，而是边缘智能和下一代物联网的技术趋势。拥有移动AI芯片的智能手机有利于终端用户培养使用习惯，进而很快接受甚至期待承载边缘智能的家居硬件或者其他时尚可穿戴单品。最后，边缘智能的普及需要建设新型生态。提供硬件、软件和运维的各种企业共同推进，开发者同样会扮演非常重要的角色。巨头们已经培育多年的开发者和合作企业生态，有利于将生态能力快速切换到IoT边缘智能产品的打造中来。

　　四、再从软件端来看。

　　我们一直有一个印象，很多人相信在人工智能的应用中，必须依靠强大的算力支持和海量的数据积累。但是AlphaGo Zero让他们第一次认识到了算法的重要性远高于算力和数据，而且在AlphaGo Zero中，团队投入的算力比打造上一个版本的AlphaGo少使用了一个数量级。新一代的AlphaGo Zero达到这样一个水准，只用了4块TPU，训练72小时就可以战胜与李世石交手的AlphaGo，训练40天后可以战胜与柯洁交手的AlphaGo。而它的哥哥阿法狗，需要在48个TPU上，花几个月的时间，学习三千万棋局，才能打败人类。几个不同版本所需的算力对比如下：

　　同样重视算法的还有百度。百度硅谷AI实验室高级研究员Greg Diamos曾经发布署名文章，其中指出，在人工智能领域，硬件研发速度已经超过了人工智能算法，为了能更完全发挥当今人工智能硬件的威力，加快人工智能的技术进展，研发下一代算法成为了当务之急。这里解释一下AlphaGo Zero如何不依靠人类知识“自学成才”。AlphaGo Zero之所以能当自己的老师，是用了一种叫强化学习的新模式。主要有两个核心要素，一个是启发式搜索，一个是深度残差神经网络，而这两者又实现了完美结合。前者，启发式搜索的思想非常朴素，是个针对问题设计的一个高级定制版蒙特卡洛数搜索算法;而后者，深度残差神经网络则让简单的搜索算法极大地提升了效率。

　　着重介绍后者的最新进展，深度残差神经网络ResNet在2015年由旷视科技首席科学家孙剑当时带领的团队率先提出，ResNet一个重要的突破是实现了152层的网络深度，这让一些非常复杂的函数做映射时的效率与有效性得到了极大的提升。结合了ResNet的强大网络使AlphaGo Zero能够快速、准确地学习每一子的落子概率和对整个棋局进行判断。随后孙剑在结构上继承了残差网络(ResNet)的设计思想，并在此基础上做出了一系列改进来提升模型的效率，旷视研究院在今年7月提出ShuffleNet，它专门为了移动端的应用而生，在设备提供的计算量很小的时候也能快速响应。除了像ShuffleNet这样通过网络设计的方式把计算量降下来，旷视在去年还发表了一项工作DoReFaNet，并且其团队成员仍然继续在降低计算量的这一方向上发力。

　　采用深度残差神经网络ResNet，AlphaGo Zero在特征提取层采用了多个残差模块，每个模块包含2个卷积层，比之前的AlphaGo深度明显增加，从而可以实现更好的特征提取。AlphaGo Zero借此自我对弈，往复循环。每过一轮，系统的表现就提高了一点点，自我对弈的质量也提高了一点点。神经网络越来越准确，AlphaGo Zero的版本也越来越强。目前的这个结论，只有Google一家得出，没有其他机构复现该实验，或说“证实”与“证伪”。如果它是正确的话，那么将会极大的影响人工智能的演进路径。

　　过去在人工智能领域一直存在争论，是算法重要还是算力重要。AlphaGo Zero展示了算法的重要性，使用了更先进的算法和原理，让AlphaGo Zero的程序性能本身更加优秀，而不是等待硬件算力技术的提升。AlphaGo Zero揭示了依靠高效算法和较少算力实现AI的可行路径。软件算法的持续迭代与人工智能硬件的结合，将会催生爆发式的成长。这种低功耗、高性能的解决方案，推动人工智能走向网络边缘。

　　五、是否有公司已经在边缘智能领域起跑?不少。

　　先从巨头讲起。收购了DeepMind科技的Google，还拥有一个物联网领域的利器：Google IoT Core。目前Google正在与恩智浦合作，挖掘边缘设备的潜能，进一步发挥机器学习和人工智能的作用，推动制造、运输、公用事业等各行各业快速受益。利用“云物联网核心Google IoT Core”，企业可以轻松连接并集中管理全球各地成百上千万的物联网设备。

　　当用作更广泛的谷歌云物联网解决方案的一部分时，“云物联网核心”可以吸纳所有物联网数据并连接到谷歌云最先进的分析服务，包括Cloud Pub/Sub、Dataflow、Bigtable、BigQuery和Machine Learning。微软最新推出的Azure IoT Edge服务，是一个为物联网准备的边缘服务。它会用各种传感器和小型计算设备追踪工业场景中的数据，然后由微软的云和AI工具分析，通过这项功能将计算能力由云推向边缘。使用微软的Azure IoT Edge，不仅能采集和分析数据，还开始将Azure机器学习及AI认知服务带进设备端，让设备想要就近结合机器学习变得更容易多了。Azure IoT Edge使得IoT设备能够实时运行云服务，处理数据，并与传感器和其它与之相连的设备进行通信。通过处理、分析和运行数据源，Azure IoT Edge帮助用户做出更快、更智能的决策，同时将关键信息发送到云进一步分析来降低带宽成本。

　　苹果则发布了Core ML平台，坚持不在云端实现机器学习，核心是加速在iPhone、iPad、Apple Watch上的人工智能任务，支持深度神经网络、循环神经网络、卷积神经网络、支持向量机、树集成、线性模型等。Core ML为设备性能进行了优化，从而减少了内存占用和功耗。严格在设备上运行能够确保用户数据的隐私，并且能保证各种应用在没有网络连接时也能够工作和响应。由于Core ML减少了很多不必要的内容，就算不在云端运行也不会性能变差。

　　六、边缘智能领域的初创企业更值得关注。

　　首先来说说我经常提到的FogHorn公司。FogHorn 为工业和商业物联网应用提供边缘智能计算平台，这一平台能够在各类工业和企业中，发挥机器学习和高级分析的作用，推动新一类的监控和诊断、资产性能优化、运营智能化和预见性维护程序的发展。

　　FogHorn解决方案通过提供一个高度微型化的复杂事件处理CEP引擎(也被称为分析引擎)和强大而富有表现力的域特定语言(DSL)，在多个传入的传感器数据流上表达规则，从而解决这一问题。然后，这些表达的输出可用于立即防止费用高昂的机器故障或停机时间，并可实时提高工业运行和处理的效率及安全性。Foghorn最新的机器学习平台Lightning ML，仅有256MB大小，将机器学习能力嵌入到边缘设备，使得AI能够运行在计算能力高度受限的边缘设备上，例如PLC、工业PC、Raspberry Pi系统和多种IoT网关。

　　关键特点：可在小型环境、高吞吐或网关环境内运行高度可扩展的高效CEP引擎，可作用于未来流传感器数据在带有丰富数据访问的边缘进行复杂应用开发和部署跨越云和边缘的应用移动性云与边缘之间先进的机器学习(ML)和模型传输FogHorn支持主要的工业数据提取协议(如 OPC-UA、Modbus、MQTT、DDS 等…)以及其他数据传输协议。

　　此外，用户还可轻松地将自定义协议适配器插入FogHorn的数据提取层。另外一家初创企业来自中国，名为北京轻停网络科技有限公司，正在进行边缘智慧方面的有益尝试。“轻停”顾名思义就是轻松停车，这家公司从智能停车场景切入，进而抽象通用能力，发布了EdgeOn企业级物联网开发套件，让更多的企业开发者和集成商，有能力像轻停一样把优质的IoT服务做到各行各业。

　　EdgeOn IoT Suite针对物联网行业应用构建，具有非常显著的特点：

　　1. 它可以实现异构的IT和OT系统的集成，支持所有工业协议的解析。2. 它支持行业模板，比如说一座大楼的楼宇、消防、安防等控制系统已经运行了4-5年，并且需要24小时连续工作，轻停确保从系统数据库里获取业务数据上传到云端、再回写到系统，每一个环节都安全可靠。3. 通过与青云QingCloud的合作，轻停在行业内首发混合云部署架构，支持企业各种云环境，实现全数字化转型。4. EdgeOn行业模板里内置的API可以帮助服务提供商快速集成和构建物联网服务。当今技术的迭代速度明显高于人们的预期，人工智能也不是万能的，它还处于初级阶段，而且人工智能的投资正在经历泡沫化，市场迷雾越来越浓。细节方向或许迷茫，不过，错过边缘智能浪潮的战略性失误，那绝对是不可饶恕的。