边云协同:云端训练,边缘推理
既然在云端和边缘端分别完成不同数据处理,那么如何划分边缘和云端的处理职能?笔者其实清楚这个问题回答起来挺难,但是还是忍不住抛给了英特尔的专家。张宇博士通过人脸识别的例子来做了解释,“现在人脸识别用得最多的是基于深度学习和人工智能的技术,这些技术大概分为两阶段:第一是训练阶段,第二是推理阶段。在训练的阶段要使用大量的样本,通过反复迭代来最终做出人脸处理的模型。从目前的技术实现来看,训练阶段目前绝大部分还是发生在云端,因为在这一过程计算量比较大;另外,训练和推理有很大的区别,训练是一个反馈的过程,有一个反向的处理优化的过程,而推理往往是前向的,一条路处理完就结束了,它们的处理复杂度不一样。目前在云端做更多的训练,在边缘侧做很多推理工作,然后利用训练的结果,把训练完以后的模型下载到边缘侧进行推理,这是目前已经实现的做法。”
关于未来的发展,张宇博士表示,“我们能够预见,在今后随着计算机计算能力的不断增强,一部分的训练工作有可能从云端推送到前端,也就是对于某些已经第一步训练完以后的网络,可能还需要重新优化的过程,这个优化很可能在边缘侧发生。比如我们做语音识别时,可能第一步先做针对普通话训练的语音识别,建立一个模型,当我们把这个模型用在山西或者云南,这些地方存在口音和方言,因此在这些地域应用,需要对模型进行优化,这里的优化工作很可能在边缘实现,只要算力足够强,根据新的动态样本,对第一阶段所生成的模型做动态的优化,把这个结果用在特定的地域进行使用,效果会更好。所以类似这样的动态训练,我们认为在今后随着算力的逐渐增强会发生。”
边缘智能控制器
联盟为成员带来更多合作机会
边缘计算产业呈现应用广且碎片化的发展态势,因此未来边缘计算不是一家公司或者几家公司就能实现的一项技术,而需要建立一个生态系统,让产业链上下游的合作伙伴共同建设。虽然在讨论边缘计算时,大家提到了很多不同的技术,但是大家对于分布式计算和边缘计算的理解却是惊人的一致。
过去的计算跟随数据移动,数据在云端,计算就发生在云端;如果今天数据因为网络限制或者实时性需求,必须要在终端处理,从架构来看,边云协同就非常重要。如果每次从云计算切换到边缘计算都需要改变架构,而且所有算法、操作系统都不同,运算会非常缓慢,过程会非常痛苦,因此我们不仅需要边缘智能,还需要边云协同。张宇博士指出,“这个协同的分量从量来讲,协同是一个定性的定义,但是从量来讲,会随着网络带宽的成本和带宽4G到5G作为很动态的变化,而且最终会因为实时性需求和整个成本的考量,将来可能是端到端的软件定义的系统。作为英特尔来讲,如果我们芯片又能够支撑边缘计算,又能够辅助于云端的计算,那边云协同一定是我们公司能够提供的优势。中国移动加入以后,提到serverless,其实不是不用服务器,大家认为服务器是支撑数据中心的,实际上对我们来讲是同一个芯片,这个芯片可能就待在酒店里,因为它的网关里面就用了很高端的芯片,把所有电梯、门窗或者监控系统都能够整合到在酒店局部的操作服务器的架构里面。边云协同是能够促使边缘计算行业快速发展的一个主要因素之一。”
在边缘计算产业联盟里,成员彼此互相带来价值,进行合作。从物联网来看,产业链很长,每一个公司只是整个产业链的一个环节。产业联盟给成员带来价值就是合作机会。在边缘计算产业联盟主持测试床的工作中,三年来总共批准了30个测试床,今年新批了9个测试床,其中绝大部分测试床都不是由一家单位独立完成,而是由几家甚至更多的单位合作完成,每个单位在整个测试床只是提供一部分功能,有人提供硬件,有人提供软件,有人提供底层软件,有人提供算法,通过这样的测试床,通过联盟的平台,成员间有了更多合作的机会,通过这样的合作,使一些针对某些行业的边缘计算解决方案能够更快的落地。
“物联网一定会从互联走向智能,再从智能走向自主。”张宇博士认为,这就是物联网发展的“摩尔定律”。