本发明涉及一种基于深度学习的工业物联网边缘资源智能调度系统及方法。
背景技术：
随着“工业4.0”概念的提出，物联网等战略性新兴产业的发展已经越来越为世界各国高度关注。目前，物联网与工业融合创新已是大势所趋，工业大数据技术及应用已经成为提升制造业生产力、竞争力、创新能力的关键要素。工业物联网被广泛应用于诸如医疗保健、制造业、智能电网的管理，对实施智能制造战略具有十分重要的推动作用。
深度学习正在成为物联网应用和系统的新兴技术。多层级的深度置信网络(dbn)在大规模数据处理上有很好性能。而工业物联网(industrialintemetofthings，iiot)应用场景下处理的数据都是海量的。因此深度置信网络(dbn)被看作在工业物联网中从嘈杂和复杂的环境中可靠地挖掘真实世界的物联网数据的最佳解决方法。
在工业物联网的环境下，深度学习的计算任务大多是十分密集的。物联网设备会生成大量数据并将数据传输到云以进行进一步处理，这些数据包括多媒体信息，例如视频，图像和声音，或结构化数据，例如温度，振动和光通量信息。
然而，以云计算模型为核心的集中式大数据处理，已难以高效处理工业物联网设备所产生的数据，主要表现在负载、时延、安全、能耗等方面。因此，提出边缘计算来将计算从集中式云服务器转移到用户端附近的边缘节点。边缘节点可以在将大量数据传输到云中的中央服务器之前对其进行预处理，以此优化云资源负载。
深度置信网络(dbn)分为许多层，通过每个网络层快速缩小中间数据的大小，直到找到足够的特征。因此，深度置信网络的学习模型与边缘计算的两层结构十分适合。
除了计算密集型特性之外，工业物联网深度学习的另一个关键需求是及时的态势感知。应用依靠计算结果来感知周围环境，以便及时做出正确的决策。陈旧的信息具有干扰甚至是对系统有害的。然而传统的边缘任务调度策略是面向延迟的，每个计算任务都会独立处理，并且其值不会随时间变化。因此，传统的面向延迟的边缘调度策略不能满足保证计算结果实时性的需求。
技术实现要素：
本发明所要解决的技术问题是，克服现有技术存在的工业物联网大数据处理能力不足，提供一种基于深度学习的工业物联网边缘资源智能调度系统及方法。
本发明提供一种基于深度学习的工业物联网边缘资源智能调度系统，包括数据采集模块、任务调度模块、边缘数据处理模块和云端深度学习网络培训模块；所述数据采集模块，用于对工业过程的中间环节进行监测，在获得数据后第一时间通过任务调度模块将数据处理任务调度至处理能力富余的边缘服务器上；
所述任务调度模块，用于根据数据采集模块采集数据任务的任务年龄(aot)，将任务调度到合适的边缘服务器上，作为输入送入部署在边缘层的深度学习网络层以进行初步的数据处理；
所述边缘数据处理模块，用于对监测数据进行处理分析，利用输入样例训练第一层受限玻尔兹曼机(rbm)单元，并将输出的中间数据上传至云服务器；
所述云端深度学习网络训练模块，用于接收来自边缘层的预处理数据，利用预处理数据进行训练以确定深度置信网络(dbn)最优网络结构，并对权重进行调整获得最终模型。
本发明针对从复杂环境中可靠挖掘真实世界的物联网数据的困难情况，将深度学习引入工业物联网边缘计算环境，以研究海量复杂的iiot数据，提高学习性能并减少网络流量。对此，本发明制定了一个与不同深度学习模型兼容的弹性模型。并且，由于不同深度学习模型的任务需求、中间数据大小以及预处理开销不同，本发明采用了一种基于任务年龄的任务调度和计算卸载算法，在调度中保证每个物联网深度学习服务的服务质量(qos)，以增加时间维度的考量，提高深度学习模型获取数据的精准性和及时性，并利用有限的网络带宽和边缘节点的服务能力来最大化深度学习任务的数量。
本发明还提供了一种基于深度学习的工业物联网边缘资源智能调度方法，包括以下步骤：
步骤1、由数据采集模块中各工业设备上的无线传感器将应变、载荷、扭距、位移、加速度、压力、温度等监测数据实时向任务调度模块上传；转至步骤2；
步骤2、任务调度模块将数据采集模块采集的监测数据的处理任务部署到合适的边缘服务器；转至步骤3；
步骤3、边缘服务器对接收的监测数据进行处理分析，并进行预测建模，输出具有特殊语义的中间数据，将中间数据输入至云服务器；
步骤4、云端深度学习网络培训模块接收边缘服务器上传的中间数据，利用中间数据进行模型训练以确定dbn最优网络结构，并对权重进行调整获得最终模型。
本发明进一步优化的技术方案如下：
所述步骤2中，任务调度模块进行任务调度的具体方法如下：
步骤201、根据下式计算完成各任务引起的总aot的变化量δn，
式中，
步骤202、根据完成任务后总aot的变化量δn排序，调度首位任务进行计算卸载；转至步骤203；
步骤203、为计算卸载找到每时隙处理的最优数据大小，使能量约束下的处理时间最小化；转至步骤204；
步骤204、确定每个时隙内应分别在本地处理和卸载到边缘服务器处理多少位数据。
所述步骤201中，对于除最后一个任务外的一组任务，
δnk＝τn，k 1-τn，k，k∈k′n(2)
式中，τn，k、τn，k 1分别表示程序n中第k和k 1个任务的完成时隙，k′n表示程序n中除最后一个任务外的任务集；
对于最后一个任务来说，
根据下式计算等待任务引起的年龄增加量
式中，snk表示在应用程序n中处理任务k所需的时隙数量，n＇表示具有未处理任务的应用程序的数量。
所述步骤203的具体方法如下：
用enk表示分配给应用程序n中任务k的能量，并为每个任务分配一个初始能量，它与任务长度的立方成正比，于是可以得到，
式中，lnk表示应用程序n中任务k的长度，n表示程序集合，kn表示程序n的任务集合，emax表示设备处理所有任务所消耗的能量上限；
设
eloc(t)＝ecvcωdloc(t)＝γf2(t)ωdloc(t)＝α(dloc(t))3(5)
其中，α＝γω3/τ3，
其中，λ＝λ0/τm-1，
上式中，dloc(t)表示本地执行的最优数据分配，doff(t)表示边缘服务器执行的最优数据分配，eloc(t)表示本地计算的能耗，ecyc表示每个cpu周期的能耗，f2(t)表示设备在时隙t时的cpu频率，eoff(t)表示计算卸载的能耗，poff(t)表示设备发送信号频率，h(t)表示本地设备与mec服务器在t时隙的信道增益，
所述步骤204的具体方法如下：
假设时隙t内可以处理的数据量是固定的，用d(t)表示在时隙t中处理的数据大小，于是单个时隙的能耗e(t)为，
根据下式计算本地执行和边缘服务器执行的最优数据分配即dloc(t)和doff(t)，
式中，dloc(t)和doff(t)分别表示本地cpu和mec服务器处理的数据大小。
为了得到d(t)的值，本发明应用可行性测试来寻找在能量约束下处理任务所需的最小时间间隔。首先将任务完成时间固定为一个时隙，令d(t)＝lnk，根据式(9)计算所需能量。如果获得的能量e′nk小于能量限制(enk)，那么d(t)的值是可行的。否则，将任务完成时间增加一个时隙，并交互计算每个时隙中处理的数据大小，直到最终的能耗满足能耗约束。即求出处理任务的最小时间间隔，且d(t)为时间最小化下每时隙处理最优数据大小。
所述步骤3中，在任务调度模块将任务部署到合适的边缘服务器后，在边缘服务器上，对监测数据进行处理分析后进行预测建模和权值初始化。
所述权值初始化的具体方法如下：
步骤301、随机初始化{w，a，b}，其中w为权重，a是可见层的偏置向量，b为隐藏层的偏置向量，随机初始化为较小的数值(可为0)；转至步骤302；
步骤302、将x赋给显层v(0)，并根据下式计算x使隐层神经元被开启的概率，
式中，
步骤303、根据步骤302计算的概率分布
步骤304、用h(0)重构显层后，根据下式再次计算隐层神经元被开启的概率，
步骤305、更新得到新的权重和偏置。
所述步骤4中，在经过边缘服务器的深度学习算法与处理后，输出的具有特殊语义的中间数据将再次作为输入上传至云服务器，由云端深度学习网络培训模块接收，重复步骤3的过程利用中间数据迭代计算下一代rbm单元的w、a、b值，以及最后一个bp单元的w和b值，最后利用训练数据集确定dbn最优网络结构，并对权重进行调整，利用训练数据在此模型上进行训练，不断微调直至最终模型。
本发明采用以上技术方案与现有技术相比，具有以下技术效果：
(1)将深度学习引入工业物联网的边缘计算环境，以从嘈杂和复杂的环境中可靠地挖掘真实世界的工业物联网数据，并通过深度学习模型来对海量的数据进行智能处理，提高工业物联网系统性能。
(2)优化网络性能并保护用户上传数据的隐私。边缘计算结构减少了从物联网设备到云服务器的网络流量，因为边缘节点上传的是精简的深度学习中间数据而不是输入数据；并且由于中间数据是深度学习的独特语义，因此能够很好地保护边缘数据上传至云端过程中的数据安全。
(3)引入一种新颖的新能指标aot来评估任务的时间价值，使得系统更能满足工业物联网环境下深度学习模型对任务及时性的要求，并最大化边缘计算环境中的任务数量，来解决边缘节点的有限服务能力问题。结合任务调度、计算卸载和能量消耗，以一个整数非线性程序(inlp)解决任务年龄最小化问题，全面有效的对工业物联网深度学习的任务进行调度。
附图说明
图1为本发明的系统原理图。
图2为本发明的方法流程图。
具体实施方式
下面结合附图对本发明的技术方案做进一步的详细说明：本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护权限不限于下述的实施例。
本实施例提出了一种基于深度学习的工业物联网边缘资源智能调度系统，包括数据采集模块、任务调度模块、边缘数据处理模块和云端深度学习网络培训模块。各个模块的具体功能如下：
数据采集模块，以工业过程中各类设备的无线传感器等节点作为物联网的数据感知设备，对工业过程的中间环节进行监测，在获得数据后第一时间通过任务调度模块将数据处理任务调度至处理能力富余的边缘服务器上。
任务调度模块，根据数据采集模块采集数据任务的aot，通过基于深度学习任务年龄的任务调度算法将任务调度到合适的边缘服务器上，作为输入送入部署在边缘层的深度学习网络层以进行初步的数据处理。
边缘数据处理模块，在边缘服务器上，运行无监督学习的机器学习dbn深度学习算法对监测数据进行处理分析，利用输入样例训练第一层rbm单元，并将输出的中间数据上传至云服务器。
云端深度学习网络训练模块，接收来自边缘层的预处理数据，通过第一层的输出来训练第二层rbm模型，将rbm模型进行堆栈通过增加层来改善模型性能以确定dbn最优网络结构，包括输入层的节点个数、隐含层的节点个数、隐含层的层数等，并对权重进行调整，利用训练数据在此模型上进行训练，不断微调直至最终模型。
本实施例基于深度学习的工业物联网边缘资源智能调度方法，包括以下步骤：
步骤1、根据系统需求，由数据采集模块中各工业设备上的无线传感器将应变、载荷、扭距、位移、加速度、压力、温度等监测数据实时向边缘服务器上传。
步骤2、监测数据上传由任务调度模块负责，任务调度模块将数据采集模块采集的监测数据的处理任务部署到合适的边缘服务器。任务调度遵循的算法原理为：
在边缘任务调度中，系统选择对周围环境了解最多、等待其他任务时间最少的任务。对于计算卸载，系统需确定每个时隙中处理的数据大小以及局部计算和计算卸载的精确部分，以使所选任务在计算资源约束下的处理时间最小化。
那么，任务调度模块进行任务调度的具体方法如下：
步骤201、计算完成各任务引起的总aot的变化量。
在任务调度中，用δn表示在完成应用程序n中一个任务后所有应用程序的总aot的变化量，用
对于除最后一个任务外的一组任务，
δnk＝τn，k 1-τn，k，k∈k′n(2)
式中，τn，k 1表示程序n中第k 1个任务的完成时隙，，τn，k表示程序n中第k个任务的完成时隙，k′n表示程序n中除最后一个任务外的所有任务集；
对于最后一个任务来说，
对于引用程序的年龄量的变化，用n＇表示具有未处理任务的应用程序的数量，用snk表示在应用程序n中处理任务k所需的时隙数量，于是等待处理应用程序n中任务k所造成的总年龄增量为snkn＇。因此，根据下式能够计算等待任务引起的年龄增加量
式中，snk表示在应用程序n中处理任务k所需的时隙数量，n＇表示具有未处理任务的应用程序的数量。
步骤202、根据完成任务后总aot的变化量δn排序，调度首位任务进行计算卸载。
步骤203、为计算卸载找到每时隙处理的最优数据大小，使能量约束下的处理时间最小化。
用enk表示分配给应用程序n中任务k的能量，并为每个任务分配一个初始能量，它与任务长度的立方成正比，于是可以得到：
式中，lnk表示应用程序n中任务k的长度，n表示程序集合，kn表示程序n的任务集合，emax表示设备处理所有任务所消耗的能量上限。
设
eloc(t)＝ecycωdloc(t)＝γf2(t)ωdloc(t)＝α(dloc(t))3(5)
其中，α＝γω3/τ3，
其中，入＝λ0/τm-1，
上式中，dloc(t)表示本地执行的最优数据分配，doff(t)表示边缘服务器执行的最优数据分配，eloc(t)表示本地计算的能耗，ecyc表示每个cpu周期的能耗，f2(t)表示设备在时隙t时的cpu频率，eoff(t)表示计算卸载的能耗，poff(t)表示设备发送信号频率，h(t)表示本地设备与mec服务器在t时隙的信道增益，
步骤204、确定每个时隙内应分别在本地处理和卸载到边缘服务器处理多少位数据。
假设时隙t内可以处理的数据量是固定的，那么为了找到一种基于信道条件的能量消耗最小的卸载方案，用d(t)表示在时隙t中处理的数据大小，于是单个时隙的能耗e(t)为：
然后利用拉格朗日方法，求出本地执行和边缘服务器执行的最优数据分配即dloc(t)和doff(t)，两者由下式得出：
式中，dloc(t)和doff(t)分别表示本地cpu和mec服务器处理的数据大小。
为了得到d(t)的值，应用可行性测试来寻找在能量约束下处理任务所需的最小时间间隔。首先将任务完成时间固定为一个时隙，令d(t)＝lnk，根据式(9)计算所需能量。如果获得的能量e′nk小于能量限制(enk)，那么d(t)的值是可行的。否则，将任务完成时间增加一个时隙，并交互计算每个时隙中处理的数据大小，直到最终的能耗满足能耗约束。即求出处理任务的最小时间间隔，且d(t)为时间最小化下每时隙处理最优数据大小。
步骤3、边缘服务器对接收的监测数据进行处理分析，并进行预测建模，输出具有特殊语义的中间数据，将中间数据输入至云服务器。
在任务调度模块根据调度算法将计算任务部署到合适的边缘服务器后，在边缘服务器上，运行深度学习算法对监测数据进行处理分析，利用无监督学习的机器学习dbn进行预测建模，利用cd-k算法(contrastivedivergence，对比散度算法)进行权值初始化。权值初始化的具体方法如下：
步骤301、随机初始化{w，a，b}，其中w为权重，a是可见层的偏置向量，b为隐藏层的偏置向，随机初始化为较小的数值(可为0)量；
步骤302、将x赋给显层v(0)，并根据下式计算x使隐层神经元被开启的概率，
式中，
步骤303、根据步骤302计算的概率分布
步骤304、用h(0)重构显层后，根据下式再次计算隐层神经元被开启的概率，
步骤305、更新得到新的权重和偏置。。
步骤4、云端深度学习网络培训模块接收边缘服务器上传的中间数据，利用中间数据进行模型训练以确定dbn最优网络结构，并对权重进行调整获得最终模型。
在经过边缘服务器的深度学习算法与处理后，输出的具有特殊语义的中间数据将再次作为输入上传至云服务器，由云端深度学习网络培训模块接收，重复步骤3的过程利用中间数据迭代计算下一代rbm单元即rbm2和rbm3等单元的w、a、b值，以及最后一个bp单元的w和b值，直接采用随机初始化的值即可。最后利用训练数据集确定dbn最优网络结构，包括输入层的节点个数、隐含层的节点个数、隐含层的层数等，并对权重进行调整，利用训练数据在此模型上进行训练，不断微调直至最终模型。
综上所述，边缘计算与工业物联网的dbn学习模型的结合，可以提高工业物联网的大数据处理能力、降低云负载并减少网络流量。另外，需要采用特殊的调度方法来满足学习网络对任务实时性的需求。
以某中小机械制造企业为例，对本发明的系统及方法进行说明。
将某中小机械制造企业的工业设备安装无线传感器，以实时将获取的应变、载荷、扭距、位移、加速度、压力、温度、影像等数据向边缘服务器传输，根据调度算法将任务按最优数据大小向边缘服务器卸载，最大化各边缘服务器的计算性能并保证任务的新鲜度。边缘服务器上运行第一层rbm网络对上传的数据进行预处理，然后将输出的具有特殊语义的中间数据向具备强大计算能力的云平台上传。该企业在租用的云平台上部署更多层的rbm网络层利用中间数据进行训练，将rbm模型进行堆栈通过增加层来改善模型性能，并利用训练数据集确定dbn最优网络结构，不断微调至最终模型。定期将训练好的权重文件部署到该企业附近的边缘服务器，应用一系列界面集成接口调用嵌入前端，根据训练好的“黑箱”对各工业设备上传数据给出即时反映，智能管控工业制造过程，实现监控、处理、警报等功能。
以上所述，仅为本发明中的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉该技术的人在本发明所揭露的技术范围内，可理解想到的变换或替换，都应涵盖在本发明的包含范围之内，因此，本发明的保护范围应该以权利要求书的保护范围为准。
1.基于深度学习的工业物联网边缘资源智能调度系统，其特征在于：包括数据采集模块、任务调度模块、边缘数据处理模块和云端深度学习网络培训模块；所述数据采集模块，用于对工业过程的中间环节进行监测，在获得数据后通过任务调度模块将数据处理任务调度至处理能力富余的边缘服务器上；
所述任务调度模块，用于根据数据采集模块采集数据任务的任务年龄，将任务调度到合适的边缘服务器上，作为输入送入部署在边缘层的深度学习网络层以进行初步的数据处理；
所述边缘数据处理模块，用于对监测数据进行处理分析，利用输入样例训练第一层受限玻尔兹曼机单元，并将输出的中间数据上传至云服务器；
所述云端深度学习网络训练模块，用于接收来自边缘层的预处理数据，利用预处理数据进行训练以确定深度置信网络最优网络结构，并对权重进行调整获得最终模型。
2.基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，包括以下步骤：
步骤1、由数据采集模块中各工业设备上的无线传感器将监测数据实时向任务调度模块上传；转至步骤2；
步骤2、任务调度模块将数据采集模块采集的监测数据的处理任务部署到合适的边缘服务器；转至步骤3；
步骤3、边缘服务器对接收的监测数据进行处理分析，并进行预测建模，输出具有特殊语义的中间数据，将中间数据输入至云服务器；转至步骤4；
步骤4、云端深度学习网络培训模块接收边缘服务器上传的中间数据，利用中间数据进行模型训练以确定dbn最优网络结构，并对权重进行调整获得最终模型。
3.根据权利要求2所述基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，所述步骤2中，任务调度模块进行任务调度的具体方法如下：
步骤201、根据下式计算完成各任务引起的总aot的变化量δn，
式中，
步骤202、根据完成任务后总aot的变化量δn排序，调度首位任务进行计算卸载；转至步骤203；
步骤203、为计算卸载找到每时隙处理的最优数据大小，使能量约束下的处理时间最小化；转至步骤204；
步骤204、确定每个时隙内应分别在本地处理和卸载到边缘服务器处理多少位数据。
4.根据权利要求3所述基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，所述步骤201中，对于除最后一个任务外的一组任务，
δnk＝τn，k 1-τn，k，k∈k＇n(2)
式中，τn，k、τn，k 1分别表示程序n中第k和k 1个任务的完成时隙，k＇n表示程序n中除最后一个任务外的任务集；
对于最后一个任务来说，
根据下式计算等待任务引起的年龄增加量
式中，snk表示在应用程序n中处理任务k所需的时隙数量，n＇表示具有未处理任务的应用程序的数量。
5.根据权利要求4所述基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，所述步骤203的具体方法如下：
用enk表示分配给应用程序n中任务k的能量，并为每个任务分配一个初始能量，它与任务长度的立方成正比，于是可以得到，
式中，lnk表示应用程序n中任务k的长度，n表示程序集合，kn表示程序n的任务集合，emax表示设备处理所有任务所消耗的能量上限；
设
eloc(t)＝ecycωdloc(t)＝γf2(t)ωdloc(t)＝α(dloc(t))3(5)
其中，α＝γω3/τ3，
其中，λ＝λ0/τm-1，
上式中，dloc(t)表示本地执行的最优数据分配，doff(t)表示边缘服务器执行的最优数据分配，eloc(t)表示本地计算的能耗，ecyc表示每个cpu周期的能耗，f2(t)表示设备在时隙t时的cpu频率，eoff(t)表示计算卸载的能耗，poff(t)表示设备发送信号频率，h(t)表示本地设备与mec服务器在t时隙的信道增益，
6.根据权利要求5述基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，所述步骤204的具体方法如下：
假设时隙t内可以处理的数据量是固定的，用d(t)表示在时隙t中处理的数据大小，于是单个时隙的能耗e(t)为，
根据下式计算本地执行和边缘服务器执行的最优数据分配即dloc(t)和doff(t)，
式中，dloc(t)和doff(t)分别表示本地cpu和mec服务器处理的数据大小。
7.根据权利要求6述基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，所述步骤3中，在任务调度模块将任务部署到合适的边缘服务器后，在边缘服务器上，对监测数据进行处理分析后，进行预测建模和权值初始化。
8.根据权利要求7述基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，所述权值初始化的具体方法如下：
步骤301、随机初始化{w，a，b}，其中w为权重，a是可见层的偏置向量，b为隐藏层的偏置向量；转至步骤302；
步骤302、将x赋给显层v(0)，并根据下式计算x使隐层神经元被开启的概率，
式中，
步骤303、根据步骤302计算的概率分布p(h(0)|v(0))进行一步gibbs抽样，对隐藏层中的每个单元从{0,1}中抽取得到相应的值，即h(0)～p(h(0)|v(0))；转至步骤304；
步骤304、用h(0)重构显层后，根据下式再次计算隐层神经元被开启的概率，
步骤305、更新得到新的权重和偏置。
9.根据权利要求8述基于深度学习的工业物联网边缘资源智能调度方法，其特征在于，所述步骤4中，在经过边缘服务器的深度学习算法与处理后，输出的具有特殊语义的中间数据将再次作为输入上传至云服务器，由云端深度学习网络培训模块接收，重复步骤3的过程利用中间数据迭代计算下一代rbm单元的w、a、b值，以及最后一个bp单元的w和b值，最后利用训练数据集确定dbn最优网络结构，并对权重进行调整，利用训练数据在此模型上进行训练，不断微调直至最终模型。
技术总结