基于隐马尔可夫模型及支持向量机的故障诊断中文.doc

基于隐马尔可夫模型及支持向量机的故障诊断 柳新民 刘冠军 邱静 胡茑庆 国防科技大学机电工程与自动化学院,长沙410073摘要：针对故障诊断中机器学习方法存在的问题，根据隐马尔可夫模型(HMM)适合于处理连续动态信号与支持向量机(SVM)适合于模式分类的长处，提出了基于HMM-SVM 串联结构的故障诊断模型隐马尔可夫模型的通常描述类别内的相似性，并适合于处理连续动态信号支持向量机表示类间的有效差异和具有完善的分类能力这种方法是建立在HMM和SVM的优点上的那么，对于直升机传输系统的减速器的振动信号的提取的实验，这种基于HMM-SVM的诊断方法是培训和用于变速箱故障的监测和诊断结果表明，该方法优于基于HMM的和SVM的诊断方法，在利用少量训练样本完成故障诊断上有更高的准确性关键词：隐马尔可夫模型 支持向量机 故障诊断0引言变速箱在直升机传输系统非常重要，它直接的影响直升机的可靠性和安全性，迅速有效地诊断变速箱的故障非常重要，目前减速器监测与诊断中广泛应用的机器学习方法(如神经网络)在使用中存在一些困难， 例如： (1)诊断是某一时刻信息和模板库相匹配的结果，忽略了前后关系，具有一定的局限性；(2)采用的是经验风险最小化原则 ，需要大量故障训练样本，训练样本获取困难等。

隐马尔可夫模型（HMM）是从Morkov链的基础上发展起来的一种统计模型，隐马尔可夫模型（HMM）是一个双重随机过程，并且无法观察（隐藏的），可以通过另一套随机过程来观察，隐马尔可夫模型（HMM）是一个以状态转移概率为特征的参数化模型，考虑到特定的系统状态和初始化状态的瞬时发生的可能性这些参数通过Baum-Welch运算法则能适应评估，隐马尔可夫模型（HMM）是作为信号动态时间序列统计模式，具有严谨的数据结构和可靠的计算性能，现已成为语音识别的主流技术，国内外开始把HMM方法引入到状态监测和故障诊断领域中来，取得了优于神经网络的良好效果向量机（SVM）是它是一种新的机器学习技术，是建立在小样本机器统计学习理论的VC维理论和结构风险最小化原则基础上的，向量机（SVM）执行好的交易接近已知数据和SVR的近似的复杂功能，和拥有高性能，向量机（SVM）有比人工神经网络（ANN）更多的优点这些优点如下：①向量机（SVM）可以取得少量抽样调查中的最优解,②向量机（SVM）求解最后转化成二次规划问题的求解，因此SVM 的解是全局唯一的最优解，改变解决规划设计的二次方程式的问题的最优解，可以采取最佳全面的解决方案，但只有局部最优解可以被人工神经网络（ANN）所接受，SVM改变样板空间通过非线性变换到特征空间，在特征空间里。

它具有结构线性分类功能，以实现非线性分类中的采样空间，这表明了机器学习具有良好的归纳性能，并解决了维数问题SVM已成功地应用于故障诊断，因为他们具有出色的分类能力隐马尔可夫模型（HMM）适合于处理连续动态的信号，然而支持向量机(SVM)适合处理分类，隐马尔可夫模型（HMM）表达更多的是类别内的相似性，向量机（SVM）反映了类别间的差异由于两种表现的内容不一样，因此文中结合这两个统计模型的有点，提出了一种基于HMM-SVM串联结构的故障诊断模型，结合他们的有点合并成一个理想的，因此，混合了隐马尔可夫模型（HMM）和支持向量机（SVM）的故障诊断方法，用于解决的非平稳故障的诊断问题1 基于HMM-SVM的诊断模型1.1隐马尔可夫模式隐马尔可夫模式（HMM）是从Morkov链的基础上发展起来的一种统计模型，其中观察到的时间与状态并不是一一对应的，隐马尔可夫模式（HMM）是通过几个参数为特征首先是状态之间的转移概率分布参数A={aij}，表示在t时刻、状态为Si的条件下，在t+1时刻状态是Sj的概率以qt为时间状态，在时间t，状态数为N，第二，隐马尔可夫模型（HMM）的观察值概率矩阵，是k的观察序列，M是每个状态对应的可能的观测值数目，如果观察数据是连续的，则连续的概率密度起作用，一般几个正态分布的加权和构归因于各自的状态。

初始化状态分布矢量：是概率的初始状态中的A用于定义一个隐马尔可夫模型（HMM），可以计算概率的输出序列，最大概似法过去习惯于重新估计模型参数，，列举如下： 是跳转到次数的预期，是转出次数的预期，是转进的次数的预期 通过所谓的Baum - Welch算法可以实现HMM采集连续特定的观察数据，从初次或预先估计HMM的参数，通过精密的最大概似法更新参数通过每一步连续的观察一步一步地增大概率，这种训练步骤除了HMM的另一个特征来详细的判断1.2支持向量机算法本节简要介绍了支持向量机的理论，可以在其中找到支持向量机的详细说明 统计学习理论(SLT)是由Vapnik等人提出的一种小样本统计理论，以及其他，在20世纪70年代，为机器学习问题建立了一个较好的理论框架,也发展了一种新的通用学习算法——支持向量机(SVM)，能够较好的解决小样本学习问题，已成功地应用于模式识别和概率密度函数 结构风险最小化原则以计算学习理论为基础，SVM寻找一个觉侧面分开训练数据点为两类，使得结果是基于支持向量挑选有效的基础训练组 至于这两种分类，假设那个训练组是： 分离超平面分为两部分，每一部分包含唯一的相同类标，SVM学习的目标是为了找到最佳分离超平面同时两边拥有最大的余地。

它的表现形式如下： 这双重问题就是： 最优决策函数是： 非线性支持向量机的输入变量映射到高维特征空间，适用于线性支持向量机的特征空间，计算结果表明线性支持向量机通过一个技术要点可以实现从特征空间到原始空间因此我们不是真正需要知道特征空间和特征空间的转换，常见的形式有：线性的，多项式的，RBF式的，S形的 因此这个问题可以转换为像这样的K的形式： 最优的分离超平面是：对于任何，我们可以通过以下判定B的值， 1.3 基于HMM-SVM的故障诊断基于HMM的故障诊断是由所有HMM模型中输出概率最大的决定，而一个受噪声污染的待辨识信号,有可能若干个HMM模型的输出概率相差无几,只凭概率最大来做决定，存在误判的潜在危险基于SVM 的故障诊断是依照当前时刻的信号特征进行诊断，忽视了前后时刻的关系，有可能竞争获胜的结果实际上是不可能发生的,导致误判由于 HMM 利用上下文关系进行模式识别，更多的表达了类别内的相似性；而 SVM 适合于处理分类问题，更大程度上反映了类别间的差异；它们各自的势正好弥补了彼此的不足针对 HMM 只以最大概率判断的不足，可以利用 SVM 的分类上的优势弥补；同时利用 HMM 处理连续动态信号问题的特点，计算各HMM 模型与待辨识信号的匹配程度，形成特征值，提供给SVM进行诊断，减少 SVM 由于单一时刻判断的错误；由此提出基于 HMM—SVM 的故障诊断模型。

基于 HMM—SVM 的故障诊断模型原理如图 1所示，先利用训练样本 (经过 预处理和特征提取)，由Baum—Welch算法训练得到 HMM 模型，再通过Viterbl算法计算小同 HMM 模型产生此观察值序列的概率值(相当于模式匹配度)，由此得到的概率值特征矢量，经归一化后(概率值变化较大，归一化有助于SVM提取支持向量，提高诊断能力)训练SVM分类器诊断时，对未知信号做同样的预处理和特征提取后，计算信号与各状态HMM模型的匹配程度，得到一组概率，归一化后利用SVM分类器进行辨识，得到诊结果2 基于HMM-SVM的减速器故障诊断针对某直升机的减速器，在输出转速2800r/min和中间输出扭矩660Nm的工作情况下，通过更换正常与故障零部件进行监测与诊断实验，振动信号由加速度传感器拾取，经电荷放大器放大，采样速率10kHz分别测试正常、主动齿轮点蚀、主动齿轮裂纹、轴承滚动体局部剥落、轴承外环局部剥落时的振动信号，各测得得数据100组（共500组）,每组1024点，将每种状态的10组数据作为训练样本，所有样本用来检验基于HMM-SVM的故障诊断过程主要有特征提取、训练模型、识别几个步骤。

2.1特征提取线性回归模型可以用来预测以前一个信号样本的线性组合作为下一个信号样本的值，下一个信号样本，，是作为前一个样本的加权和也可以表示为： 则其传递函数为： 是确定下一个样本的预计值和实际值之间的残差，可以表示为： 权重的计算可以通过残差均方值的最小化作为分析窗口 机械系统的振动序列所表现的与线性回归模型中的下一个样本信号涉及先前样本P的观察值相似因此，本文介绍选择状态特征根据多项式的传递函数的映射P根据先前了解的和系统实验合理的选择 如果故障信号的周期存在，则必须先经过预处理消除周期，然后再建立线性回归模型 预处理后，每个振动信号分成T段相同的长度，段与段之间有部分重叠，这里每段有128点长，有64点重叠，从每段提取一些特征，一段信号的特征提取是通过那段信号的多项式传递函数的线性回归模型的表现系数实现对每段提取6阶自回归模型的参数，这些特征作为直升机变速箱状态的观察值2.2 基于HMM-SVM故障诊断模型的训练2.2.1HMM模型的训练 由于连续高斯密度混合HMM模型与离散HMM相比，具有失真小、分类更明显的优点，连续高斯密度混合HMM模型采用Markov链速度快的左右型，状态数及混合高斯数根据具体情况选择，在样本数少时，选择较小的值，以得到可靠的模型，这里统一选取4状态Markov链（图2），状态初始概率为π=（1，0，0，0），的初始值与转移概率矩阵A一致，2个高斯分布决定每个状态的观察值。

因为最优解的获取依赖于λ初值的选取，因此采用K均值分段与聚类算法获取一个好的初始值为了增加HMM诊断模型的适应性，训练时利用多个观察值序列训练的Baum-Welch算法：α是先锋变量，β是落后变量，L是观测序列利用K均值分段与聚类算法估算出一套初始模型参数后，各用10组数据训练得到正常HMM、齿轮点蚀HMM、齿轮裂纹HMM、滚动体HMM、外环HMM训练时一般循环20次左右即可收敛2.2.2 SVM模型的训练利用训练好的HMM计算训练数据观察序列的概率值结果，经归一化后作为SVN的训练值迄今为止，我们只讨论了支持向量机考虑的是二值分类的情况，然而，如果我们有兴趣进行故障模式分类实验，我们面对多值分类问题时，最好的方法是建立多个支持向量机，一般建立一个“一对多”策略或者是“一对一”策略，“一对多”是SVM分类器将每一类模式与剩下的所有类别的模式区分开，这样需要构造的SVM故障分类器的数目等于故障模式个数，“一对一”策略是对n个类的训练样本构造[n(n-1)]/2个SVM分类器进行两两区分这里私用使用“一对一”策略，是因为这种方法的单个SVM训练规模较少，训练数据均衡，同时易于扩展，所以我们选择“一对一”策略。

常用的核函数有：线性核函数、多项式核函数、径向基核函数、感知器核函数等这里选用径向基核函数： 相应的参数，惩罚参数C=100支持向量机的训练算法采用分解算法这种方法是采用SVM模型的训练通过实验这里有5组不同的训练数据，因此，是SVN模型的训练2.3 诊断结果2.3.1基于HMM-SVM的故障。