一種基于極限學習機和元學習的稀缺樣本故障診斷新方法
中文題目：一種基于極限學習機和元學習的稀缺樣本故障診斷新方法
論文題目：A Novel Fault Diagnosis Method under Limited Samples based on An Extreme Learning Machine and Meta-learning
錄用期刊/會議：Journal of the Taiwan Institute of Chemical Engineers (中科院SCI 3區，JCR Q1)
原文DOI：https://doi.org/10.1016/j.jtice.2024.105522
原文鏈接：https://www.sciencedirect.com/science/article/pii/S1876107024001809
錄用/見刊時間：2024年04月25日
作者列表：
1） 許澤坤 中國石油大學（北京）信息科學與工程學院/人工智能學院 控制工程 碩21
2） 高小永 中國石油大學（北京）信息科學與工程學院/人工智能學院 自動化系 教師
3） 付 軍 中海油能源發展股份有限公司 天津
4） 李 強 中國石油大學（北京）信息科學與工程學院/人工智能學院 控制科學與工程 博22
5） 檀朝東 中國石油大學（北京）信息科學與工程學院/人工智能學院 自動化系 教師
文章簡介:
本文提出一種面向稀缺樣本的故障診斷新方法，并用于電潛泵的故障診斷。通過結合極限學習機和元學習，有效克服了數據量稀缺的挑戰。這種方法顯著提高了分類模型的準確性，并通過實際應用驗證了其效果，展現出優于傳統方法的性能。
摘要:
傳統的故障診斷方法通常依賴于足夠數量的故障樣本。然而，在工業過程中，故障樣本往往稀缺，同時樣本采集成本也很高。在這種情況下，傳統方法很難做到準確的故障診斷。關于解決稀缺樣本的問題，元學習作為一種優秀的算法，旨在使機器“學會學習”。通過元學習優化器，獲得一個較好的模型初始化參數，元學習的提出為解決稀疏故障樣本問題提供了新的研究思路。然而，元學習方法面臨著網絡結構設計復雜、整體算法耗時等問題。
極端學習機（ELM）最初由Huang等人提出，由于其簡單的結構、快速的學習效率、高精度和最小的干預要求，它受到了學者的廣泛關注，并在故障診斷領域中取得了成功的應用，已經成為故障診斷研究的優秀算法之一。
因此，本文提出了一種新的故障診斷方法，將極限學習機（ELM）和元學習相結合。采用模型不可知元學習框架從可用的故障數據中提取有價值的模型參數，從而優化網絡模型的初始權重和偏差，獲得優化后的ELM。這顯著增強了模型性能，尤其是在故障樣本稀缺的情況下。所提出的方法已被證明在電潛泵的故障診斷中是成功的，解決了由于故障樣本稀缺而導致故障診斷效果欠佳的問題。
背景與動機:
優秀的故障診斷技術在確保工業系統長穩有效運行中發揮著至關重要的作用。然而，在實際的工業設備運行中，機器大部分時間通常在正常條件下運行，這意味著只能收集很有限數量的故障數據，有標簽的故障數據則更為稀缺，而傳統的故障診斷方法在處理有限樣本時效果往往不佳。因此，針對這一問題，本文提出一種基于極限學習機和元學習的新方法，旨在通過創新方法提高稀缺樣本下故障診斷的準確性。
設計與實現:
為了讓ELM在稀缺故障樣本條件下獲得更好的分類性能，本文利用MAML框架學習以往數據的分類經驗。在學習到的分類經驗基礎上，對目標的稀缺樣本數據進行最終分類。MLELM模型配置為多個子ELM、MAML框架和一個頂層ELM分類器。MAML從每個子ELM中更新輸入權重
和偏置
，并將最優參數
和
輸出給頂層ELM。具體的流程圖如下所示。
圖1 MLELM流程圖
每個子ELM依次在
的不相交子集上執行訓練任務，參考MAML框架優化輸入
和
，并將最優
和
輸出給頂層ELM作為頂層ELM的初始參數。這樣，頂層ELM會對類似數據極其敏感，使得頂層ELM在稀缺故障樣本的目標任務上能達到更優秀的分類效果。
具體流程步驟如表1所示。
表1 MLELM的流程步驟
實驗結果及分析:
為了驗證所提方法的有效性，本部分首先將其與ELM進行對比，之后將其與PSO-ELM、FOS-ELM、LE-ELM以及Siamese Nets進行對比。
MLELM與ELM在電潛泵稀缺故障樣本數據集上評判指標與運行時長對比如圖2-圖3和表2所示
圖2 ELM和MLELM的分類性能對比情況
圖3 ELM和MLELM的分類性能對比情況
表2 ELM和MLELM的分類性能對比情況
|
ACC (max) |
ACC（average） |
F1-score (max) |
F1-score（average） |
Kappa (max) |
Kappa（average） |
ELM |
0.6157 |
0.3948 |
0.5890 |
0.3891 |
0.5594 |
0.3395 |
MLELM |
0.9352 |
0.6281 |
0.9314 |
0.6070 |
0.9245 |
0.5844 |
提升 |
0.3195 |
0.2333 |
0.3424 |
0.2179 |
0.3651 |
0.2449 |
從上述實驗結果可以看出，MLELM對比ELM在處理電潛泵稀缺樣本故障診斷問題上的各項評價指標都有明顯提升。說明了在原有ELM模型上結合元學習優化策略可以有效加強原模型對于稀缺故障樣本診斷的性能，也說明了元學習方法對處理電潛泵稀缺故障樣本的實際有效性。
之后，將MLELM與PSO-ELM、FOS-ELM和LE-ELM進行對比，如圖4所示。
圖4 各算法評價指標的比較
分類結果的混淆矩陣如圖5所示。可以看出，在處理稀缺故障樣本問題時，MLELM在12種電潛泵故障類別的綜合準確率要平均高出其他三種改進ELM算法8%左右，F1-score要高出0.8分左右，KAPPA要高出0.9分左右。在總12種類型中，全部都分對的類型有7種，并有10種類型的準確率和8種F1-score得分高于其余三種算法。
圖5 不同算法的混淆矩陣
圖6全面比較了在數據樣本進一步減少的三種規格下各算法的性能情況。具體來說，數據樣本分別減少到280個和220個樣本。這種比較可以更能直觀看出每個算法在處理稀缺樣本的情況下的實際性能。此外，還添加了與孿生網絡（Siamese Nets，SN）的比較，以全面評估本文算法在三種樣本規格下的性能。
圖6 在三種樣本規格情況下的各算法評價指標比較
為了更清楚地說明本章算法在不同數據量下的性能優勢，圖7展示了每個算法評價指標的比較分析。
圖7 在三種樣本規格情況下的各算法評價指標比較
綜上，根據上述實驗結果可以看出，本章所提出的MLELM在處理電潛泵稀缺樣本的故障分類方面優于ELM、PSO-ELM、FOS-ELM、LE-ELM和Siamese Nets。結果表明，MLELM可以有效地解決在稀缺樣本下故障分類問題。此外，實驗說明了將元學習方法與ELM相結合后，提高了模型在處理稀缺樣本時的故障診斷性能。
結論:
本文提出了一種基于元學習和極限學習機的故障診斷方法，并應用于稀缺樣本的電潛泵故障診斷。結果表明，與ELM、PSO-ELM、FOS-ELM、LE-ELM和Siamese Nets相比，MLELM在處理稀缺故障樣本問題上有著更為出色的故障分類性能。說明使用元學習方法對ELM進行參數優化可以顯著改善ELM在處理稀缺樣本數據時的故障診斷性能。并且，該算法成功地應用于電潛泵故障診斷領域，為該領域提供了新的研究思路。在未來的研究中，可以通過改進ELM的基本框架，從而進一步改善算法的故障診斷性能。
通訊作者簡介:
高小永，信息科學與工程學院/人工智能學院副院長，博士生導師，石大學者，校青年拔尖人才，自動化專業及控制科學與工程學科建設負責人，擔任北京自動化學會常務理事、中國自動化學會過程控制專業委員會委員、中國自動化學會教育工作委員會委員、中國化工學會信息技術應用專業委員會副秘書長、中國系統工程學會過程系統工程專業委員會委員等。研究領域為復雜石油石化工業過程智能制造，主要方向有：機理與數據驅動的故障診斷、復雜工業過程建模與優化控制、工業過程計劃與調度優化等。主持國家自然科學基金項目2項、北京市自然科學基金面上項目1項、校企聯合項目20多項，發表SCI/EI等各類論文50多篇。
Email：x.gao@cup.edu.cn