進化數據流中重復出現的概念的雙層交替元學習
中文題目：進化數據流中重復出現的概念的雙層交替元學習
論文題目：A Bi-level Alternating Meta-learning for Recurring Concept on Evolving Data Streams
錄用期刊：International Journal of Uncertainty,Fuzziness and Knowledge-Based Systems（CCF C類雜志）
DOI: 10.1142/S0218488525500084
出版時間：February 6, 2025
1)劉建偉 中國石油大學（北京）人工智能學院 自動化系 教師
2)鮑忠林 中國石油大學（北京）人工智能學院 控制科學與工程 研21級
3)張思思 中國石油大學（北京）人工智能學院 控制科學與工程 博17級
摘要:
(i)提出了一種新的遞歸概念元學習算法：面向遞歸概念的雙層交替元學習方法，用于求解重復出現的概念；
(ii)通過元學習策略引入新的控制器，指導網絡在先前學習的概念和新概念之間保持微妙的平衡；
(iii)我們提出的面向重復出現的概念的雙層交替元學習方法已經通過不同基準數據集的實驗比較結果驗證。
背景與動機:
人類的學習模式具有回憶過去的模式，隨著知識以及認識的增長，更新已有的概念。以隨著人類知識的增長更好地理解重復出現的概念的模式。
主要內容:
圖1 提出的面向重復出現的概念的雙層交替元學習方法算法的流程圖。它顯示了在第一個周期中交替模型級學習和全局元學習的雙層規劃學習。在第一個周期中獲得一個通用模型，以促進在第二個周期中學習重復出現的概念。
圖2 基于自編碼器的輸出融合策略。藍線表示重建輸入損失的反向傳播流。粉色線條代表第一個分類器輸出損失的反向傳播流。紫色線表示第二個分類器輸出損失的反向傳播流。綠線代表最后一個分類器輸出損失的反向傳播流。
結論:
在本文中，我們開發了一個新的元學習框架處理進化數據流上的重復出現的概念。在現實世界的場景中，概念漂移的發生是無法預知的。這就是漂移檢測引入嵌入漂移自適應方法的原因。然而，本文主要關注學習一個通用模型，它可以在不覆蓋現有知識的情況下，根據新信息的出現進行自我調整，尤其是對于反復出現的概念。
為了實現這一目標，這項研究試圖提出新的模型，其中一個共有的參數集用來優化所有已知的概念，而不是一個單一的概念。我們開發了一個具有雙層優化器的策略，以獲得一個通用模型來防止災難性遺忘。在這種設計中，應該充分重視模型級學習中不同概念的隱表征的學習，這是實現當前概念學習良好性能的關鍵學習步驟。在模型級學習之后，我們的進化數據流上的重復出現的概念學習算法通過全局元學習策略獲得一組共享參數。元學習策略引入新的控制器，指導網絡在先前學習的概念和新概念之間保持平衡。我們的實驗驗證了進化數據流上的重復出現的概念學習算法對進化數據學習的有效性。
作者簡介:
劉建偉，教師。