Learning Universal Predictors:強大的通用預測學習

通用預測學習器是一種利用元學習的強大方法,能夠快速從有限資料中學習新任務。透過廣泛接觸不同的任務,可以獲得通用的表示,從而實現通用問題解決。本產品探索了將最強大的通用預測器——Solomonoff歸納(SI)——透過元學習的方式進行攤銷的潛力。我們利用通用圖靈機(UTM)生成訓練資料,讓網路接觸到廣泛的模式。我們提供了UTM資料生成過程和元訓練協議的理論分析。我們使用不同複雜度和普適性的演演算法資料生成器對神經架構(如LSTM、Transformer)進行了全面的實驗。我們的結果表明,UTM資料是元學習的寶貴資源,可以用來訓練能夠學習通用預測策略的神經網路。