論文のIntroを淡々と和訳する - 6. Time Series Forecasting Using LSTM Networks: A Symbolic Approach

今回は以下の論文を和訳していきます

arXivを眺めていたら見つけた論文ですが、RNNの系列予測に興味が湧きました。

代表的な論文とかあれば読みたいです。

Time Series Forecasting Using LSTM Networks: A Symbolic Approach (arXiv: 2003.05672)

著者：S. Elsworth, S. Guettel (Manchster大学)

時系列は経済、需要供給予測、健康モニタリングのような多くの分野、応用で現れる一般的なデータ型である。

時系列値のベクトルT=[t_1, t_2, ..., t_N] が与えられた時、時系列解析の中で流行のタスクはそれまでのデータに基づいて未来の値 t_{N+1}, t_{N+2}, ...を予知(または外挿)することである。

時系列予知の方法は大まかに二つの主要なカテゴリに分類される：伝統的な統計的手法と機械学習モデルベースの方法である。

後者に属する再帰型ニューラルネットワーク（RNN）は時系列の異常検知、分類、予知に頻繁に用いられる一方で、M3コンペにおけるシステマチックな比較によって伝統的な統計手法に劣ることが示された。

より最近では、指数平滑法（古典的な統計手法の一つ）と再帰型ニューラルネットワーク（機械学習モデル）を組み合わせたES-RNNモデルと呼ばれるアルゴリズムがM4コンペで優勝した。

今の所、系列データの人手の前処理と集中的なパラメータ調整なしに人間に近い性能を達成するような信頼できる利用可能な「ブラックボックス」な時系列予測手法はないということができるだろう。

たくさんの使える予知の精度指標がある中で「信頼できる」がこの文脈の中で何を意味するかですら明確ではない。

本論文で見るように、生の系列データに基づく機械学習予知手法は根本的な限界と欠点がある。例えば、計算コストの高い訓練フェーズや、多くの超パラメータ、さらにはランダムな重みの初期化への感度の高さがある。

我々は次元削減をする時系列の記号表現が訓練フェーズを大幅に高速化し、モデルの超パラメータと初期重みへの感度を削減できることを示す。

おしまい。