Скачать с ютуб [Paper Review] iTransformer: Inverted Transformers Are Effective for Time Series Forecasting в хорошем качестве

[Paper Review] iTransformer: Inverted Transformers Are Effective for Time Series Forecasting

발표자: 석박통합과정 박진우 1. 논문 제목: iTransformer: Inverted Transformers Are Effective for Time Series Forecasting (ICLR 2024 Spotlight) 2. 논문 링크: https://arxiv.org/abs/2310.06625 3. 논문 코드: https://github.com/thuml/iTransformer 4. 인용 수: 140회 (2024/06/30, Google scholar 기준) 5. 논문 Overview - 다변량 시계열 데이터의 특성을 고려하고자 기본적인 Vanilla transformer의 입력 형태와 구조를 Inverted 시킨 iTransformer 제안 - 독립적인 Series를 Variate Token으로써 사용하여 Self-attention을 바탕으로 다변량 상관관계를 포착하고, Layer normalization 및 FFN을 통하여 Series representation을 학습 - 다양한 실험에서 좋은 성능을 보이며, 결론적으로 지금까지의 시계열 분석에서 Transformer의 이용방법이 옳지 않았다는 것을 입증