계절조정을 활용한 전이학습 기반의 자동차 예비 부품 장기수요 예측
Contents
- Abstract
- Previous Works (TL)
- 방법론
0. Abstract
TSLF (Transfer Learning with Seasonal Adjustment for Long-Term Forecasting)
- for “small data”
- main idea
- utilize “TRENDS” that are highly related with source domain
- migrate the pre-trained network
1. Previous Works (TL)
Transfer Learning (Torrey and Shavlik, 2009)
- 소규모 데이터를 가진 작업의 성능을 향상시키기 위해, 대규모 데이터로 학습한 다른 모델을 재사용
Transfer Learing :
- 대부분 “분류” 문제
- “회귀”문제에서는, 주로 “전력 수요 예측”
전력 수요 예측 :
- Ribeiro et al (2018) :
- 시간 의존적 특징 (time-dependent)인 “추세”와 “계절 성분”을 제거하여, 다른 빌딩의 전력 수요량과의 상관성 찾음
- Hooshmand and Sharma (2019) :
- 시계열의 공간적 상관성 (spatial correlations)을 추출하기 위해 합성곱신경망 (CNN) 사용
- Jung et al (2020) :
- 타겟 도메인과의 피어슨 상관계수가 높은 원천 도메인 상위 N개를 사전 학습한 모델을 구축
2. 방법론
TSLF의 3단계 구성
- 1) 계절 조정 (seasonal adjustment)
- 2) 피어슨 상관계수 (pearson correlation coefficients : PCC) 분석을 활용한 원천 도메인 선택
- 3) 전이학습 기반의 장기 수요 예측
(1) 계절 조정
가법 모형 (Additive Model)
- \(Y = T + S+ I\).
MA를 이용하여 추세 성분 (\(T\))추정 후, Detrend한 뒤, 평균내서 계절 성분(\(S\))계산
\(\rightarrow\) 계절 조정된 데이터 : \(A=T+I\)
- 1) 추세 성분 \(T\)
- 2) 불규칙 성분 \(I\)
여기서, 추세 성분 \(T\)을 기반으로 원천 도메인을 선택
(2) PCC 분석을 활용한 원천 도메인 선택
전달하려고 하는 지식(knowledge)의 형태에 따라..
- 1) 인스턴스 기반 (instance based)
- 2) 특징 기반 (feature based)
- 3) 파라미터 기반 (parameter based)
- 4) 관련 지식 기반 (relational knowledge based)
로 구분 가능
\(\rightarrow\) 원천 도메인에서 학습한 파라미터를 pre-trained 모델로 쓰는 “파라미터 기반의 귀납 전이 학습”
( parameter-based inductive transfer learning )
부품 간 유사성을 측정하기 위해, “피어슨 상관계수” 사용
-
원천 도메인 선정 기준 :
- 예측하고자 하는 (타겟 도메인) 부품과의 상관계수가 “0.9” 이상인 타 부품 수요패턴