Introduction to Continual Learning

Introduction to Continual Learning

(참고: http://dmqa.korea.ac.kr/activity/seminar/378)

Contents

1. Transfer in CL
2. Three CL Scenarios
3. Baselines of CL
4. Categories of CL
5. Evaluation metric

1. Transfer in CL

• Forward transfer: 과거 task의 knowledge \(\rightarrow\) 미래 task 성능 \(\uparrow\)
• Backward transfer: 미래 task의 knowledge \(\rightarrow\) 과거 task 성능 \(\uparrow\)

2. Three CL Scenarios

	Task-ID	Class	난이도
Task-IL	O	현재 class	하
Domain-IL	X	현재 class	중
Class-IL	X	과거 + 현재 class	상

Domain-IL vs. Class-IL 예시

3. Baselines of CL

(일반적) Baseline 세팅 = (Offline으로) 모든 task의 data를 동시에 사용하여 multi-task learning

Baseline의 두 종류

이름	설명	의미
None 또는 Naive	그냥 순차적으로 학습, 아무 방어 안 함	Lower bound (최저선)
Offline 또는 Joint	모든 task 데이터를 동시에 학습	Upper bound (최고선)

4. Categories of CL

1. Regularization-based
   • Loss function + Reg term \(\rightarrow\) 과거 task forgetting 방지
2. Replay-based
   • Memory buffer 안에 과거 task의 dataset을 구축 (혹은 생성)
3. Architecture-based
   • 각 Task에 대한 sub-network (or 기존 network 확장)

5. Evaluation metric

과거 task의 forgetting 능력을 측정하기 위한 메트릭!