Introduction to Continual Learning

(참고: http://dmqa.korea.ac.kr/activity/seminar/378)


Contents

  1. Transfer in CL
  2. Three CL Scenarios
  3. Baselines of CL
  4. Categories of CL
  5. Evaluation metric


1. Transfer in CL

  • Forward transfer: 과거 task의 knowledge \(\rightarrow\) 미래 task 성능 \(\uparrow\)
  • Backward transfer: 미래 task의 knowledge \(\rightarrow\) 과거 task 성능 \(\uparrow\)

figure2


2. Three CL Scenarios

  Task-ID Class 난이도
Task-IL O 현재 class
Domain-IL X 현재 class
Class-IL X 과거 + 현재 class


Domain-IL vs. Class-IL 예시

figure2


3. Baselines of CL

(일반적) Baseline 세팅 = (Offline으로) 모든 task의 data를 동시에 사용하여 multi-task learning


Baseline의 두 종류

이름 설명 의미
None 또는 Naive 그냥 순차적으로 학습, 아무 방어 안 함 Lower bound (최저선)
Offline 또는 Joint 모든 task 데이터를 동시에 학습 Upper bound (최고선)

figure2


4. Categories of CL

  1. Regularization-based
    • Loss function + Reg term \(\rightarrow\) 과거 task forgetting 방지
  2. Replay-based
    • Memory buffer 안에 과거 task의 dataset을 구축 (혹은 생성)
  3. Architecture-based
    • 각 Task에 대한 sub-network (or 기존 network 확장)


5. Evaluation metric

과거 task의 forgetting 능력을 측정하기 위한 메트릭!

figure2


Categories:

Updated: