Deep Learning Framework

vllm의 PagedAttention

2 minute read

LLM Fine-tuning 실습 프로젝트 - Part 7

3 minute read

Inference

LLM Inference를 위한 라이브러리

2 minute read

LLM Inference를 위한 라이브러리

LLM Fine-tuning 실습 프로젝트 - Part 6

4 minute read

DPO 데이터셋 구축 & DPO 수행

LLM Fine-tuning 실습 프로젝트 - Part 5

4 minute read

SFT 데이터 & Full-finetuning 하기

LLM Fine-tuning 실습 프로젝트 - Part 4

5 minute read

Evolving

LLM Fine-tuning 실습 프로젝트 - Part 3

5 minute read

LLM을 통한 데이터 생성

LLM Fine-tuning 실습 프로젝트 - Part 2

1 minute read

Open Source Model 종류 및 특징

LLM Fine-tuning 실습 프로젝트 - Part 1

1 minute read

최적화 기법 심화3 - LLM 성능 판단하기

1 minute read

DPO 데이터 관련 실습

2 minute read

DPO 데이터 전처리 & 생성하기

최적화 기법 심화2 - LLM을 위한 데이터 전처리

6 minute read

최적화 기법 심화1 - GPU 메모리 관리 및 최적화

3 minute read

LLM 모델 파인튜닝을 위한 GPU 최적화 (4) 실습2

3 minute read

Multi-GPU

FSDP, ZeRO 예제

3 minute read

FSDP, ZeRO 예제

LLM 모델 파인튜닝을 위한 GPU 최적화 (5)

6 minute read

분산 처리 기법

LLM 모델 파인튜닝을 위한 GPU 최적화 (4) 실습

6 minute read

Single GPU 환경에서 LLM 돌리기

LLM 모델 파인튜닝을 위한 GPU 최적화 (3)

3 minute read

Hugging Face & PEFT

LLM 모델 파인튜닝을 위한 GPU 최적화 (2)

3 minute read

GPU vs CPU

LLM 모델 파인튜닝을 위한 GPU 최적화 (1)

3 minute read

LLM & GPU

(Pytorch) Distributed Training - DDP

1 minute read

DDP

DeepSpeed

2 minute read

Offload

1 minute read

Offload, DeepSpeed

Gradient Checkpointing

1 minute read

Q-LoRA

2 minute read

Quantization

less than 1 minute read

Float32 vs Float16 vs BFloat16

LLM Libraries 정리

2 minute read

Pytorch 성능 개선

3 minute read

데이터 분산 연산 (DP와 DDP)

3 minute read

torch.nn.DataParallel, torch.nn.parallel.DistributedDataParallel

(TF2) TS forecasting in TF

2 minute read

(참고) udemy - TF Developer in 2022

(TF2) NLP in TF

4 minute read

(참고) udemy - TF Developer in 2022

(TF2) Transfer Learning - Fine Tuning

2 minute read

(참고) udemy - TF Developer in 2022

(TF2) Transfer Learning - Feature Extraction

2 minute read

(참고) udemy - TF Developer in 2022

(TF2) CNN with TF

2 minute read

(참고) udemy - TF Developer in 2022

(TF2) NN Classification with TF

less than 1 minute read

(참고) udemy - TF Developer in 2022

(TF2) NN Regresison

1 minute read

(참고) udemy - TF Developer in 2022

(TF2) Tensorflow Fundamentals

3 minute read

(참고) udemy - TF Developer in 2022

Pytorch Geometric 2

3 minute read

Pytorch Geometric 1

4 minute read

Pytorch의 모든 것

32 minute read

Pytorch, Vision, NLP