#파인튜닝
글 1편
파인튜닝이란 무엇이고, LoRA 는 왜 표준이 됐나
이미 똑똑한 모델을 내 일에 맞게 고쳐 쓰는 방법. 풀 파인튜닝이 왜 그렇게 비싼지 숫자로 따져 보고, LoRA·QLoRA 가 그 비용을 어떻게 백분의 일로 줄이는지, 40B 와 180B 모델이면 실제로 메모리가 얼마나 드는지 정리했다.
글 1편
이미 똑똑한 모델을 내 일에 맞게 고쳐 쓰는 방법. 풀 파인튜닝이 왜 그렇게 비싼지 숫자로 따져 보고, LoRA·QLoRA 가 그 비용을 어떻게 백분의 일로 줄이는지, 40B 와 180B 모델이면 실제로 메모리가 얼마나 드는지 정리했다.