(2) 필요한 라이브러리 세팅

AI/라마 파인튜닝

잘먹는 개발자 에단 2024. 12. 5. 09:53

토크나이저 생성

모델 매개변수 양자화 ( 메모리 절감 ) - bitsandbytes

경량화 - peft

모델 로딩 / 업로드 - transformers ( hugging face )

데이터셋 로드 - datasets

학습 - trl

추론 - pipeline

로깅 - logging

학습현황 업로드 - streamlit (py)

참고할 글

파인튜닝을 통해 나만의 데이터를 학습 시켜 보자. 그전에 파인튜닝에 대해 알아 봐야 하는데, 아주 간단하게 알아보자. 파인튜닝에 대한 이론들은 아직도 많은 연구가 진행되고 있기 때문에 추

unfinishedgod.netlify.app

Deep Learning Computer Vision

skk095.tistory.com