[Fine-tuninig] bitsandbytes Error (for LoRA fine tuning)
·
Data Science
Windows 환경에서 LoRA fine-tuning을 위해 bitsandbytes 패키지를 설치하려고 했으나, ‘bitsandbytes’ library는 원래 Windows를 지원하지 않는다고 한다.. 그래도 방법이 있지 않을까??직접여러 솔루션들을 수행해본 결과 3시간 만에 찾아냈다!!Solution1 (Fail) 출처: CUDA error in Windows · Issue #689 · TimDettmers/bitsandbytes CUDA error in Windows · Issue #689 · TimDettmers/bitsandbytesOS: Windows CUDA version: 11.7 torch.version='2.0.1+cu117' Help to Resolve the following Err..
HaSeon9
'QUANTIZATION' 태그의 글 목록