Vast.ai란?
GPU 원격으로 빌려주는 곳. A100 1개를 시간당 1달러 아래로 빌려준다.
시간 단위로 저렴하게 빌려줘서 학부생 수준에서 LLM 파인튜닝하기에 좋다.
Rent GPUs | Vast.ai
Reduce your cloud compute costs by 3-5X with the best cloud GPU rentals. Vast.ai's simple search interface allows fair comparison of GPU rentals from all providers.
vast.ai
1. 사용하려면 회원가입을 하고, 회원가입을 마쳤으면 저기 콘솔버튼 누른다.
2. 그러면 다음과 같은 창이 뜨는데, 우선 credit이 있어야 대여를 해준다. 왼쪽 네비게이션바의 BILLING 가서 충전 ㄱㄱ
충전 다 했으면 TEMPLATES을 누른다. 저기 가면 기본적인 환경설정을 추천해준다.
(빡고수 형님들은 바로 EDIT IMAGE 어쩌구 누르시면 됨)
3. TEMPLATES 누르면 다음과 같이 많은 환경설정들이 뜬다. 나는 pytorch랑 cuda 사용할거라 저기 커서에 있는거 좀 수정해서 쓸거다. EDIT 클릭ㄱㄱ
4. 본인은 다음과 같이 설정했다.
근데 저 맨 마지막에 recommended disk space는 본인 할 작업 고려해서 조절 ㄱㄱ. 난 50GB 하니까 부족했음
5. 그리고 다시 SEARCH로 와서 끌리는 GPU RENT ㄱㄱ
잘 대여됐으면 INSTANCES에 1 저렇게 뜰거임
