[Pytorch] CUDA 설치하기

my gpu : GeForce RTX 3090

 

우리가 pytorch 돌리기 위해서 설치해야 할 것은 3개이다. 

 

• NVIDIA 드라이버: 시스템 전체에 설치
• CUDA Toolkit: 시스템 전체에 설치
• cuDNN : 각 가상환경에 설치되며, 가상환경마다 독립적으로 관리됨

중요한 사실 : 파이토치는 cuda 버전 11.8, 12.1 밖에 지원을 안한다. 

그래서 사실 gpu가 뭔지보다 pytorch 돌릴거면 저 cuda 버전에 맞는 소프트웨어들을 설치하는게 중요하다. 

못믿겠음 여기서 확인 ㄱㄱ https://pytorch.kr/get-started/locally/

 

1. Windows 11

1. nvidia driver 설치 마법사

https://www.nvidia.com/ko-kr/drivers/details/184378/

2. nvidia cuda 설치 마법사(version 12.5)

https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=11&target_type=exe_network

3. cuDnn(CUDA 12.X)

https://developer.nvidia.com/rdp/cudnn-archive

 

윈도우는 이거 3개 딸깍딸깍 설치하면 잘 됐던 거 같다.. 

 

참고 블로그 :https://velog.io/@jk01019/CUDA-toolkit-%EC%84%A4%EC%B9%98-%EC%99%84%EB%B2%BD-%EC%A0%95%EB%A6%AC

2. Ubuntu 20.04

1. nvidia driver

 

https://www.nvidia.com/ko-kr/drivers/

최신 정식 NVIDIA 드라이버 다운로드

여기서 다운 ㄱㄱ

 

https://www.nvidia.com/ko-kr/drivers/details/228546/

드라이버 세부 정보 | NVIDIA

난 저거 설치하긴 했는데 사실 드라이버 버전은 중요하지 않은 거 같다 그냥 recommended 되는거 쓰셈 그게 젤 안전성 높은듯

 

파일 다운로드 받아졌으면 다음 명령어를 통해 기본적으로 설치된 nouveau 드라이버를 비활성화한다. 

sudo bash -c "echo 'blacklist nouveau' > /etc/modprobe.d/blacklist-nouveau.conf"
sudo bash -c "echo 'options nouveau modeset=0' >> /etc/modprobe.d/blacklist-nouveau.conf"
sudo update-initramfs -u
sudo reboot

 

lsmod | grep nouveau

이 명령어 쳤을때 아무것도 안뜨면 nouveau 드라이버 비활성된거임 

 

cd ~/Downloads
chmod +x NVIDIA-Linux-x86_64-550.100.run
sudo ./NVIDIA-Linux-x86_64-550.100.run

이 명령어 쳐서 아까 다운받은 파일 설치 ㄱㄱ

 

nvidia-smi

여기서 잘 뜨면 설치 잘 된거임

 

2. nvidia cuda

wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run
sudo sh cuda_11.8.0_520.61.05_linux.run

다운 ㄱㄱ

 

이제 환경변수 설정할건데

nano ~/.bashrc

이명령어 치면 무슨 파일같은게 하나열릴거임

맨 마지막줄에 다음 명령어 쓰셈

export PATH=/usr/local/cuda-11.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

 

 

source ~/.bashrc

저장 ㄱㄱ

nvcc --version

이거 해서 잘 뜨면 cuda 잘 설치된거 

 

3. cudnn

conda install -c conda-forge cudnn

이건 가상환경에다가 설치하는거 

 

4. pytorch 설치

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

https://pytorch.org/get-started/locally/ 명령어 바뀔 수도 있으니 여기서 선택해서 사용할 것