[Deep learning] pytorch GPU 환경 세팅

1. 그래픽카드 드라이버 설치

1) 그래픽카드 드라이버 설치 여부 확인

nvidia-smi 명령어를 cmd 나 anaconda prompt 에서 입력 

 

그래픽카드 드라이버 설치가 되어있는 경우 :

위와같은 모습을 보여주지 않는다면, 그래픽카드 드라이버 설치가 안되어 있는것.

 

https://www.nvidia.com/Download/index.aspx?lang=kr 

Download the latest official NVIDIA drivers

해당 링크를 통해 자신의 제품명을 입력하여 드라이버 설치를 진행하여 "nvidia-smi"명령어를 다시 실행하여 잘 설치 되었는지 확인.

 

2. CUDA  Toolkit 설치

https://developer.nvidia.com/cuda-downloads 

CUDA Toolkit 12.1 Downloads

여기서 CUDA toolkit을 다운로드 받을 수 있다.

하지만 조심해야 하는것은 해당 링크는 12.x 버전이라는 것.

 

https://en.wikipedia.org/wiki/CUDA#GPUs_supported

CUDA - Wikipedia

해당 내용을 참고하여 본진 GPU와 호환되는 CUDA toolkit의 버전을 다운로드 해야한다. 

1) 본인 GPU의 Compute capability (version) 파악해야 한다.

wikipedia 링크에서 "Compute Capability, GPU semiconductors and Nvidia GPU board products" 테이블을 보면,

이와 같은데, 여기서 본인의 GPU명을 찾아 Compute capability와 Micro-architecture를 알아낸다.

 

2) 그 후 어떤 CUDA toolkit 버전을 깔아야 하는지 알기위해선, CUDA - wikipedia 링크에서

"Compute Capability (CUDA SDK support vs. Microarchitecture)" 테이블을 보면

이처럼, row에는 설치해야 하는 CUDA toolkit 버전, column에는 Micro-architecture명이다.

본인의 GPU는 어디에 속하는지 파악한 후 알맞은 CUDA Toolkit를 설치해주면 된다.

구글에 cuda toolkit (깔고자 하는 버전) 을 검색하여 들어가서 설치해 준다. - e.g.)cuda toolkit 11.7 

 

여기까지 잘 완료됐다면, cmd / anaconda prompt에서 "nvcc -V" 명령어를 실행시켜주면 아래와 같이 정보가 나와야 한다.

3. cuDNN 설치

마지막으로 cuDNN을 설치해줘야한다.

https://developer.nvidia.com/rdp/cudnn-archive

cuDNN Archive

해당 사이트에 들어가, 위에서 본인이 설치한 CUDA 버전에 맞는 것을 다운로드 해준다.

 

그러면,  아래와 같이 압축파일이 하나 다운로드 되고, 안의 내용물을 보면, 총 3개의 폴더가 들어있는 것을 볼 수 있다.

 

3개의 폴더를 " C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7 " 폴더에 넣어서 덮어씌워주면 끝이다.

4. pytorch 설치

pytorch 설치는 굉장히 간단히 끝낼 수 있다.

https://pytorch.org/get-started/locally/

PyTorch

아래 링크에 들어가 본인의 환경에 맞게 클릭을 하면, 설치 명령어를 알려주기 때문에 손쉽다.

 

하지만 CUDA toolkit의 버전이 11.7 / 11.8이 아닌 경우 "install previous versions of PyTorch"에서 알맞는걸 다운로드 하자.

 

마지막으로 설치 완료 후 밑에 코드 실행시켜 True가 나온다면 성공이다.