[2025 최신] PyTorch CUDA 오류 해결법 – 완전 삭제 후 재설치 가이드
PyTorch와 CUDA를 사용할 때 버전 충돌, GPU 인식 오류, 설치 문제 등의 오류가 자주 발생합니다. 특히 PyTorch를 재설치하더라도 이전 설정이 남아 있어 오류가 지속될 수 있습니다.
CUDA 오류는 단순히 VRAM 용량부족 때문만이 아니라, PyTorch와 CUDA 간 연결 문제 등 다양한 이유로 발생할 수 있습니다. 이런 경우, 기존 PyTorch 관련 파일을 완전히 삭제한 뒤 다시 설치하는 것이 가장 확실한 해결 방법입니다. 저도 여러 가지 방법을 시도해 봤지만, 결국 재설치를 통해 이 문제를 해결할 수 있었습니다. 단, 재설치 시에는 이전 파일들을 완전히 삭제하고 진행해야 합니다.
CUDA 오류 해결을 위한 단계별 가이드
오늘 소개하는 재설치 방법을 통해 CUDA 관련 오류 대부분을 해결할 수 있습니다. 아래 소개하는 단계별 가이드를 참고하여 재설치를 시도해 보시기 바랍니다.
1단계, 기존 PyTorch 패키지 제거하기
우선, 현재 설치된 PyTorch를 삭제하기 위해 miniconda를 사용할 예정입니다. 만약 miniconda가 설치되어 있지 않다면, 로컬 AI 필수 프로그램 설치 가이드의 miniconda 설치 항목을 참고하여 먼저 설치해 주세요.
설치가 완료되면, 아나콘다(또는 미니콘다) 프롬프트를 관리자 권한으로 실행한 뒤, 아래 명령어를 입력해 기존 PyTorch 패키지를 제거합니다.
pip uninstall torchpip uninstall torch 명령어만으로는 PyTorch를 완전히 삭제할 수 없습니다. 이로 인해 재설치 후에도 오류가 반복될 수 있습니다. 문제를 확실히 해결하려면 PyTorch와 관련된 모든 패키지를 꼼꼼히 제거하는 것이 중요합니다. 아래 명령어를 사용하여 현재 설치된 패키지를 확인해 보겠습니다.
pip list
C:\Windows\System32로 설정됩니다. 이 상태에서 pip list 명령어를 입력하면 현재 설치된 패키지를 확인할 수 있습니다.리스트에서 torch, torchvision, torchaudio 등 PyTorch와 관련된 모든 패키지를 찾아 제거하세요. 제거하려면 pip uninstall 뒤에 패키지 이름을 입력해 하나씩 진행하면 됩니다. 아래 예시를 참고하세요.
pip uninstall 패키지 이름
pip uninstall torch
pip uninstall torchvision
pip uninstall torchaudio모든 관련 패키지가 제대로 제거되었는지 확인하기 위해 다시 한 번 pip list 명령어를 실행해 확인하고, 만약 관련 패키지가 남아 있다면 모두 삭제합니다.
2단계, 정확한 CUDA 버전 확인
CUDA 버전을 정확히 확인하는 것은 매우 중요합니다. 일반적으로 알려진 nvidia-smi 명령어 대신, nvcc –version 명령어를 사용해 정확한 버전을 확인합니다. 명령 프롬프트(cmd)에서 아래 명령어를 실행해 주세요.
nvcc --version출력된 내용에서 CUDA 버전을 확인할 수 있습니다. 예를 들어 CUDA 11.2 또는 11.7이 설치되어 있다면 다음과 같은 메시지가 표시됩니다.
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Fri_Aug_19_19:11:43_PDT_2023
Cuda compilation tools, release 11.2, V11.2.152
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Tue_May__3_19:00:59_Pacific_Daylight_Time_2022
Cuda compilation tools, release 11.7, V11.7.64💡이 포스팅을 작성하면서 CUDA Toolkit 11.8을 다시 설치했습니다. 해당 링크를 통해 다운로드할 수 있습니다.
3단계, CUDA 버전에 맞는 PyTorch 재설치
위에서 확인한 CUDA 버전에 맞는 PyTorch를 다시 설치합니다. 공식 PyTorch 웹사이트에서 설치 명령어를 확인할 수 있습니다. 예를 들어 제가 설치한 CUDA 11.8 버전을 사용하는 경우 다음 명령어를 사용합니다.
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118PyTorch 공식 웹사이트를 이용한 설치 명령어 확인 방법
PyTorch 공식 사이트에 접속합니다. 접속 후 화면을 아래로 스크롤 하면 설치에 필요한 설정을 선택 할 수 있는 옵션 창이 있습니다. 이 창에서 사용자의 운영체제(OS), 패키지 관리자 (Package), 프로그래밍 언어 (Language), 그리고 가장 중요한 CUDA 버전 (CUDA) 을 정확하게 선택합니다.

설치 명령어 확인
윈도우 환경에서 Python과 CUDA를 사용하여 PyTorch를 설치하려면 아래 옵션을 선택하면 됩니다.
- 옵션 선택
- PyTorch Build: Stable 버전(권장) 또는 최신 기능을 테스트하려면 Preview (Nightly) 선택
- Your OS: Windows 선택
- Package: Pip 선택
- Language: Python 선택
- Compute Platform: 사용 중인 GPU의 CUDA 버전에 맞는 옵션 선택. (예: CUDA 11.8, CUDA 12.1 등)
- 명령어 생성
- 옵션을 선택하면 화면 하단에 맞춤 설치 명령어가 생성됩니다. 해당 명령어를 복사해 터미널에 실행하면 됩니다.
- 이전 버전 확인
- 만약 사용 중인 CUDA 버전이 제공되지 않는다면, 하단의 “Previous versions of PyTorch” 링크를 클릭하여 이전 버전에 맞는 설치 명령어를 확인할 수 있습니다.
만약 CUDA 11.8을 사용하는 Windows 환경에서 Python과 Pip을 선택했다면 생성되는 명령어는 다음과 같습니다. 사용 중인 CUDA 버전에 맞지 않는 PyTorch를 설치하면 오류가 발생할 수 있으니, 반드시 확인 후 설치하시길 바랍니다.
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118💡어떤 CUDA 버전을 설치해야 할지 모르겠다면, PyTorch 공식 웹사이트에서 제공하는 최신 버전 중 하나를 선택해 설치하셔도 됩니다.
4단계, 설치 완료 및 확인
PyTorch와 CUDA가 성공적으로 연결되었는지 최종적으로 확인하는 단계입니다. 아래 과정을 순서대로 따라 진행해 주세요.
- 명령 프롬프트 (Windows) 또는 miniconda를 실행
- python 또는 python3를 입력한 후 Enter 키를 눌러 실행
- import torch를 입력하고 Enter 키를 눌러 실행
- 다음으로 print(torch.cuda.is_available())를 입력하고 Enter 키를 눌러 실행
Python
import torch
print(torch.cuda.is_available())이 명령은 CUDA가 사용 가능한 상태인지 확인하고 결과를 출력합니다. 출력값이 True라면 PyTorch와 CUDA가 성공적으로 연결된 것입니다. 만약 False 또는 오류 메시지가 출력되었다면, CUDA를 다시 설치한 후 위 과정을 다시 진행해 주세요.








