Skip to content

Latest commit

 

History

4 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 

Repository files navigation

Windows GPU 개발환경 설정 가이드

딥러닝(PyTorch)을 내 PC의 GPU로 돌리기 위한 처음부터 끝까지 안내서


이 문서를 읽는 법

문서에서 쓰는 표시

표시
이런 글씨 터미널에 직접 입력하는 명령어입니다. 복사해서 붙여 넣으세요.
📸 이미지 실제 화면입니다. 캡션에서 어디를 봐야 하는지 짚어 줍니다.
이렇게 나오면 정상 명령을 실행했을 때 기대되는 결과입니다.
⚠️ 안 되면? 자주 발생하는 문제와 해결 방법입니다.
💡 왜 그럴까? 원리를 알고 싶은 분을 위한 설명입니다. 건너뛰어도 실습에는 지장 없습니다.

🔢 화면의 숫자가 문서와 달라도 괜찮습니다

이 문서에 나오는 버전 숫자(드라이버 566.14, CUDA 12.7, PyTorch 2.13.0 등)는 자료를 만든 PC의 값입니다. 여러분의 PC는 그래픽 카드도 다르고 설치 시점도 다르므로 숫자가 다른 것이 정상입니다. 중요한 것은 숫자 자체가 아니라 어느 항목을 봐야 하는지, 그리고 버전들 사이의 관계입니다.

실제로 이 자료도 두 대의 PC에서 만들어졌습니다.

  • A PC: RTX 4060 Laptop GPU / 드라이버 566.14 / CUDA 12.7 → 1~3장에 등장
  • B PC: RTX 3050 / 드라이버 560.94 / CUDA 12.6 → 4~5장의 실제 설치 화면에 등장

그래서 중간에 숫자가 바뀌는 것처럼 보이는 부분이 있는데, 착각이 아니라 실제로 다른 PC입니다.


준비물

시작하기 전에 아래 3가지를 확인하세요.

  1. NVIDIA 그래픽 카드가 달린 Windows PC — 1장에서 확인 방법을 안내합니다. (Intel/AMD 내장 그래픽만 있다면 이 문서의 GPU 부분은 진행할 수 없습니다.)
  2. 인터넷 연결 — 드라이버 약 1GB, PyTorch 약 3GB를 내려받습니다.
  3. 디스크 여유 공간 10GB 이상

소요 시간은 대략 1~2시간입니다. (대부분 다운로드 대기 시간)


전체 흐름 한눈에 보기

[1장] 내 PC에 NVIDIA GPU가 있는가?
         │  작업관리자 / nvidia-smi 로 확인
         ▼
[2장] CUDA가 무엇인지 이해하기
         │  "드라이버만 최신이면 CUDA는 따로 설치할 필요 없다"
         ▼
[3장] NVIDIA 공식 드라이버 설치
         │  nvidia.com 에서 내 카드에 맞는 최신 드라이버
         ▼
[4장] Conda 가상환경 + PyTorch 설치
         │  Miniconda → conda create → pip install torch
         ▼
[5장] JupyterLab 실행 & GPU 동작 확인
            torch.cuda.is_available() → True 🎉

각 장은 앞 장이 끝나야 진행할 수 있습니다. 순서대로 따라오세요.



1장. 내 PC에 GPU가 있는지 확인하기

딥러닝을 GPU로 돌리려면 당연히 NVIDIA 그래픽 카드가 있어야 합니다. 설치를 시작하기 전에 "내 PC에 정말 NVIDIA GPU가 달려 있는가"부터 확인합니다.

확인 방법은 두 가지입니다.

  • 방법 1: 작업 관리자 — 그래픽으로 보기 쉬움, 초보자에게 추천
  • 방법 2: nvidia-smi 명령어 — 정보가 훨씬 자세함, 앞으로 계속 쓰게 됨

두 방법 모두 해 보는 것을 권합니다.

1-1. 방법 1 — 작업 관리자로 확인하기

따라 하기

윈도우 작업 표시줄의 검색창작업관리자를 입력하고 실행합니다.

작업관리자 검색

▲ 윈도우 검색창에 "작업관리자"를 입력하면 맨 위에 나타납니다. 눌러서 실행하세요.

💡 더 빠른 방법: 키보드에서 Ctrl + Shift + Esc 를 동시에 누르면 검색 없이 바로 열립니다. 자주 쓰게 될 단축키이니 외워 두면 좋습니다.

작업 관리자가 열리면 왼쪽 메뉴에서 성능 탭을 클릭합니다.

성능 탭에서 GPU 확인

▲ 왼쪽 목록 맨 아래를 보세요. GPU 0은 Intel 내장 그래픽, GPU 1NVIDIA GeForce RTX 4060 Laptop GPU 입니다. 이것을 클릭하면 오른쪽에 상세 정보가 나옵니다.

✅ 이렇게 나오면 정상

오른쪽 위 빨간 박스 안에 NVIDIA로 시작하는 그래픽 카드 이름이 보이면 성공입니다.

GPU 이름 확대

▲ 이 이름을 메모해 두세요. 3장에서 드라이버를 내려받을 때 이 이름을 그대로 골라야 합니다.

화면 오른쪽 아래에서 이런 정보도 함께 볼 수 있습니다.

항목 화면의 값
전용 GPU 메모리 0.6/8.0GB 이 GPU가 가진 전용 메모리(VRAM) 총량. 학습할 수 있는 모델 크기를 좌우합니다.
드라이버 버전 32.0.15.6614 윈도우가 표시하는 내부 버전 (NVIDIA 표기와 다릅니다 → 1-2에서 설명)
드라이버 날짜 2024-11-06 드라이버가 만들어진 날짜

⚠️ 안 되면?

증상 원인 해결
왼쪽 목록에 GPU가 하나뿐이고 Intel/AMD만 있다 NVIDIA 그래픽 카드가 없는 PC입니다 이 PC에서는 GPU 학습이 불가능합니다. Google Colab 같은 클라우드 환경을 이용하세요.
GPU 항목 자체가 안 보인다 작업 관리자가 간단히 보기 상태 창 아래쪽 자세히 를 눌러 전체 화면으로 바꾸세요.
NVIDIA GPU는 있는데 이름이 "Microsoft 기본 디스플레이 어댑터" 드라이버 미설치 3장으로 건너뛰어 드라이버를 먼저 설치하세요.

1-2. 방법 2 — 터미널에서 nvidia-smi로 확인하기

작업 관리자보다 훨씬 자세한 정보를 볼 수 있는 방법입니다. 앞으로 GPU 상태를 확인할 때마다 쓰게 될 가장 중요한 명령어이니 꼭 익혀 두세요.

준비: 터미널 열기

윈도우에서 명령어를 입력하는 창을 터미널이라고 합니다. 종류가 몇 가지 있습니다.

Windows Terminal (선택 사항, 있으면 편리)

Microsoft Store에서 무료로 설치할 수 있습니다. 탭 기능이 있어 여러 창을 한 번에 관리하기 좋습니다.

Windows Terminal 설치

▲ Microsoft Store에서 terminal을 검색하거나 위 주소로 접속해 다운로드 를 누르세요. 필수는 아닙니다.

명령 프롬프트 (cmd) — 이 문서에서 사용할 기본 터미널

윈도우 검색창에 cmd 를 입력하면 실행됩니다.

명령 프롬프트

▲ 검은 창에 C:\Users\user> 처럼 표시되면 준비 완료입니다. 이 > 뒤에 명령어를 입력합니다.

💡 왜 PowerShell이 아니라 명령 프롬프트인가? 윈도우에는 PowerShell명령 프롬프트(cmd) 두 가지 터미널이 있습니다. conda 가상환경을 다룰 때는 명령 프롬프트가 설정이 덜 필요하고 오류가 적어, 이 문서에서는 명령 프롬프트를 기준으로 설명합니다. (PowerShell을 써도 대부분 동일하게 동작합니다.)

따라 하기

터미널에 아래 명령어를 입력하고 Enter 를 누릅니다.

nvidia-smi

✅ 이렇게 나오면 정상

nvidia-smi 실행 결과

▲ 이런 표가 나오면 GPU와 드라이버가 정상적으로 설치되어 있다는 뜻입니다.

가장 먼저 볼 곳은 표의 맨 윗줄입니다.

버전 확인

▲ 빨간 박스 안 두 값이 핵심입니다. Driver Version: 566.14CUDA Version: 12.7

💡 nvidia-smi가 뭔가요? NVIDIA System Management Interface의 약자로, NVIDIA GPU의 상태를 확인하고 제어하는 공식 관리 도구입니다. 별도로 설치하는 프로그램이 아니라 NVIDIA 그래픽 드라이버를 설치하면 함께 딸려 오는 도구입니다. 그래서 이 명령어가 동작한다는 것은 곧 "드라이버가 제대로 설치되어 있다"는 증거이기도 합니다.

두 버전의 의미와 관계 — 이 문서에서 가장 중요한 개념

드라이버와 CUDA 버전의 의미

▲ 오른쪽 빨간 글씨에 핵심이 적혀 있습니다: "드라이버의 버전이 CUDA의 버전을 결정한다"

정리하면 이렇습니다.

1. Driver Version (566.14)

  • 현재 윈도우에 설치된 NVIDIA 그래픽 드라이버의 버전입니다.
  • 운영체제와 GPU 하드웨어가 서로 대화할 수 있게 해 주는 핵심 소프트웨어입니다.

2. CUDA Version (12.7)

  • ⚠️ 흔한 오해: 이것은 "내 PC에 CUDA 12.7이 설치되어 있다"는 뜻이 아닙니다.
  • 정확한 의미는 "현재 드라이버가 지원할 수 있는 CUDA의 최대 버전(상한선)" 입니다.
  • 즉 이 PC에서는 CUDA 12.7 이하로 만들어진 프로그램이라면 무엇이든 문제없이 돌아갑니다.
     드라이버 버전이 높아진다  →  지원하는 최대 CUDA 버전도 높아진다
              566.14          →          CUDA 12.7 까지
              610.62          →          CUDA 13.x 까지

👉 이 관계가 왜 중요한가? 4장에서 PyTorch를 설치할 때 cu126(CUDA 12.6용)을 선택하게 되는데, 이때 드라이버가 지원하는 CUDA(12.7) ≥ PyTorch가 요구하는 CUDA(12.6) 이면 정상 동작합니다. 반대로 드라이버가 너무 낡아서 지원 CUDA가 12.0인데 12.6용 PyTorch를 설치하면 GPU를 못 씁니다. 그래서 3장에서 드라이버를 최신으로 올리는 것입니다.

nvidia-smi 표의 나머지 항목들

당장 전부 알 필요는 없지만, 자주 보게 될 항목이니 참고하세요.

nvidia-smi 항목 설명

▲ 표의 각 칸이 무엇을 뜻하는지에 대한 설명입니다.

실습에서 자주 보게 될 항목만 추리면:

항목 예시 값
Name NVIDIA GeForce RTX 4060 그래픽 카드 모델명
Memory-Usage 438MiB / 8188MiB GPU 메모리 사용량 / 전체 용량. 학습 중 이 값이 꽉 차면 CUDA out of memory 에러가 납니다.
GPU-Util 2% GPU가 실제로 연산 중인 비율. 학습이 잘 돌아가면 80~100%가 됩니다.
Temp 42C GPU 온도
Perf P8 전력 상태. P0가 최대 성능, P8은 절전 상태(놀고 있음)

표 아래쪽에는 현재 GPU를 쓰고 있는 프로그램 목록이 나옵니다.

Processes 항목 설명

explorer.exe(윈도우 바탕화면/탐색기)가 GPU를 조금 쓰고 있는 것은 정상입니다. 화면 출력에 GPU를 쓰기 때문입니다.

Type 칸의 의미:

  • C (Compute) — AI 학습 같은 순수 연산 작업
  • G (Graphics) — 화면 출력 작업
  • C+G — 둘 다 하는 프로그램

⚠️ 안 되면? — nvidia-smi가 실행되지 않을 때

'nvidia-smi'은(는) 내부 또는 외부 명령... 이 아닙니다 같은 에러가 난다면 원인은 크게 두 가지입니다.

nvidia-smi 에러 원인

▲ 원인 ① 드라이버가 아예 설치되지 않았거나, 원인 ② 드라이버는 있는데 윈도우가 프로그램 위치를 모르는 경우입니다.

해결 방법 A — 설치 경로로 직접 찾아가 실행해 보기

먼저 드라이버가 있는지부터 확인합니다. 명령 프롬프트에 아래를 입력하세요.

cd "C:\Program Files\NVIDIA Corporation\NVSMI"
nvidia-smi

에러 해결 방법 A

▲ 큰따옴표(")까지 그대로 복사해서 입력하세요. 경로에 공백이 있어서 따옴표가 꼭 필요합니다.

여기서 실행이 된다면 → 드라이버는 설치되어 있고 경로 문제일 뿐입니다.

💡 최신 드라이버라면 위 폴더가 없는 것이 정상입니다 파일 탐색기로 C:\Program Files\NVIDIA Corporation 을 열어 보면 NVSMI 폴더가 없을 수 있습니다.

NVIDIA 폴더 확인

이것은 고장이 아닙니다. 최근 몇 년간 배포되는 NVIDIA DCH 드라이버nvidia-smi.exeC:\Windows\System32\ 폴더에 바로 설치하도록 방식이 바뀌었습니다.

System32에 설치되는 이유

System32 폴더는 윈도우가 기본적으로 항상 검색하는 최우선 경로(환경 변수 PATH) 에 등록되어 있습니다. 그래서 어느 폴더에 있든 nvidia-smi만 입력하면 윈도우가 알아서 찾아 실행해 줍니다.

환경변수 PATH의 원리

실제 위치를 확인하고 싶다면 아래 명령을 쓰세요.

명령 프롬프트(cmd)에서:

where nvidia-smi

where 명령어

PowerShell에서:

Get-Command nvidia-smi

Get-Command 실행 결과

Source 칸에 C:\WINDOWS\system32\nvidia-smi.exe 가 나옵니다. 이것이 진짜 위치입니다.

해결 방법 B — 드라이버가 아예 없다면

위 경로에 폴더도 파일도 전혀 없다면 드라이버가 설치되지 않은 것입니다. → 3장 「NVIDIA 공식 드라이버 설치」 로 이동해서 설치한 뒤, PC를 재부팅하고 다시 nvidia-smi를 실행해 보세요.

에러 해결 방법 B


1-3. 참고 — GTX와 RTX는 뭐가 다른가요?

내 그래픽 카드 이름에 GTX가 붙어 있는지 RTX가 붙어 있는지에 따라 딥러닝 성능이 크게 달라집니다.

GTX와 RTX 차이

딥러닝 관점에서 핵심만 요약하면:

GTX RTX
AI 전용 코어 ❌ 없음 텐서(Tensor) 코어 탑재
딥러닝 속도 느림 훨씬 빠름
현재 위치 구형 세대 현세대 주력

GTX 카드로도 PyTorch는 동작합니다. 다만 텐서 코어가 없어서 학습 속도가 RTX보다 느립니다.



2장. CUDA가 무엇인가요?

이 장은 개념 설명입니다. 설치할 것은 없습니다. 하지만 "CUDA를 따로 설치해야 하나요?" 라는 초보자의 가장 흔한 질문에 답하는 중요한 내용이니 꼭 읽어 보세요.

2-1. CUDA와 cuDNN

CUDA와 cuDNN

CUDA (Compute Unified Device Architecture)

원래 GPU는 화면에 그림을 그리는 장치였습니다. 그런데 GPU 안에는 수천 개의 작은 연산 코어가 들어 있어서, 같은 계산을 동시에 대량으로 처리하는 데 아주 뛰어납니다.

CUDA는 이 수천 개의 코어를 그래픽이 아닌 일반 수학 연산(행렬 곱, 벡터 연산 등)에도 쓸 수 있게 열어 주는 통로입니다. 딥러닝은 결국 거대한 행렬 곱셈의 반복이므로, CUDA 덕분에 GPU가 AI 학습의 핵심 장비가 된 것입니다.

cuDNN (CUDA Deep Neural Network library)

CUDA 위에서 동작하는, 딥러닝에 특화된 라이브러리입니다. 합성곱(convolution), 풀링, 정규화 같이 신경망에서 반복적으로 쓰이는 연산을 NVIDIA 엔지니어들이 극한까지 최적화해 놓은 것입니다.

구분 CUDA cuDNN
성격 범용 GPU 컴퓨팅 플랫폼 딥러닝 전용 라이브러리
범위 넓음 (모든 GPU 병렬 연산) 좁음 (신경망 연산에 특화)
관계 기반(토대) CUDA 위에서 동작
비유 도로와 엔진 그 도로를 달리는 경주용 튜닝 부품

2-2. ⭐ 가장 중요한 결론 — CUDA를 따로 설치하지 않아도 됩니다

드라이버만 있으면 된다

▲ 빨간 박스가 이 장의 결론입니다: "PC에 올바른 그래픽카드 드라이버(NVIDIA Driver)만 설치되어 있다면" 별도의 CUDA/cuDNN 설치 없이도 GPU 가속이 즉시 작동합니다.

과거에는 CUDA Toolkit과 cuDNN을 NVIDIA 웹사이트에서 직접 내려받아 설치하고, 환경 변수를 맞추고, 프레임워크 버전과의 호환성을 확인하느라 초보자들이 며칠씩 고생하는 일이 흔했습니다.

하지만 요즘은 pip install로 PyTorch를 설치하면 PyTorch 패키지 안에 CUDA 런타임과 cuDNN이 통째로 들어 있습니다.

PyTorch가 CUDA를 내장

pip install torch 뒤에 붙이는 인덱스 주소(--index-url .../whl/cu126)에 따라 원하는 버전의 CUDA 런타임이 함께 설치됩니다.

그래도 여전히 확인해야 할 것 — 딱 하나

⚠️ PC에 설치된 NVIDIA 그래픽 드라이버는, PyTorch에 내장된 CUDA 버전이 요구하는 최소 버전보다 높아야 합니다.

   [ 내 PC의 드라이버가 지원하는 CUDA ]   ≥   [ PyTorch에 내장된 CUDA ]
              (nvidia-smi로 확인)                (설치할 때 내가 고름)
                    12.7                   ≥            12.6      ✅ 정상
                    12.0                   ≥            12.6      ❌ GPU 못 씀

그래서 다음 3장에서 드라이버를 최신으로 올립니다. 드라이버만 최신이면 CUDA 버전 걱정에서 거의 완전히 해방됩니다.



3장. NVIDIA 공식 드라이버 설치하기

앞 장에서 확인했듯이, 우리가 직접 설치해야 하는 것은 NVIDIA 그래픽 드라이버 하나뿐입니다.

이 장을 건너뛰어도 되는 경우 1장에서 nvidia-smi가 정상 실행되었고, CUDA Version12.6 이상으로 나왔다면 이미 충분히 최신입니다. 바로 4장으로 넘어가도 됩니다. 다만 최신 드라이버로 올리면 안정성과 호환성이 좋아지므로 설치를 권장합니다.

3-1. 다운로드 페이지 접속

웹 브라우저에서 아래 주소로 접속합니다.

https://www.nvidia.com/ko-kr/drivers/

NVIDIA 드라이버 다운로드 페이지

▲ 왼쪽의 Manual Driver Search(수동 드라이버 검색) 영역을 사용합니다. 드롭다운이 5개 있습니다.

3-2. 드롭다운 5개 채우기

내 그래픽 카드에 맞는 드라이버를 찾기 위해 위에서부터 순서대로 선택합니다.

드롭다운 선택 방법

순서 항목 무엇을 고르나 예시
1 Select Product Category 일반 데스크톱/노트북용 외장 그래픽 카드라면 GeForce
2 Select Product Series 내 카드의 세대. ⚠️ 노트북이면 반드시 (Notebooks)가 붙은 것 GeForce RTX 40 Series (Notebooks)
3 Select Product 정확한 모델명 GeForce RTX 4060 Laptop GPU
4 Select Operating System 현재 쓰는 윈도우 버전 Windows 11 또는 Windows 10 64-bit
5 언어 기본값 그대로 두어도 됩니다 English (US)

모델명이 기억나지 않는다면? 1장에서 메모해 둔 이름을 보세요. (작업 관리자 → 성능 탭 → GPU 항목의 이름)

5개를 모두 고른 뒤 아래의 [Find] 버튼을 누릅니다.

드롭다운 선택 완료

▲ 이렇게 5칸이 모두 채워지면 [Find] 버튼이 초록색으로 활성화됩니다. 눌러 주세요.

3-3. Studio Driver vs Game Ready Driver — 어느 것을 고를까?

검색 결과에 두 종류의 드라이버가 나옵니다.

드라이버 검색 결과

▲ 위쪽이 NVIDIA Studio Driver, 아래쪽이 GeForce Game Ready Driver. 둘 다 버전이 610.62로 동일합니다.

👉 딥러닝이 목적이라면 Studio Driver를 고르세요

Studio와 Game Ready 차이

▲ 빨간 박스: "연구나 개발 목적으로 딥러닝(PyTorch) 환경을 안정적으로 구축하고 싶다면 NVIDIA Studio Driver를 더 추천합니다."

구분 NVIDIA Studio Driver GeForce Game Ready Driver
주요 대상 딥러닝/AI 개발자, 영상 편집자, 3D 디자이너 PC 게이머
최적화 방향 PyTorch, TensorFlow 등 전문 소프트웨어에서의 "절대적인 안정성" 최신 게임에서의 버그 수정 및 프레임 최적화
업데이트 주기 상대적으로 느림 (충분히 검증된 후 출시) 매우 빠름 (신작 게임 출시마다)

어떤 드라이버를 고를까

💡 두 드라이버는 성능 차이가 거의 없습니다. 뿌리가 같은 드라이버이고 버전 번호도 동일합니다. 차이는 오직 "NVIDIA가 누구를 우선순위로 두고 검증했는가"뿐입니다. Game Ready를 설치해도 PyTorch는 아주 정상적으로 잘 작동합니다. 평소 게임도 즐긴다면 편하게 선택하세요.

원하는 쪽의 오른쪽 [View] 버튼 → 다음 화면에서 [Download] 를 눌러 설치 파일(약 1GB)을 내려받습니다.

3-4. 드라이버 버전 읽는 법

드라이버 버전 명명규칙

작업 관리자에서 본 32.0.15.6614와 NVIDIA가 말하는 566.14가 달라서 헷갈릴 수 있습니다.

NVIDIA 드라이버 버전 명명 규칙: 끝의 5자리 숫자가 실제 버전입니다.

32.0.15. 6614 → 뒤 5자리를 읽으면 → 566.14

즉 이 PC에 설치된 드라이버는 566.14(2024년 11월 배포)이고, 지금 설치하려는 것은 610.62이므로 훨씬 최신입니다.

노트북용 카드는 호환성 문제가 없나요? 없습니다. 최신 NVIDIA 드라이버는 Windows 10 64-bit, Windows 11 통합 드라이버로 제공되며, 데스크톱용과 노트북(Laptop)용 칩셋을 모두 함께 지원합니다.

3-5. 업데이트하면 무엇이 좋아지나?

업데이트 장점

▲ 빨간 밑줄: "드라이버가 최신 버전으로 업데이트되면, 이 드라이버가 지원할 수 있는 최대 CUDA 한도(nvidia-smi 결과 값)도 함께 상향됩니다."

  1. PyTorch 지원 범위 확대 — 나중에 더 최신 CUDA를 내장한 PyTorch가 나와도 에러 없이 바로 쓸 수 있습니다.
  2. 안정성 및 버그 수정 — 구버전에서 발견된 AI 연산 시의 프리징 현상 등이 개선됩니다.

3-6. 설치하고 확인하기

내려받은 파일을 실행하고 화면의 안내에 따라 설치합니다. (대부분 [동의 및 계속][빠른 설치] 로 진행하면 됩니다.)

⚠️ 설치 도중 화면이 몇 번 깜빡이거나 잠시 검게 변합니다. 정상이니 놀라지 마세요.

설치가 끝나면 반드시 PC를 재부팅하세요.

설치 후 확인 방법

▲ 드라이버 패키지 안에 nvidia-smi가 포함되어 있으므로, 설치를 완료하면 이 명령어를 바로 쓸 수 있습니다.

재부팅 후 명령 프롬프트를 새로 열고 확인합니다.

nvidia-smi

✅ 이렇게 나오면 정상

표 오른쪽 위에서 두 값을 확인하세요.

  • Driver Version: 방금 설치한 최신 버전 (예: 610.62)
  • CUDA Version: 이 드라이버가 지원하는 최대 CUDA 버전 (예: 12.x 또는 13.x)

명령어를 못 찾을 때

⚠️ 안 되면?

설치 후에도 명령어를 찾을 수 없다고 나온다면 → 1-2장의 「안 되면?」 부분으로 돌아가 where nvidia-smi 로 실제 위치를 확인하거나, 아래 명령으로 직접 찾아가 실행해 보세요.

cd "C:\Program Files\NVIDIA Corporation\NVSMI"
nvidia-smi

그래도 안 된다면 파일 탐색기에서 C:\Windows\System32 폴더를 열고 오른쪽 위 검색창에 smi를 입력해 보세요.

System32 검색 결과

nvidia-smi.exeC:\Windows\System32에 있으면 드라이버는 정상 설치된 것입니다. 그렇다면 터미널 창을 완전히 닫고 새로 열어 다시 시도하세요. (환경 변수는 새 창에서만 반영됩니다.)



4장. Conda 가상환경 만들고 PyTorch 설치하기

이제 파이썬 개발 환경을 만듭니다. 이 장이 가장 길지만, 한 줄씩 따라 하면 어렵지 않습니다.

💡 가상환경이 왜 필요한가요? 프로젝트마다 필요한 파이썬 버전과 라이브러리 버전이 다릅니다. 하나의 파이썬에 전부 설치하면 A 프로젝트를 위해 설치한 라이브러리가 B 프로젝트를 망가뜨리는 일이 생깁니다. 가상환경은 프로젝트마다 독립된 파이썬 방을 만들어 주는 도구입니다. 망가지면 그 방만 지우고 새로 만들면 되므로 마음 편히 실험할 수 있습니다.

4-1. Miniconda 설치

AnacondaMiniconda 중 이 문서는 Miniconda를 사용합니다. (Anaconda는 쓰지 않는 패키지까지 수백 개를 함께 설치해 무겁습니다. Miniconda는 conda 기능만 담은 가벼운 버전입니다.)

시스템 요구사항 확인

https://www.anaconda.com/docs/getting-started/miniconda/system-requirements

Miniconda 시스템 요구사항

▲ 지원 OS: Windows 11 23H2 이상, 시스템 아키텍처: Windows 64-bit x86. 만약 내 윈도우가 이보다 오래되었다면 빨간 박스의 archive 링크에서 구버전 설치 파일을 찾을 수 있습니다.

설치 파일 내려받기

Miniconda 설치 파일 목록

목록에서 아래 파일을 받으면 됩니다.

설치 파일 확대

Miniconda3-latest-Windows-x86_64.exe — 맨 위에 있는 파일입니다. latest는 항상 최신 버전을 뜻하므로 이것을 받으면 됩니다.

설치 시 주의할 점

내려받은 .exe 파일을 실행하고 기본값 그대로 다음을 눌러 진행하면 됩니다. 다만 아래 두 가지만 확인하세요.

화면 권장 선택
Install for Just Me (recommended) — 관리자 권한 문제를 피할 수 있습니다
Advanced Options Register Miniconda3 as my default Python 체크 유지

⚠️ 설치 경로에 한글이나 공백이 들어가면 안 됩니다. 기본 경로(C:\Users\사용자명\miniconda3)에 한글 이름이 들어 있다면 C:\miniconda3 처럼 바꿔 주세요.

설치가 끝나면 열려 있던 터미널을 모두 닫고 새로 여세요.

✅ 이렇게 나오면 정상

새 명령 프롬프트에서:

conda --version

conda 2x.x.x 처럼 버전이 나오면 성공입니다.


4-2. 어떤 파이썬 버전을 고를까?

가상환경을 만들 때 파이썬 버전을 정해야 합니다. 참고로 Google Colab의 환경을 보면:

Colab 버전 참고

▲ Google Colab은 Python 3.12.13 을 사용합니다. 많은 튜토리얼이 Colab 기준으로 쓰여 있으므로, 같은 버전을 쓰면 코드가 그대로 돌아갈 확률이 높습니다.

PyTorch의 요구사항: 최신 Stable PyTorch는 Python 3.10 이상이 필요합니다. 너무 최신 버전(예: 3.14)은 일부 라이브러리가 아직 지원하지 않을 수 있으니 3.11 ~ 3.12 범위를 권장합니다.


4-3. 가상환경 만들기

명령 프롬프트에 아래를 입력합니다. (torch는 환경 이름입니다. 원하는 이름으로 바꿔도 됩니다.)

conda create -n torch python==3.12.13

conda create

-n torch는 "이름을 torch로", python==3.12.13은 "파이썬 3.12.13 버전으로" 라는 뜻입니다.

명령을 실행하면 설치할 패키지 목록을 보여 주고 Proceed ([y]/n)? 라고 물어봅니다. y 를 입력하고 Enter 를 누르세요.

✅ 이렇게 나오면 정상

마지막에 아래와 같은 안내가 나오면 완료입니다.

# To activate this environment, use
#     $ conda activate torch

4-4. 가상환경 활성화하기

만든 환경을 켜는(활성화) 명령입니다. 앞으로 작업할 때마다 매번 입력해야 합니다.

conda activate torch

conda activate torch

✅ 이렇게 나오면 정상

프롬프트 맨 앞에 (torch) 가 붙습니다.

(torch) C:\Users\user>

(torch) 표시가 "지금 torch 가상환경 안에 있다" 는 신호입니다. 이 표시가 없는 상태에서 설치한 패키지는 엉뚱한 곳에 들어가므로 항상 확인하세요.

환경 안에 어떤 패키지가 설치되어 있는지 보려면:

conda list

방금 만든 환경이라 목록이 거의 비어 있는 것이 정상입니다.

⚠️ 안 되면? — (torch) 표시가 안 나온다면

changeps1 설명

환경은 켜졌는데 프롬프트에 이름이 안 보이는 것이라면, conda 설정에서 표시 기능이 꺼져 있는 것입니다. 아래 명령으로 켜세요.

conda config --set changeps1 True

⚠️ 하이픈에 주의하세요. --set 의 앞부분은 짧은 하이픈 두 개(--) 입니다. 원본 강의 자료에는 일부 슬라이드에 긴 대시()로 표기된 곳이 있는데, 그것을 그대로 복사해 붙여 넣으면 명령이 실행되지 않습니다. 이 문서의 코드 블록을 복사해서 쓰세요.

changeps1은 "conda 환경을 활성화했을 때 프롬프트 맨 앞에 환경 이름을 붙일지 말지"를 결정하는 설정입니다.

True  로 켜면 →  (torch) C:\Users\user>
False 로 끄면 →          C:\Users\user>

4-5. (선택) 터미널 켤 때마다 (base)가 붙는 게 거슬린다면

Miniconda를 설치하면 터미널을 열 때마다 자동으로 (base) 환경이 켜집니다.

auto_activate_base 설명

이것을 끄고 싶다면:

conda config --set auto_activate_base False

📌 원본 자료의 오타 안내 강의 슬라이드에는 이 명령이 conda config –set auto_activate_base Talse 로 적힌 줄이 있습니다.

  • –set--set (짧은 하이픈 두 개)
  • TalseFalse (오타)

위 코드 블록의 명령을 사용하세요.

이 설정을 끄면 터미널을 열었을 때 깨끗한 윈도우 환경으로 시작하고, 필요할 때만 conda activate torch 로 원하는 환경을 켜게 됩니다.

💡 설정은 어디에 저장되나요?

.condarc 파일 위치

conda 설정은 홈 디렉터리의 .condarc 파일에 저장됩니다. (윈도우: C:\Users\사용자이름\.condarc) 처음에는 이 파일이 아예 없다가, conda config --set ... 명령을 처음 실행할 때 자동으로 만들어집니다. 현재 적용된 설정을 모두 보려면 conda config --show-sources 를 입력하세요.


4-6. 파이썬과 pip 확인하기

(torch) 환경이 켜진 상태에서 확인합니다.

python --version
pip --version

pip 버전 확인

✅ 이렇게 나오면 정상

pip 경로에 envs\torch 가 포함되어 있어야 합니다.

pip 26.1.2 from C:\Users\user\miniconda3\envs\torch\Lib\site-packages\pip (python 3.14)
                                        ↑↑↑↑↑↑↑↑↑↑
                        이 부분이 있어야 가상환경 안의 pip입니다

경로에 envs\torch가 없다면 가상환경이 켜지지 않은 상태입니다. conda activate torch 를 다시 실행하세요.

pippip3는 결과가 같습니다. 둘 중 아무거나 써도 됩니다.

⚠️ 안 되면? — python --version이 이상하게 나올 때

가상환경 안인데도 엉뚱한 파이썬 버전이 나오거나, 아무것도 안 나오고 Microsoft Store가 열린다면 윈도우의 "앱 실행 별칭" 때문입니다.

python 버전이 안 나올 때

해결 1단계 — 방해가 되는 앱 실행 별칭 끄기

  1. 윈도우 검색창에 앱 실행 별칭 을 입력해 설정 화면을 엽니다. (또는 설정 → 앱 → 고급 앱 설정 → 앱 실행 별칭)
  2. 목록에서 python.exepython3.exe 를 찾아 둘 다 끄기(Off) 로 바꿉니다.

이 별칭이 켜져 있으면 PATH를 아무리 잘 잡아도 계속 가로채기 때문에 이것을 먼저 꺼야 합니다.

해결 2단계 — 파이썬 위치 확인

where python
py --version
py -c "import sys; print(sys.executable)"

PATH에 python 등록

py -c "import sys; print(sys.executable)" 명령이 파이썬 실행 파일의 진짜 경로를 알려 줍니다.

해결 3단계 — PATH에 등록 (필요한 경우만)

윈도우 검색창에 환경 변수시스템 환경 변수 편집환경 변수(N)... → 위쪽 "사용자 변수" 목록에서 Path 선택 → 편집(E)...새로 만들기(N) 로 아래 두 경로를 각각 추가합니다.

C:\Users\사용자\AppData\Local\Programs\Python\Python312\
C:\Users\사용자\AppData\Local\Programs\Python\Python312\Scripts\

추가한 뒤 모든 창에서 확인을 누르고, 터미널을 완전히 닫았다가 새로 여세요.


4-7. ipykernel 설치 (필수)

JupyterLab에서 이 가상환경을 쓰려면 ipykernel 이 반드시 필요합니다.

conda install ipykernel

conda install ipykernel

Proceed ([y]/n)? 이 나오면 y + Enter.


4-8. JupyterLab 설치

코드를 작성하고 실행할 웹 기반 개발 도구입니다.

conda install jupyterlab

conda install jupyterlab

📌 원본 자료 참고: 이 슬라이드의 제목은 pip install jupyterlab으로 되어 있지만, 실제 화면에서 실행한 명령은 conda install jupyterlab 입니다. 둘 중 아무거나 써도 정상 설치됩니다. conda 환경에서는 conda install 을 권장합니다.


4-9. ⭐ PyTorch 설치 — 가장 중요한 단계

PyTorch는 절대 그냥 pip install torch로 설치하면 안 됩니다. 그렇게 하면 GPU를 못 쓰는 CPU 전용 버전이 설치될 수 있습니다. 반드시 공식 사이트에서 내 환경에 맞는 명령어를 생성해서 사용해야 합니다.

1) 내 드라이버가 지원하는 CUDA 버전 확인

먼저 nvidia-smi로 다시 한 번 확인합니다.

nvidia-smi

다른 PC의 nvidia-smi

▲ 이 PC(B PC)는 RTX 3050 / 드라이버 560.94 / CUDA Version 12.6 입니다. 노란색으로 강조된 CUDA Version: 12.6 이 우리가 쓸 기준값입니다.

2) PyTorch 공식 사이트에서 명령어 생성

https://pytorch.org/get-started/locally/

PyTorch 설치 명령 생성기

▲ 표에서 내 환경에 맞는 칸을 클릭하면 맨 아래 「Run this Command」에 설치 명령어가 자동으로 만들어집니다.

항목 선택 이유
PyTorch Build Stable 안정 버전. Preview(Nightly)는 실험용이므로 피하세요.
Your OS Windows
Package Pip
Language Python
Compute Platform CUDA 12.6 nvidia-smi의 CUDA Version 이하에서 가장 높은 것을 고르세요

Compute Platform 고르는 법 (가장 헷갈리는 부분)

nvidia-smi에 나온 CUDA Version이 12.6이라면 → 목록에서 12.6 이하만 고를 수 있습니다. 목록에 CUDA 12.6 / CUDA 13.0 / CUDA 13.2가 있다면 12.6을 선택해야 합니다. 13.0을 고르면 드라이버가 지원하지 못해 GPU를 쓸 수 없습니다.

반대로 내 CUDA Version이 12.7이라면 12.6은 그보다 낮으므로 문제없이 잘 동작합니다. (드라이버는 하위 버전을 모두 지원합니다.)

목록에 내 버전과 정확히 같은 것이 없으면 내 버전보다 낮은 것 중 가장 높은 것을 고르세요. 마지막 CPU 항목은 GPU 없이 쓸 때만 선택합니다.

3) 생성된 명령어 실행

설치 명령어 확대

▲ 빨간 박스 안의 명령어를 그대로 복사해서 터미널에 붙여 넣습니다.

(torch) 환경이 켜져 있는지 반드시 확인한 뒤 아래를 실행하세요.

pip3 install torch torchvision --index-url https://download.pytorch.org/whl/cu126

pip3 install torch

Looking in indexes: https://download.pytorch.org/whl/cu126 가 첫 줄에 나오면 올바른 곳에서 받고 있다는 뜻입니다.

⏱️ 시간이 오래 걸립니다. PyTorch는 CUDA 라이브러리를 포함해 약 3GB를 내려받습니다. 인터넷 속도에 따라 10~30분 정도 걸릴 수 있습니다. 중간에 창을 닫지 마세요.

파일 이름의 torch-2.13.0+cu126-cp314-...whl 에서 +cu126 이 "CUDA 12.6용"이라는 표시입니다.

✅ 이렇게 나오면 정상

마지막에 Successfully installed torch-2.13.0+cu126 torchvision-0.28.0+cu126 ... 처럼 나오면 성공입니다.


4-10. JupyterLab 커널 등록하기

이 가상환경을 JupyterLab의 커널 목록에 이름을 붙여 등록합니다. 이렇게 해 두면 노트북을 만들 때 "Python (torch)" 를 골라서 이 환경으로 코드를 실행할 수 있습니다.

커널 만들기

(torch) 환경이 활성화된 상태에서 실행하세요.

python -m ipykernel install --user --name torch --display-name "Python (torch)"
옵션
--user 현재 사용자에게만 등록 (관리자 권한 불필요)
--name torch 커널의 내부 식별 이름
--display-name "Python (torch)" JupyterLab 화면에 표시될 이름 (따옴표 필수)

등록된 커널 목록을 확인합니다.

jupyter kernelspec list

✅ 이렇게 나오면 정상

kernelspec list 결과

Installed kernelspec torch in ... 메시지가 나오고, 목록에 torch 가 추가되어 있으면 성공입니다.

Available kernels:
  python3    C:\Users\user\miniconda3\envs\torch\share\jupyter\kernels\python3
  torch      C:\Users\user\AppData\Roaming\jupyter\kernels\torch     ← 이것이 방금 등록한 커널

💡 커널을 잘못 만들었다면 지우고 다시 만들 수 있습니다.

커널 삭제하기

jupyter kernelspec uninstall torch

확인 질문([y/N])에 y를 입력하면 삭제됩니다. 묻지 않고 바로 지우려면 jupyter kernelspec remove -f torch.

⚠️ 주의: 이 명령은 Jupyter에 등록된 커널 정보만 지웁니다. conda 가상환경 자체는 그대로 남아 있습니다. 가상환경까지 통째로 없애려면 별도로 아래 명령을 써야 합니다.

conda env remove -n torch


5장. 실행하고 GPU가 진짜 동작하는지 확인하기

드디어 마지막 장입니다. 여기까지 만든 환경이 실제로 GPU를 쓰는지 두 눈으로 확인합니다.

5-1. 실습용 폴더 만들기

노트북 파일을 저장할 폴더를 만듭니다.

d:
mkdir torch
cd torch

실습 폴더 만들기

d: 는 D 드라이브로 이동, mkdir torch 는 torch 폴더 생성, cd torch 는 그 폴더로 들어가기입니다.

D 드라이브가 없다면? d: 를 생략하고 C 드라이브에 만들어도 됩니다.

cd C:\Users\%USERNAME%
mkdir torch
cd torch

⚠️ 폴더 경로에 한글이나 공백이 들어가지 않도록 하세요. 나중에 문제가 생길 수 있습니다.

프롬프트가 (torch) D:\torch> 로 바뀌면 준비 완료입니다. 앞의 (torch)는 가상환경 이름, 뒤의 D:\torch는 현재 폴더입니다. 우연히 이름이 같을 뿐 서로 다른 것입니다.

5-2. JupyterLab 실행

jupyter lab

jupyter lab 실행

▲ 로그가 주르륵 올라가고 Serving notebooks from local directory: D:\torchhttp://localhost:8888/lab?token=... 주소가 나오면 정상입니다.

✅ 이렇게 나오면 정상

잠시 후 웹 브라우저가 자동으로 열리면서 JupyterLab 화면이 나타납니다. 자동으로 열리지 않으면 터미널에 표시된 http://localhost:8888/lab?token=... 주소를 복사해서 브라우저 주소창에 붙여 넣으세요.

⚠️ 이 터미널 창을 닫지 마세요. 이 창이 JupyterLab 서버입니다. 닫으면 JupyterLab도 종료됩니다. 종료할 때는 이 창에서 Ctrl + C 를 두 번 누르세요.

5-3. 노트북 만들기 — 커널 선택이 핵심

JupyterLab의 Launcher 화면이 나타납니다.

Launcher 커널 선택

▲ Notebook 영역에 아이콘이 두 개 있습니다. 빨간 박스로 표시된 Python (torch) 를 클릭하세요.

Python (torch) 확대

여기가 가장 실수하기 쉬운 지점입니다. 왼쪽의 Python 3 (ipykernel)을 고르면 PyTorch가 설치되지 않은 다른 환경으로 실행되어 ModuleNotFoundError: No module named 'torch' 에러가 납니다. 반드시 Python (torch) 를 선택하세요.

노트북을 만든 뒤에도 오른쪽 위에 현재 커널 이름이 표시됩니다. 항상 Python (torch) 인지 확인하세요.

5-4. 확인 1 — 노트북 안에서 GPU 보기

새 노트북의 첫 번째 칸(셀)에 아래를 입력하고 Shift + Enter 로 실행합니다.

!nvidia-smi

노트북에서 nvidia-smi

▲ 명령 앞의 느낌표(!) 는 "이 줄은 파이썬 코드가 아니라 터미널 명령어"라는 뜻입니다. 터미널에서 본 것과 같은 표가 나오면 정상입니다.

5-5. 확인 2 — PyTorch 버전 보기

다음 셀에 입력하고 실행합니다.

import torch
torch.__version__

torch 버전 확인

✅ 이렇게 나오면 정상

'2.13.0+cu126'

+cu126 이 붙어 있는지 반드시 확인하세요.

  • 2.13.0+cu126 → ✅ CUDA 12.6용 GPU 버전 (정상)
  • 2.13.0+cpu → ❌ CPU 전용 버전 (GPU를 못 씁니다)

+cpu가 나왔다면 4-9로 돌아가 --index-url 을 붙여서 다시 설치해야 합니다.

pip3 uninstall torch torchvision
pip3 install torch torchvision --index-url https://download.pytorch.org/whl/cu126

5-6. ⭐ 확인 3 — GPU를 실제로 쓸 수 있는가

가장 중요한 확인입니다. 다음 셀에 아래 코드를 통째로 복사해 넣고 실행하세요.

import torch

print("PyTorch 버전:", torch.__version__)
print("CUDA 사용 가능 여부:", torch.cuda.is_available())

if torch.cuda.is_available():
    print("CUDA 버전:", torch.version.cuda)
    print("GPU 개수:", torch.cuda.device_count())
    print("현재 GPU 이름:", torch.cuda.get_device_name(0))
else:
    print("GPU를 사용할 수 없습니다. (CPU로 동작 중)")

CUDA 사용 가능 확인

✅ 이렇게 나오면 성공입니다 🎉

실행 결과 확대

PyTorch 버전: 2.13.0+cu126
CUDA 사용 가능 여부: True          ← ⭐ 이것이 True 여야 합니다
CUDA 버전: 12.6
GPU 개수: 1
현재 GPU 이름: NVIDIA GeForce RTX 3050

CUDA 사용 가능 여부: True 가 나오면 GPU 환경 구축에 성공한 것입니다.

⚠️ False가 나온다면

확인 순서 확인 내용 해결
1 커널이 Python (torch) 인가? 오른쪽 위 커널 이름 확인 → 아니면 Kernel 메뉴 → Change Kernel
2 torch.__version__+cpu가 붙어 있는가? CPU 버전입니다 → 5-5의 재설치 명령 실행
3 터미널에서 nvidia-smi 가 되는가? 안 되면 → 3장으로 돌아가 드라이버 재설치
4 nvidia-smi의 CUDA Version이 설치한 cu126보다 낮은가? 드라이버가 낡았습니다 → 3장에서 최신 드라이버 설치
5 위를 다 했는데도 안 된다 PC를 재부팅한 뒤 다시 시도

5-7. 확인 4 — GPU로 진짜 계산해 보기

마지막으로 실제 연산이 GPU에서 돌아가는지 확인합니다.

if torch.cuda.is_available():
    device = torch.device("cuda")
    x = torch.rand(3, 3).to(device)
    y = torch.rand(3, 3).to(device)
    z = x @ y      # GPU에서 행렬 곱
    print("연산이 실행된 장치:", z.device)
    print(z)

GPU 행렬곱 테스트

✅ 이렇게 나오면 완벽합니다

연산이 실행된 장치: cuda:0
tensor([[1.4426, 1.4940, 0.6645],
        [0.7029, 0.6607, 0.5556],
        [0.9599, 0.9472, 0.6068]], device='cuda:0')

cuda:0 은 "0번 GPU에서 계산되었다"는 뜻입니다. 텐서 출력 끝에 붙은 device='cuda:0' 도 같은 의미입니다.

🎉 축하합니다! GPU 딥러닝 환경 구축이 모두 끝났습니다.

이제부터 모델과 데이터를 .to(device) 로 GPU에 올려서 학습시키면 CPU보다 수십 배 빠르게 학습할 수 있습니다.



부록 A. 명령어 전체 요약 (복붙용)

처음 한 번만 하는 작업

:: [1] GPU와 드라이버 확인
nvidia-smi

:: [2] 가상환경 만들기 (python 버전은 상황에 맞게)
conda create -n torch python==3.12.13

:: [3] 환경 켜기
conda activate torch

:: [4] 필수 패키지 설치
conda install ipykernel
conda install jupyterlab

:: [5] PyTorch 설치 - cu126 부분은 pytorch.org에서 생성한 값으로 바꾸세요
pip3 install torch torchvision --index-url https://download.pytorch.org/whl/cu126

:: [6] JupyterLab 커널로 등록
python -m ipykernel install --user --name torch --display-name "Python (torch)"

매번 작업을 시작할 때

conda activate torch
d:
cd torch
jupyter lab

확인용 명령어

목적 명령어
GPU/드라이버 상태 nvidia-smi
nvidia-smi 위치 찾기 where nvidia-smi (cmd) / Get-Command nvidia-smi (PowerShell)
conda 버전 conda --version
가상환경 목록 conda env list
환경 안의 패키지 목록 conda list
파이썬 / pip 버전 python --version / pip --version
등록된 커널 목록 jupyter kernelspec list
conda 설정 확인 conda config --show-sources

정리/삭제용 명령어

목적 명령어
커널 등록 해제 jupyter kernelspec uninstall torch
가상환경 통째로 삭제 conda env remove -n torch
가상환경 끄기 conda deactivate
프롬프트에 환경명 표시 켜기 conda config --set changeps1 True
터미널 시작 시 base 자동활성화 끄기 conda config --set auto_activate_base False

파이썬 확인 코드

import torch

print("PyTorch 버전:", torch.__version__)
print("CUDA 사용 가능 여부:", torch.cuda.is_available())

if torch.cuda.is_available():
    print("CUDA 버전:", torch.version.cuda)
    print("GPU 개수:", torch.cuda.device_count())
    print("현재 GPU 이름:", torch.cuda.get_device_name(0))
else:
    print("GPU를 사용할 수 없습니다. (CPU로 동작 중)")

부록 B. 자주 나는 에러와 해결

증상 원인 해결
'nvidia-smi'은(는) 내부 또는 외부 명령이 아닙니다 드라이버 미설치 또는 PATH 문제 3장 드라이버 설치 → 재부팅 → 터미널 새로 열기
'conda'은(는) 내부 또는 외부 명령이 아닙니다 Miniconda 설치 후 터미널을 새로 열지 않음 터미널을 완전히 닫고 새로 열기
프롬프트에 (torch)가 안 붙음 changeps1 설정이 꺼짐 conda config --set changeps1 True
python --version 실행 시 Microsoft Store가 열림 윈도우 앱 실행 별칭이 가로챔 설정 → 앱 → 고급 앱 설정 → 앱 실행 별칭에서 python.exe, python3.exe 끄기
pip 경로에 envs\torch가 없음 가상환경이 활성화되지 않음 conda activate torch 재실행
ModuleNotFoundError: No module named 'torch' JupyterLab에서 잘못된 커널 선택 커널을 Python (torch) 로 변경 (Kernel → Change Kernel)
torch.cuda.is_available()False ① CPU 버전 설치 ② 드라이버 구버전 ③ 커널 오선택 5-6의 표 순서대로 확인
torch.__version__+cpu로 끝남 --index-url 없이 설치함 제거 후 --index-url 붙여 재설치
CUDA out of memory GPU 메모리 부족 배치 크기(batch size)를 줄이거나, nvidia-smi로 다른 프로그램의 GPU 점유 확인
복사한 명령어가 실행되지 않음 하이픈이 긴 대시()로 바뀜 이 문서의 코드 블록에서 복사하세요 (짧은 하이픈 -)
conda install 이 계속 멈춤 네트워크/채널 문제 Ctrl+C 로 중단 후 재시도, 또는 pip install 로 대체

부록 C. 용어집

용어 설명
GPU Graphics Processing Unit. 원래 화면 출력용이지만 수천 개의 코어로 병렬 연산을 잘해서 딥러닝에 쓰입니다.
드라이버(Driver) 운영체제와 하드웨어가 서로 대화하게 해 주는 소프트웨어. NVIDIA GPU를 쓰려면 반드시 필요합니다.
CUDA GPU를 그래픽이 아닌 일반 연산에 쓸 수 있게 해 주는 NVIDIA의 병렬 컴퓨팅 플랫폼.
cuDNN CUDA 위에서 동작하는 딥러닝 전용 최적화 라이브러리.
nvidia-smi NVIDIA GPU의 상태를 확인하는 명령줄 도구. 드라이버 설치 시 함께 설치됩니다.
VRAM GPU가 가진 전용 메모리. 학습할 수 있는 모델/배치 크기를 결정합니다.
PATH (환경 변수) 윈도우가 명령어를 입력받았을 때 프로그램을 찾아 뒤지는 폴더 목록.
Conda 파이썬 가상환경과 패키지를 관리하는 도구.
Miniconda Conda의 최소 설치 버전. Anaconda보다 가볍습니다.
가상환경 프로젝트마다 독립된 파이썬 환경. 라이브러리 충돌을 막아 줍니다.
base 환경 Conda를 설치하면 기본으로 생기는 환경. 여기에 직접 설치하는 것은 권장하지 않습니다.
pip 파이썬 패키지 설치 도구.
PyTorch (torch) 딥러닝 프레임워크. GPU 연산을 지원합니다.
+cu126 패키지 버전 뒤에 붙는 표시. "CUDA 12.6용으로 빌드됨"이라는 뜻입니다.
JupyterLab 브라우저에서 코드를 작성·실행하는 개발 도구.
커널(Kernel) JupyterLab이 코드를 실제로 실행할 때 사용하는 파이썬 환경.
ipykernel 가상환경을 Jupyter 커널로 등록할 수 있게 해 주는 패키지.
Studio Driver 딥러닝/영상 작업의 안정성에 초점을 맞춘 NVIDIA 드라이버.
Game Ready Driver 최신 게임 최적화에 초점을 맞춘 NVIDIA 드라이버.
DCH 드라이버 최신 윈도우 드라이버 배포 방식. nvidia-smi.exeSystem32에 설치합니다.
텐서(Tensor) 다차원 배열. PyTorch에서 데이터를 담는 기본 단위입니다.
cuda:0 0번 GPU를 가리키는 이름. 연산이 GPU에서 실행되었음을 뜻합니다.

원본 자료와의 대응

이 문서는 00_GPU_Wins_환경설정_FULL_v2.pptx(총 66장)를 기반으로 작성했습니다.

원본 챕터 슬라이드 이 문서
01 GPU 설치 상태 확인 3–12 1장
02 CUDA 13–20 2장 (+ 17–20은 1장의 문제 해결로 이동)
03 공식 드라이버 설치 21–37 3장 (+ 32–37은 1장의 문제 해결로 이동)
04 Conda 환경 38–57 4장
05 학습 환경 설정/확인 58–65 5장

표지·간지 슬라이드(1, 2, 3, 13, 21, 38, 58, 66)는 내용이 없어 문서에 포함하지 않았습니다.

원본에서 바로잡은 부분

위치 원본 이 문서
슬라이드 17 제목 nvida-smi nvidia-smi
슬라이드 44 conda config –set ... (긴 대시) conda config --set ... (짧은 하이픈 2개)
슬라이드 44 auto_activate_base Talse auto_activate_base False
슬라이드 51 제목 pip install jupyterlab (화면은 conda install) conda install jupyterlab

About

환경설정

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors