Návod na inštaláciu CUDA vo Windowse

  • Kompatibilita: Podporované verzie systému Windows, vhodné ovládače a správne nakonfigurované modely WDDM/TCC.
  • Flexibilná inštalácia: Grafická alebo tichá sada nástrojov, Conda a Wheels s overením pomocou vzoriek.
  • Hybridné prostredia: Podpora WSL s minimálnym jadrom, Dockerom a frameworkami AI v rámci Linuxu na Windowse.
Daniel Terrasa

8 minút

CUDA vo Windowse

Inštalácia CUDA na Windows Nemusí to byť problém, ak sa budete riadiť jasnou cestou overenou oficiálnymi príručkami. V tejto praktickej a technickej príručke sa budeme venovať všetkému potrebnému na doladenie sady nástrojov, ovládačov a overovacích nástrojov, a to v natívnom systéme Windows aj vo WSL. Cieľom je, aby ste nakoniec dosiahli funkčnú a otestovanú inštaláciu., pripravený zrýchliť vaše pracovné postupy s grafickým procesorom.

Okrem klasických krokov sa budeme venovať aj kompatibilite s Visual Studiom, tichej inštalácii, balíkom Conda a NVIDIA Wheels, overeniu pomocou príkladov CUDA, zvláštnostiam WSL a kľúčovým poznámkam k vydaniu (ako napríklad odstránenie ovládača z inštalátora v CUDA 13). Taktiež uvidíte, ako diagnostikovať bežné problémy. (vrátane reálneho prípadu s Lenovo Ideapad a ovládačmi 526.56) a špecifické požiadavky pre konkrétne scenáre, ako napríklad Model Builder s CUDA 10.1 a cuDNN 7.6.4.

Čo je CUDA?

CUDA je platforma a model paralelného programovania od spoločnosti NVIDIA, ktorá umožňuje akceleráciu výpočtovo náročných aplikácií na GPU. S CUDA C/C++ a jeho rozšíreniami Môžete sa sústrediť na paralelizáciu algoritmu, zatiaľ čo behové prostredie CUDA riadi vykonávanie a pamäť medzi CPU a GPU. Rozdelením sériovej (CPU) a paralelnej (GPU) práce, Výkon je možné škálovať využitím tisícok vlákien a zdieľanú pamäť na čipe.

Táto príručka sa zameriava na to, ako doladiť prostredie vo Windowse (natívne aj WSL), nainštalovať sadu nástrojov, skompilovať príklady a overiť, či systém správne detekuje grafickú kartu. Overenie pomocou vzoriek ako deviceQuery a bandwidthTest Je to kritická časť, ktorá sa často prehliada a ktorej sa tu výslovne venujeme.

CUDA

Systémové požiadavky a podporované verzie systému Windows

Na používanie CUDA potrebujete kompatibilnú grafickú kartu NVIDIA a podporovaný operačný systém Windows. Medzi podporované verzie operačného systému patriaWindows 11 24H2, 23H2 a 22H2-SV2; Windows 10 22H2; Windows Server 2022 a Windows Server 2025. V Správcovi zariadení skontrolujte, či sa vaša karta zobrazuje v časti Grafické adaptéry a overte jej kompatibilitu v oficiálnom zozname grafických kariet s podporou CUDA (stránka NVIDIA).

Na úrovni kompilátora sada nástrojov podporuje MSVC 193x v programe Visual Studio 2022 17.x (C++11/14/17/20) a MSVC 192x v programe Visual Studio 2019 16.x (C++11/14/17). Podpora pre Visual Studio 2015 bola ukončená vo verzii 11.1.Pre VS 2017 bola táto funkcia zastaraná vo verzii 12.5 a odstránená vo verzii 13.0. Upozorňujeme, že 32-bitová kompilácia bola odstránená od verzie CUDA 12.0 (natívna a krížová kompilácia); ak potrebujete 32-bitovú verziu, budete musieť použiť staršie sady nástrojov.

Hoci ovládač NVIDIA bude naďalej umožňovať spúšťanie 32-bitových binárnych súborov na grafických procesoroch GeForce až po architektúru Ada, Ada bude posledná s takouto podporou.Hopper už nepodporuje 32-bitové aplikácie. Toto je kľúčové, ak udržiavate starší softvér v produkčnom prostredí a potrebujete plánovať aktualizácie.

V systéme Windows 10 a novších verziách môže ovládač NVIDIA fungovať v dvoch modeloch: WDDM (pre zobrazovacie zariadenia) a TCC (Tesla Compute Cluster) pre GPU bez video výstupu, ako napríklad Tesla alebo niektoré modely Titan. S nvidia-smi Môžete skontrolovať aktuálny režim a, ak je podporovaný, prepínať medzi nimi. Na stolových počítačoch s hernými grafickými kartami bude WDDM normou; na pracovných staniciach s výpočtovými kartami, TCC je zvyčajne predvolene povolené..

Inštalácia sady nástrojov v systéme Windows: krok za krokom

  1. Overte, či máte grafickú kartu s podporou CUDA a podporovanú verziu systému Windows.V Správcovi zariadení (Grafické adaptéry) môžete vidieť výrobcu a model.
  2. Stiahnite si NVIDIA CUDA Toolkit z oficiálnej stránky na stiahnutie. Máte dva formáty: Sieťový inštalátor (stiahne iba to, čo je vybrané počas inštalácie) a Úplný inštalátor (obsahuje všetky komponenty, užitočné offline alebo pre podnikové nasadenie).
  3. Spustite inštalátor a postupujte podľa grafického sprievodcu. nainštalovať Toolkit, príklady a integráciu s Visual Studiom, ak je to potrebné.
  4. V automatizovaných inštaláciách môžete použiť tichý režim s -sa pridajte parametre na výber konkrétnych podbalíkov. Príznak -n V prípade potreby sa vyhnite automatickému reštartu.
  5. Dokončiť a reštartovať ak o to požiadate.
  6. Otvorte príkazový riadok a spustite ho nvcc -V zobraziť nainštalovanú verziu kompilátora CUDA.

Inštalácia CUDA na Windows

Tichá inštalácia a podbalíky Toolkit

Inštalačný program umožňuje nasadiť špecifické komponenty sady nástrojov, čo je užitočné v spravovaných prostrediach alebo prostrediach CI. Niektoré reprezentatívne subpakety v CUDA 13.0 (predvolená cesta C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0) sú:

  • cublas_13.0 / cublas_dev_13.0: behové knižnice cuBLAS.
  • crt_13.0kompilátor pre CUDA aplikácie.
  • ctadvisor_13.0Analýza stopy NVCC/NVRTC na skrátenie času kompilácie.
  • cuda_profiler_api_13.0 y cuadrt_13.0CUDA profiler a behové API.
  • cufft_13.0 / cufft_dev_13.0cuFFT.
  • cuobjdump_13.0 y nvdisasm_13.0nástroje na kontrolu kubíkov.
  • cupti_13.0rozhranie nástrojov na profilovanie.
  • curand_13.0 / curand_dev_13.0: ríbezľa.
  • cusolver_13.0 / cusolver_dev_13.0 y cusparse_13.0 / cusparse_dev_13.0knižnice lineárnej algebry.
  • cuxxfilt_13.0filter demangler cu++.
  • dokumentácia_13.0HTML a PDF príručky (programovanie, osvedčené postupy atď.).
  • nsight_compute_13.0, nsight_systems_13.0 y nsight_vse_13.0Nástroje Nsight.
  • npp_13.0 / npp_dev_13.0JE.
  • nvcc_13.0Kompilátor CUDA.
  • nvfatbin_13.0, nvjitlink_13.0, nvtx_13.0, nvvm_13.0, nvptxcompiler_13.0nástroje/knižnice a stopy v reťazci nástrojov.
  • nvjpeg_13.0 / nvjpeg_dev_13.0: nvJPEG.
  • nvml_dev_13.0Hlavičky a knižnice NVML.
  • nvprune_13.0: prerezávanie objektov/statiky podľa cieľových zariadení.
  • kalkulačka_obsadenosti_13.0tabuľka obsadenosti.
  • opencl_13.0Knižnica OpenCL.
  • sanitizer_13.0API rozhrania Compute Sanitizer.
  • thrust_13.0 y integrácia_vizuálneho_štúdia_13.0Ťah a integrácia VS.

Ak potrebujete pred inštaláciou skontrolovať obsah, môžete extrahovať kompletný inštalátor pomocou nástroja kompatibilného s LZMA (napr. 7-Zip). Súbory Toolkit sa nachádzajú v priečinku CUDAToolkit Po rozbalení súborov nájdete vo vnútri súbory .dll a .nvi, ktoré môžete ignorovať, ak si chcete iba prezrieť stromovú štruktúru inštalácie. Odinštalovanie sa vykonáva cez Ovládací panel > Programy a súčasti.

Inštalácia s pipom (NVIDIA disky)

Pre prostredia zamerané na Python ponúka NVIDIA Wheels, ktoré inštalujú runtime a knižnice CUDA prostredníctvom protokolu pip. Tieto balíky sú určené na použitie za behu. a nezahŕňajú vývojové nástroje (v prípade potreby ich môžete nainštalovať samostatne). Poznámka: prostredie CUDA je spravované v prostredí pip, takže ak chcete používať CUDA mimo neho, budete musieť upraviť hostiteľské prostredie.

Najprv nainštalujte nvidia-pyindex aby pip mohol rozpoznať moduly z repozitára NVIDIA NGC. V prípade potreby aktualizovať pip a setuptools aby ste sa vyhli následným chybám. Môžete tiež pridať riadok nvidia-pyindex vám requirements.txt ak pracujete s touto konvenciou.

Overenie inštalácie: vzorky a testy

Skontrolujte verziu kompilátora pomocou nvcc -V z CMD. Naklonujte vzorky CUDA z github.com/nvidia/cuda-samplesSkompilujte a spustite ich podľa pokynov v repozitári. Dôrazne sa odporúča zostaviť a spustiť deviceQuery aby sa potvrdilo, že grafická karta bola detekovaná a konfigurácia je správna.

Test bandwidthTest overuje výkon a komunikáciu medzi hostiteľským zariadením. V oboch prípadoch je dôležité, aby sa zariadenie objavilo.Zodpovedá vášmu hardvéru a prejde testami. Ak deviceQuery Grafická karta nebola zistená, skontrolujte inštaláciu ovládača a či je zariadenie v systéme funkčné.

CUDA a WSL vo Windowse 11 a Windowse 10 21H2+

Systém Windows 11 a novšie verzie systému Windows 10 (21H2 a novšie) podporujú spúšťanie nástrojov strojového učenia s akceleráciou GPU pomocou WSL. Budete vedieť používať TensorFlow, PyTorch, Docker a NVIDIA Container Toolkit. v rámci distribúcie Linuxu založenej na glibc (Ubuntu, Debian atď.).

Kľúčové kroky: Nainštalujte ovládač s podporou NVIDIA CUDA v WSL, povoľte WSL a pridajte distribúciu typu Ubuntu/Debian. Uistite sa, že máte najnovšiu verziu jadra WSL. (minimálne 5.10.43.3). Môžete to overiť v PowerShelle pomocou: wsl cat /proc/versionĎalej postupujte podľa používateľskej príručky NVIDIA CUDA v WSL, aby ste pracovali s NVIDIA Docker alebo nainštalujte PyTorch/TensorFlow v rámci distribúcie.

Kontroly a diagnostika v systéme Windows

Ak chcete zistiť, ktorú grafickú kartu máte: v časti Nastavenia > Systém > Displej > Rozšírené nastavenia nájdete značku a model v časti „Informácie o displeji“. V Správcovi úloh, na karte VýkonVyberte GPU pre zobrazenie využitia, modelu a pamäte. Ak sa nezobrazí, skontrolujte Správcu zariadení > Grafické adaptéry a nainštalujte príslušný ovládač pre kartu.

Ak chcete zobraziť verziu CUDA „hlásenú“ vaším ovládačom, spustite nvidia-smi. Zistenie verzie nainštalovaného kompilátora Toolkit, používa nvcc --version. Majte to na pamäti nvidia-smi Zobrazuje maximálnu verziu CUDA „API“ podporovanú ovládačom, nie tú z Toolkitu, ktorý máte na disku.

Využitie cloudu: príklad inštancií s GPU

Ak potrebujete výkon na požiadanie, poskytovatelia cloudových služieb ponúkajú inštancie s grafickými kartami ako NVIDIA A100, RTX 4090 alebo A6000. Tento prístup umožňuje platbu podľa spotreby, takmer okamžité nasadenie a hotové šablóny. pre populárne frameworky (PyTorch, TensorFlow). Pre veľké pracovné zaťaženia alebo dočasné výkyvy je to efektívna alternatíva bez investícií do proprietárneho hardvéru a s podporou najnovších verzií CUDA.

Právne upozornenia a ochranné známky

Dokumentácia a softvér spoločnosti NVIDIA sú poskytované „tak, ako sú“, so všetkými vyhradenými právami a bez akýchkoľvek implicitných záruk predajnosti alebo vhodnosti na konkrétny účel. NVIDIA si vyhradzuje právo zmeniť špecifikácie a dokumenty bez predchádzajúceho upozornenia.Vždy si overte najnovšie informácie a rešpektujte predajné a licenčné podmienky tretích strán. OpenCL je ochranná známka spoločnosti Apple Inc. licencovaná spoločnosti Khronos; NVIDIA a jej logo sú registrované ochranné známky v USA a ďalších krajinách.

Vďaka všetkému vyššie uvedenému máte teraz všetko potrebné na inštaláciu, konfiguráciu a overenie CUDA v systéme Windows (a tiež v systéme WSL alebo Linux, keď to potrebujete). Od požiadaviek a ovládačov až po integráciu s Visual Studio a overenie pomocou vzoriekKľúčom je zosúladiť verziu ovládača, sadu nástrojov a prostredie a spoliehať sa na nástroje ako napríklad nvidia-smi, nvcc a vzorky na potvrdenie, že celý reťazec funguje podľa očakávaní.