1. september 2020 avslørte NVIDIA sin nye serie med spill-GPUer: RTX 3000-serien, basert på Ampere-arkitekturen. Vi vil diskutere hva som er nytt, den AI-drevne programvaren som følger med den, og alle detaljene som gjør denne generasjonen virkelig fantastisk.
Møt RTX 3000-serie GPUer
NVIDIAs viktigste kunngjøring var de skinnende nye GPUene, alle bygget på en tilpasset produksjonsprosess på 8 nm, og alle bringer inn store hastigheter både i rasterisering og strålesporing opptreden.
I den lave enden av oppstillingen er det RTX 3070 , som kommer inn på $ 499. Det er litt dyrt for det billigste kortet som ble presentert av NVIDIA ved den første kunngjøringen, men det er en absolutt stjele når du lærer at det slår ut eksisterende RTX 2080 Ti, en topp på linjekortet som regelmessig selges for over $ 1400. Imidlertid, etter NVIDIAs kunngjøring, falt tredjepartssalget, med et stort antall av dem som ble panikk solgt på eBay for under $ 600.
Det er ingen solide referanser når det gjelder kunngjøringen, så det er uklart om kortet er det egentlig objektivt “bedre” enn en 2080 Ti, eller hvis NVIDIA vrir markedsføringen litt. Referansene som ble kjørt var på 4K og hadde sannsynligvis RTX på, noe som kan få gapet til å se større ut enn det vil være i rent rasteriserte spill, da den Ampere-baserte 3000-serien vil prestere over dobbelt så bra på strålesporing enn Turing. Men med strålesporing nå som ikke skader ytelsen mye, og støttes i den nyeste generasjonen av konsoller, er det et viktig salgsargument å ha det så raskt som forrige generasjons flaggskip for nesten en tredjedel av prisen.
Det er også uklart om prisen vil holde seg slik. Tredjepartsdesign legger regelmessig til minst $ 50 i prislappen, og med hvor stor etterspørsel sannsynligvis vil være, vil det ikke være overraskende å se at den selger for $ 600 i oktober 2020.
Rett over det er RTX 3080 til $ 699, som skal være dobbelt så raskt som RTX 2080, og komme inn rundt 25-30% raskere enn 3080.
Så, i toppenden, er det nye flaggskipet RTX 3090 , som er komisk enormt. NVIDIA er godt kjent, og refererte til det som en "BFGPU", som selskapet sier står for "Big Ferocious GPU."
NVIDIA viste ikke noen direkte ytelsesberegninger, men selskapet viste at den kjørte 8K spill på 60 FPS, noe som er imponerende. Gitt, NVIDIA bruker nesten helt sikkert DLSS for å treffe det merket, men 8K-spill er 8K-spill.
Selvfølgelig vil det til slutt komme en 3060 og andre varianter av mer budsjettorienterte kort, men de kommer vanligvis inn senere.
For å faktisk kjøle ned ting, trengte NVIDIA et modernisert kjøligere design. 3080 er vurdert til 320 watt, noe som er ganske høyt, så NVIDIA har valgt en dobbel viftedesign, men i stedet for begge viftene vwinf plassert i bunnen, har NVIDIA satt en vifte i den øvre enden der bakplaten vanligvis går. Viften leder luft oppover mot CPU-kjøler og toppen av saken.
Å dømme etter hvor mye ytelse som kan påvirkes av dårlig luftstrøm i et tilfelle, gir dette mening. Imidlertid er kretskortet veldig trangt på grunn av dette, noe som sannsynligvis vil påvirke tredjeparts salgspriser.
DLSS: En programvarefordel
Strålesporing er ikke den eneste fordelen med disse nye kortene. Egentlig er det litt av et hack - RTX 2000-serien og 3000-serien er det ikke at mye bedre til å gjøre faktisk strålesporing, sammenlignet med eldre generasjoner av kort. Strålesporing av en full scene i 3D-programvare som Blender tar vanligvis noen sekunder eller til og med minutter per ramme, så det er uaktuelt å tvinge den på under 10 millisekunder.
Selvfølgelig er det dedikert maskinvare for å kjøre stråleberegninger, kalt RT-kjernene, men stort sett valgte NVIDIA en annen tilnærming. NVIDIA forbedret denoising-algoritmene, som gjør at GPU-ene kan gi et veldig billig enkeltpass som ser forferdelig ut, og på en eller annen måte - gjennom AI-magi - gjør det til noe som en spiller ønsker å se på. Når det kombineres med tradisjonelle rasteriseringsbaserte teknikker, gir det en hyggelig opplevelse forbedret av raytracing-effekter.
For å gjøre dette raskt har NVIDIA imidlertid lagt til AI-spesifikke prosessorkjerner kalt Tensor-kjerner. Disse behandler all matematikk som kreves for å kjøre maskinlæringsmodeller, og gjør det veldig raskt. De er totalt spillveksler for AI i skyserverområdet , da AI brukes mye av mange selskaper.
Utover denoising kalles hovedbruken av Tensor-kjernene for spillere DLSS, eller deep learning super sampling. Det tar en ramme av lav kvalitet og oppskalerer den til full-native kvalitet. Dette betyr egentlig at du kan spille med 1080p nivåer, mens du ser på et 4K-bilde.
Dette hjelper også med strålesporingsytelse ganske mye— referanser fra PCMag viser en RTX 2080 Super running Styre i ultra kvalitet, med alle innstillinger for strålesporing svekket til maks. På 4K sliter den med bare 19 FPS, men med DLSS på blir den mye bedre 54 FPS. DLSS er gratis ytelse for NVIDIA, muliggjort av Tensor-kjernene på Turing og Ampere. Ethvert spill som støtter det og er GPU-begrenset, kan se seriøse hastigheter bare fra programvare alene.
DLSS er ikke ny, og ble kunngjort som en funksjon da RTX 2000-serien ble lansert for to år siden. På den tiden ble det støttet av svært få spill, da det krevde NVIDIA å trene og stille en maskinlæringsmodell for hvert enkelt spill.
Imidlertid har NVIDIA på den tiden skrevet den helt om og kalte den nye versjonen DLSS 2.0. Det er et universal-API, som betyr at enhver utvikler kan implementere det, og det blir allerede hentet av de fleste store utgivelser. I stedet for å jobbe med en ramme, tar den inn bevegelsesvektordata fra forrige ramme, på samme måte som TAA. Resultatet er mye skarpere enn DLSS 1.0, og i noen tilfeller ser det faktisk ut bedre og skarpere enn til og med opprinnelig oppløsning, så det er ikke mye grunn til ikke å slå den på.
Det er en fangst - når DLSS 2.0 bytter scener helt, som i scener, må den gjengi den aller første rammen med 50% kvalitet mens du venter på bevegelsesvektordataene. Dette kan resultere i et lite kvalitetsfall i noen få millisekunder. Men 99% av alt du ser på blir gjengitt riktig, og de fleste legger ikke merke til det i praksis.
I SLEKT: Hva er NVIDIA DLSS, og hvordan vil det gjøre strålesporing raskere?
Ampere Architecture: Built For AI
Ampere er rask. Seriøst raskt, spesielt ved AI-beregninger. RT-kjernen er 1,7 ganger raskere enn Turing, og den nye Tensor-kjernen er 2,7 ganger raskere enn Turing. Kombinasjonen av de to er et ekte generasjonssprang i raytracing-ytelse.
Tidligere i mai, NVIDIA ga ut Ampere A100 GPU , et datasenter GPU designet for å kjøre AI. Med det detaljerte de mye om hva som gjør Ampere så mye raskere. For datasenter og høyytelses databehandlingsbelastninger er Ampere generelt rundt 1,7 ganger raskere enn Turing. For AI-trening er det opptil 6 ganger raskere.
Med Ampere bruker NVIDIA et nytt nummerformat designet for å erstatte industristandarden "Flytpunkt 32", eller FP32, i noen arbeidsbelastninger. Under panseret tar hvert nummer datamaskinen din et forhåndsdefinert antall bits i minnet, enten det er 8 bits, 16 bits, 32, 64 eller enda større. Tall som er større er vanskeligere å behandle, så hvis du kan bruke en mindre størrelse, har du mindre å knuse.
FP32 lagrer et 32-bit desimalnummer, og det bruker 8 bits for rekkevidden til tallet (hvor stort eller lite det kan være), og 23 bits for presisjonen. NVIDIAs påstand er at disse 23 presisjonsbitene ikke er helt nødvendige for mange AI-arbeidsbelastninger, og du kan få lignende resultater og mye bedre ytelse av bare 10 av dem. Å redusere størrelsen ned til bare 19 bits, i stedet for 32, gjør en stor forskjell på mange beregninger.
Dette nye formatet kalles Tensor Float 32, og Tensor Cores i A100 er optimalisert for å håndtere det rare formatet. Dette er, på toppen av matrisen, og antall kjerner øker, hvordan de får den enorme 6x hastigheten i AI-trening.
På toppen av det nye nummerformatet ser Ampere store ytelseshastigheter i spesifikke beregninger, som FP32 og FP64. Disse oversettes ikke direkte til mer FPS for lekmannen, men de er en del av det som gjør det nesten tre ganger raskere generelt i Tensor-operasjoner.
For å øke beregningene enda mer, har de introdusert konseptet med finkornet strukturert sparsity , som er et veldig fancy ord for et ganske enkelt konsept. Nevrale nettverk fungerer med store talllister, kalt vekter, som påvirker den endelige produksjonen. Jo flere tall du skal knuse, jo langsommere blir det.
Imidlertid er ikke alle disse tallene faktisk nyttige. Noen av dem er bokstavelig talt bare null, og kan i utgangspunktet kastes ut, noe som fører til enorme hastigheter når du kan knuse flere tall samtidig. Sparsity komprimerer i hovedsak tallene, noe som krever mindre innsats å gjøre beregninger med. Den nye “Sparse Tensor Core” er bygget for å fungere på komprimerte data.
Til tross for endringene sier NVIDIA at dette ikke skal påvirke nøyaktigheten til trente modeller i det hele tatt.
For Sparse INT8-beregninger, et av de minste tallformatene, er toppytelsen til en enkelt A100 GPU over 1,25 PetaFLOPs, et svimlende høyt tall. Selvfølgelig er det bare når du knuser en bestemt type nummer, men det er likevel imponerende.
