Overzicht met affiliate-links. Wij ontvangen commissie als je via ons doorklikt. Lees hoe

AMD Instinct MI325X

AMD GPU: specificaties, vergelijken en alternatieven.

De AMD Instinct MI325X is een CDNA 3-accelerator voor AI-training, inferentie en HPC, met nadruk op geheugen. Volgens AMD heeft hij 256 GB HBM3E, 6 TB/s geheugenbandbreedte en een bordvermogen van 1.000 W. De OAM-module is volgens de pagina op 10 oktober 2024 gelanceerd. Dit is een nieuwere variant binnen de MI300-serie.

Illustratie van AMD Instinct MI325X56punten
Illustratie, geen productfoto

AMD

256 GB
Geheugen
HBM3E
Geheugentype
6 TB/s
Geheugenbandbreedte
1.000 W
Vermogen (board power of TDP)

De actuele prijs en beschikbaarheid zie je bij de partner zodra daar een link voor is ingesteld.

Hoe komen de punten tot stand?

Clouwino-punten zijn een rekenkundige samenvatting van de specificaties die de fabrikant noemt, op een schaal van 0 tot 100. Het is geen benchmark en geen oordeel over kwaliteit of geschiktheid: een product met minder punten kan voor jouw situatie juist beter passen. Producten worden vergeleken met andere producten van dezelfde soort. Per eigenschap tellen we mee hoe ver een product tussen de laagste en hoogste waarde in de groep zit:

  • FP32-rekenkracht (bij: voor consumenten), weegt zwaar
  • Geheugen (bij: voor consumenten), weegt zwaar
  • Geheugenbandbreedte (bij: voor consumenten), weegt zwaar
  • Rekeneenheden (bij: voor consumenten), weegt licht
  • Boostklok (bij: voor consumenten), weegt licht
  • Geheugen (bij: professioneel en datacenter), weegt gemiddeld
  • Geheugenbandbreedte (bij: professioneel en datacenter), weegt gemiddeld
  • FP16/BF16 (bij: professioneel en datacenter), weegt zwaar
  • FP8 (bij: professioneel en datacenter), weegt gemiddeld
  • FP64 (bij: professioneel en datacenter), weegt gemiddeld

Ontbreken er te veel gegevens, dan tonen we geen punten. Punten zijn relatief: komt er een nieuw product bij, dan kunnen ze verschuiven. Lees meer bij hoe wij vergelijken.

Specificaties van AMD Instinct MI325X

Alle specificaties die de fabrikant noemt, per onderdeel. Wil je een ander product ernaast zien? Kies er hieronder een.

Specificaties volgens de fabrikant
SpecificatieAMD Instinct MI325X
Overzicht
Clouwino-punten56 punten
Algemeen
ArchitectuurCDNA 3
ProductieprocesTSMC 5nm | 6nm FinFET
VormOAM
Lancering2024-10
Rekenkracht
FP32-rekenkracht163,4 TFLOPS
FP6481,7 TFLOPS
FP16/BF161.300 TFLOPS
FP82.610 TFLOPS
FP4Niet vermeld door de fabrikant
Toelichting bij prestatiesZelfde rekencijfers als MI300X. FP16/BF16: 1,3 PFLOPS dense (2,61 PFLOPS met structured sparsity). FP8: 2,61 PFLOPS dense (5,22 PFLOPS sparse). FP64 81,7 vector (matrix 163,4), FP32 163,4 TFLOPS. PFLOPS omgezet naar TFLOPS (alleen eenheid). FP4 niet vermeld.
Geheugen
Geheugen256 GB
GeheugentypeHBM3E
Geheugenbandbreedte6 TB/s
Vermogen en aansluitingen
Vermogen (board power of TDP)1.000 W
Verbinding tussen GPU's8x Infinity Fabric, 128 GB/s per link; PCIe 5.0 x16
Meerdere instantiesNiet vermeld door de fabrikant

Let op: Cijfers per GPU. TBP 1000 W peak. AMD-voetnoot: geheugencijfers 'based on current specifications and/or estimation'; werkelijke resultaten kunnen afwijken. Partitionering niet beschreven (alleen SR-IOV). Lanceerdatum 10-10-2024 volgens de pagina.

Alternatieven voor AMD Instinct MI325X

Producten met vergelijkbare specificaties uit hetzelfde overzicht. Dit is geen ranglijst en geen koopadvies.

Wat de MI325X voor de MI300-serie betekent

De MI325X deelt de CDNA 3-architectuur en de TSMC 5nm en 6nm FinFET-technologie met de MI300X, maar heeft meer en nieuwer geheugen: 256 GB HBM3E in plaats van 192 GB HBM3. De rekencijfers zijn volgens de data gelijk gebleven.

Net als de MI300X is hij een OAM-module met 8 Infinity Fabric-links van 128 GB/s per link en een PCIe 5.0 x16-aansluiting. Partitionering wordt op de pagina alleen als SR-IOV beschreven. AMD vermeldt dat de geheugencijfers zijn gebaseerd op huidige specificaties en of schattingen, en dat werkelijke resultaten kunnen afwijken.

Wie de MI300X kent, ziet dus vooral een geheugenupgrade binnen dezelfde architectuur.

Houd er rekening mee dat de MI325X vooral interessant is wanneer geheugenruimte de beperkende factor is in je opstelling. Omdat de rekencijfers gelijk zijn aan die van de MI300X, draait een keuze tussen beide vooral om geheugenomvang, bandbreedte en het beschikbare vermogen in je serverruimte.

Cijfers van de MI325X in gewone taal

Het grote geheugen laat grotere modellen of langere contexten op één accelerator toe, en 6 TB/s bandbreedte voert de data aan. Zie wat is VRAM voor de basis. Het bordvermogen is 1.000 W als piekwaarde.

De rekencijfers zijn per accelerator. FP16 en BF16 zijn 1,3 PFLOPS dense en 2,61 PFLOPS met structured sparsity. FP8 is 2,61 PFLOPS dense en 5,22 PFLOPS met sparsity. FP64 is 81,7 TFLOPS voor vector (163,4 voor matrix) en FP32 is 163,4 TFLOPS. FP4 wordt niet vermeld door AMD.

Dat verschil in geheugenomvang kan bepalen of een model op één accelerator past of over meerdere moet worden verdeeld.

Kiezen voor een MI325X-systeem

Met 1.000 W per module draait koeling de hoofdrol. Een server met meerdere OAM-modules vraagt om voldoende voeding en luchtstroom of vloeistofkoeling, afhankelijk van wat de leverancier aanbiedt.

  • Kijk of het serverplatform OAM-modules van dit vermogen ondersteunt.
  • Lees de checklist voor GPU-instances bij cloudgebruik.
  • Vergelijk alleen cijfers met dezelfde eenheden en hetzelfde label.

Bij het vergelijken met andere accelerators is het verstandig om alleen dezelfde eenheden en dezelfde labels te gebruiken.

De actuele prijs en beschikbaarheid zie je bij de partner via de knop op de pagina.

Veelgestelde vragen

Wat is het geheugen van de AMD Instinct MI325X?

De MI325X heeft 256 GB HBM3E met een bandbreedte van 6 TB/s. AMD merkt op dat deze geheugencijfers zijn gebaseerd op huidige specificaties en of schattingen en kunnen afwijken.

Zijn de rekencijfers van de MI325X anders dan die van de MI300X?

Volgens de data zijn de rekencijfers gelijk: FP16 en BF16 1,3 PFLOPS dense, FP8 2,61 PFLOPS dense. Het verschil zit vooral in het geheugen, het type en het bordvermogen van 1.000 W.

Wanneer is de MI325X gelanceerd?

Volgens de AMD-pagina is de lanceerdatum 10 oktober 2024. De MI325X is een OAM-accelerator met een bordvermogen van 1.000 W als piekwaarde. De accelerator is bedoeld voor AI-training, inferentie en HPC in servers.

Vergelijk AMD Instinct MI325X met een ander product

Laatst bijgewerkt op

Vraag het ons
Vergelijken Neem contact op

Weet je het zeker?