AMD Instinct MI325X
AMD GPU: specificaties, vergelijken en alternatieven.
De AMD Instinct MI325X is een CDNA 3-accelerator voor AI-training, inferentie en HPC, met nadruk op geheugen. Volgens AMD heeft hij 256 GB HBM3E, 6 TB/s geheugenbandbreedte en een bordvermogen van 1.000 W. De OAM-module is volgens de pagina op 10 oktober 2024 gelanceerd. Dit is een nieuwere variant binnen de MI300-serie.
AMD
- 256 GB
- Geheugen
- HBM3E
- Geheugentype
- 6 TB/s
- Geheugenbandbreedte
- 1.000 W
- Vermogen (board power of TDP)
De actuele prijs en beschikbaarheid zie je bij de partner zodra daar een link voor is ingesteld.
Hoe komen de punten tot stand?
Clouwino-punten zijn een rekenkundige samenvatting van de specificaties die de fabrikant noemt, op een schaal van 0 tot 100. Het is geen benchmark en geen oordeel over kwaliteit of geschiktheid: een product met minder punten kan voor jouw situatie juist beter passen. Producten worden vergeleken met andere producten van dezelfde soort. Per eigenschap tellen we mee hoe ver een product tussen de laagste en hoogste waarde in de groep zit:
- FP32-rekenkracht (bij: voor consumenten), weegt zwaar
- Geheugen (bij: voor consumenten), weegt zwaar
- Geheugenbandbreedte (bij: voor consumenten), weegt zwaar
- Rekeneenheden (bij: voor consumenten), weegt licht
- Boostklok (bij: voor consumenten), weegt licht
- Geheugen (bij: professioneel en datacenter), weegt gemiddeld
- Geheugenbandbreedte (bij: professioneel en datacenter), weegt gemiddeld
- FP16/BF16 (bij: professioneel en datacenter), weegt zwaar
- FP8 (bij: professioneel en datacenter), weegt gemiddeld
- FP64 (bij: professioneel en datacenter), weegt gemiddeld
Ontbreken er te veel gegevens, dan tonen we geen punten. Punten zijn relatief: komt er een nieuw product bij, dan kunnen ze verschuiven. Lees meer bij hoe wij vergelijken.
Specificaties van AMD Instinct MI325X
Alle specificaties die de fabrikant noemt, per onderdeel. Wil je een ander product ernaast zien? Kies er hieronder een.
| Specificatie | AMD Instinct MI325X |
|---|---|
| Overzicht | |
| Clouwino-punten | 56 punten |
| Algemeen | |
| Architectuur | CDNA 3 |
| Productieproces | TSMC 5nm | 6nm FinFET |
| Vorm | OAM |
| Lancering | 2024-10 |
| Rekenkracht | |
| FP32-rekenkracht | 163,4 TFLOPS |
| FP64 | 81,7 TFLOPS |
| FP16/BF16 | 1.300 TFLOPS |
| FP8 | 2.610 TFLOPS |
| FP4 | Niet vermeld door de fabrikant |
| Toelichting bij prestaties | Zelfde rekencijfers als MI300X. FP16/BF16: 1,3 PFLOPS dense (2,61 PFLOPS met structured sparsity). FP8: 2,61 PFLOPS dense (5,22 PFLOPS sparse). FP64 81,7 vector (matrix 163,4), FP32 163,4 TFLOPS. PFLOPS omgezet naar TFLOPS (alleen eenheid). FP4 niet vermeld. |
| Geheugen | |
| Geheugen | 256 GB |
| Geheugentype | HBM3E |
| Geheugenbandbreedte | 6 TB/s |
| Vermogen en aansluitingen | |
| Vermogen (board power of TDP) | 1.000 W |
| Verbinding tussen GPU's | 8x Infinity Fabric, 128 GB/s per link; PCIe 5.0 x16 |
| Meerdere instanties | Niet vermeld door de fabrikant |
Let op: Cijfers per GPU. TBP 1000 W peak. AMD-voetnoot: geheugencijfers 'based on current specifications and/or estimation'; werkelijke resultaten kunnen afwijken. Partitionering niet beschreven (alleen SR-IOV). Lanceerdatum 10-10-2024 volgens de pagina.
Alternatieven voor AMD Instinct MI325X
Producten met vergelijkbare specificaties uit hetzelfde overzicht. Dit is geen ranglijst en geen koopadvies.
- AMD Instinct MI300X192 GB · HBM3 · 5,3 TB/sVergelijk met AMD Instinct MI325X →
- AMD Instinct MI355X288 GB · HBM3E · 8 TB/sVergelijk met AMD Instinct MI325X →
- NVIDIA H200 SXM141 GB · HBM3e · 4,8 TB/sVergelijk met AMD Instinct MI325X →
- NVIDIA H100 SXM80 GB · HBM3 · 3,35 TB/sVergelijk met AMD Instinct MI325X →
- AMD Instinct MI250X128 GB · HBM2e · 3,2 TB/sVergelijk met AMD Instinct MI325X →
- NVIDIA Rubin (per GPU)288 GB · HBM4 · 22 TB/sVergelijk met AMD Instinct MI325X →
Wat de MI325X voor de MI300-serie betekent
De MI325X deelt de CDNA 3-architectuur en de TSMC 5nm en 6nm FinFET-technologie met de MI300X, maar heeft meer en nieuwer geheugen: 256 GB HBM3E in plaats van 192 GB HBM3. De rekencijfers zijn volgens de data gelijk gebleven.
Net als de MI300X is hij een OAM-module met 8 Infinity Fabric-links van 128 GB/s per link en een PCIe 5.0 x16-aansluiting. Partitionering wordt op de pagina alleen als SR-IOV beschreven. AMD vermeldt dat de geheugencijfers zijn gebaseerd op huidige specificaties en of schattingen, en dat werkelijke resultaten kunnen afwijken.
Wie de MI300X kent, ziet dus vooral een geheugenupgrade binnen dezelfde architectuur.
Houd er rekening mee dat de MI325X vooral interessant is wanneer geheugenruimte de beperkende factor is in je opstelling. Omdat de rekencijfers gelijk zijn aan die van de MI300X, draait een keuze tussen beide vooral om geheugenomvang, bandbreedte en het beschikbare vermogen in je serverruimte.
Cijfers van de MI325X in gewone taal
Het grote geheugen laat grotere modellen of langere contexten op één accelerator toe, en 6 TB/s bandbreedte voert de data aan. Zie wat is VRAM voor de basis. Het bordvermogen is 1.000 W als piekwaarde.
De rekencijfers zijn per accelerator. FP16 en BF16 zijn 1,3 PFLOPS dense en 2,61 PFLOPS met structured sparsity. FP8 is 2,61 PFLOPS dense en 5,22 PFLOPS met sparsity. FP64 is 81,7 TFLOPS voor vector (163,4 voor matrix) en FP32 is 163,4 TFLOPS. FP4 wordt niet vermeld door AMD.
Dat verschil in geheugenomvang kan bepalen of een model op één accelerator past of over meerdere moet worden verdeeld.
Kiezen voor een MI325X-systeem
Met 1.000 W per module draait koeling de hoofdrol. Een server met meerdere OAM-modules vraagt om voldoende voeding en luchtstroom of vloeistofkoeling, afhankelijk van wat de leverancier aanbiedt.
- Kijk of het serverplatform OAM-modules van dit vermogen ondersteunt.
- Lees de checklist voor GPU-instances bij cloudgebruik.
- Vergelijk alleen cijfers met dezelfde eenheden en hetzelfde label.
Bij het vergelijken met andere accelerators is het verstandig om alleen dezelfde eenheden en dezelfde labels te gebruiken.
De actuele prijs en beschikbaarheid zie je bij de partner via de knop op de pagina.
Veelgestelde vragen
Wat is het geheugen van de AMD Instinct MI325X?
De MI325X heeft 256 GB HBM3E met een bandbreedte van 6 TB/s. AMD merkt op dat deze geheugencijfers zijn gebaseerd op huidige specificaties en of schattingen en kunnen afwijken.
Zijn de rekencijfers van de MI325X anders dan die van de MI300X?
Volgens de data zijn de rekencijfers gelijk: FP16 en BF16 1,3 PFLOPS dense, FP8 2,61 PFLOPS dense. Het verschil zit vooral in het geheugen, het type en het bordvermogen van 1.000 W.
Wanneer is de MI325X gelanceerd?
Volgens de AMD-pagina is de lanceerdatum 10 oktober 2024. De MI325X is een OAM-accelerator met een bordvermogen van 1.000 W als piekwaarde. De accelerator is bedoeld voor AI-training, inferentie en HPC in servers.
Vergelijk AMD Instinct MI325X met een ander product
Laatst bijgewerkt op
