AMD · Scheda tecnica

AMD Radeon Instinct MI350X

AMD Radeon Instinct MI350X: architettura CDNA 4.0, 288 GB di memoria HBM3e, TDP dichiarato di 1000 W. Nessun campione Blender con almeno 10 test compatibili disponibile. Alcuni valori presentano divergenze: consultare le fonti.

Confronta questa GPU

1 divergenze tra le fonti. I valori visualizzati seguono la priorità dell’importer, non una verifica manuale. Vedi i dettagli.

VRAM / memoria

288 GB

TDP dichiarato

1.000 W

FP32 teorici

72,09 TFLOPS

Banda memoria

8.190 GB/s

Identità e architettura

Architettura: CDNA 4.0
Generazione: Radeon Instinct(MIx)
Data riportata dalla fonte: 2025-01-01
Chip: Galaxy
Fonderia: TSMC
Processo produttivo: 3 nm
Transistor: —
Superficie chip: —

Memoria

Capacità memoria: 288 GB
Tipo memoria: HBM3e
Memoria unificata: No
Banda memoria: 8.190 GB/s
Bus memoria: 8.192 bit
Clock memoria: 2.000 MHz

Calcolo e potenza

Unità shader: 16.384
Tensor Core NVIDIA: N.A. (terminologia NVIDIA)
Unità ray tracing (vendor-specific): 0 · AMD
Clock base: 1.000 MHz
Clock boost: 2.200 MHz
FP16 teorici: 576,7 TFLOPS
FP32 teorici: 72,09 TFLOPS
FP64 teorici: 72,09 TFLOPS
TDP dichiarato: 1.000 W
Interfaccia: PCIe 5.0 x16

API e compatibilità

CUDA Compute Capability: N.A. (terminologia NVIDIA)
DirectX: —
Vulkan: —
OpenGL: —
OpenCL: 3.0
Shader model: —

FP32 e FP16 sono capacità teoriche, non prestazioni nei giochi. «—» indica un dato assente. «N.A.» indica terminologia non applicabile, non assenza di accelerazione AI. I Tensor Core sono NVIDIA; le unità ray tracing hanno definizioni specifiche del produttore e non sono equivalenti automaticamente.

Benchmark Blender

Non ci sono test Blender associati con corrispondenza univoca a questa GPU.

Questa GPU può usare ROCm?

ROCm 7.2.3 · Linux · Supporto ufficiale condizionato

Matrice per workload di calcolo su Linux, non per grafica o Windows. Il supporto richiede le distribuzioni, i kernel e i driver previsti dalla documentazione di questa versione.

AMD Instinct MI355X and MI350X GPUs supports all Supported operating systems listed below except RHEL 8.10, Debian 12, Rocky Linux 9, and Oracle Linux 8.

Requisiti AMD e restrizioni complete

Hardware AMD · documentazione ROCm 7.2.3

Specifiche hardware, non una certificazione di supporto software. GiB, MiB e KiB mantengono le unità binarie della fonte; la wavefront può essere 32 oppure 64.

Architettura AMD: CDNA4
LLVM / GFX target: gfx950
Compute Units: 256
Wavefront: 64 threads
Memoria riportata da AMD: 288 GiB
LDS: 160 KiB
Cache L2: 32 MiB
Cache L3: 256 MiB
GFX IP major: 9
GFX IP minor: 5

MLPerf · benchmark AI per configurazione

Configurazioni MLPerf contenenti AMD Radeon Instinct MI350X

Risultati dell’intero sistema, mai divisi per il numero di GPU. Modello, scenario, precisione, categoria, versione e software devono essere compatibili per un confronto: questa non è una classifica della GPU. Risultati inferiti e conteggi incoerenti restano fuori da questa tabella.

12 risultati di configurazione

Sistema e acceleratori	Workload e protocollo	Risultato del sistema	Software e fonte
AS-8126GS-TNMR,vLLM AMD Instinct MI350X 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9575F	gpt-oss-120b Offline · fp4 v6.0 · open · datacenter Accuratezza riportata exact_match: 83.568	64.293,3 Tokens/s	Software stack Non specificato MLCommons · 6.0-0112
AS-8126GS-TNMR,vLLM AMD Instinct MI350X 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9575F	gpt-oss-120b Server · fp4 v6.0 · open · datacenter Accuratezza riportata exact_match: 83.001	58.373,3 Tokens/s	Software stack Non specificato MLCommons · 6.0-0112
AS-8126GS-TNMR,vLLM AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9575F	llama2-70b-99 Offline · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.4988 ROUGE2: 22.1091 ROUGEL: 28.8905 TOKENS_PER_SAMPLE: 282.7	80.478,1 Tokens/s	Red Hat Enterprise Linux 9.6 Software stack vLLM 0.14.0, RHEL 9.6 MLCommons · 6.0-0100
Cisco UCS 16xMI350X AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 2 nodi Totale dichiarato: 16 AMD EPYC 9575F	llama2-70b-99 Offline · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.4637 ROUGE2: 22.1149 ROUGEL: 28.8866 TOKENS_PER_SAMPLE: 283.3	159.932 Tokens/s	Ubuntu 24.04 Software stack vLLM MLCommons · 6.0-0011
Cisco UCS 8xMI350X AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9575F	llama2-70b-99 Offline · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.467 ROUGE2: 22.1014 ROUGEL: 28.8752 TOKENS_PER_SAMPLE: 283.8	78.936,7 Tokens/s	Ubuntu 24.04 Software stack vLLM MLCommons · 6.0-0012
G8825Z5 AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9755	llama2-70b-99 Offline · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.4576 ROUGE2: 22.0944 ROUGEL: 28.8678 TOKENS_PER_SAMPLE: 284.0	78.988,6 Tokens/s	Ubuntu 22.04.5 LTS Software stack Pytorch 2.9.1 , ROCm 7.0 MLCommons · 6.0-0071
AS-8126GS-TNMR,vLLM AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9575F	llama2-70b-99 Server · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.6049 ROUGE2: 22.178 ROUGEL: 28.9591 TOKENS_PER_SAMPLE: 281.8	76.393,1 Tokens/s	Red Hat Enterprise Linux 9.6 Software stack vLLM 0.14.0, RHEL 9.6 MLCommons · 6.0-0100
Cisco UCS 16xMI350X AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 2 nodi Totale dichiarato: 16 AMD EPYC 9575F	llama2-70b-99 Server · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.6075 ROUGE2: 22.1813 ROUGEL: 28.9635 TOKENS_PER_SAMPLE: 281.8	153.022 Tokens/s	Ubuntu 24.04 Software stack vLLM MLCommons · 6.0-0011
Cisco UCS 8xMI350X AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9575F	llama2-70b-99 Server · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.6074 ROUGE2: 22.1814 ROUGEL: 28.9634 TOKENS_PER_SAMPLE: 281.8	76.617,4 Tokens/s	Ubuntu 24.04 Software stack vLLM MLCommons · 6.0-0012
G8825Z5 AMD Instinct MI350X 288GB HBM3e 8 acceleratori/nodo · 1 nodi Totale dichiarato: 8 AMD EPYC 9755	llama2-70b-99 Server · fp4 v6.0 · closed · datacenter Accuratezza riportata ROUGE1: 44.607 ROUGE2: 22.1794 ROUGEL: 28.9613 TOKENS_PER_SAMPLE: 281.7	77.377,9 Tokens/s	Ubuntu 22.04.5 LTS Software stack Pytorch 2.9.1 , ROCm 7.0 MLCommons · 6.0-0071

Sistema e acceleratori

Workload e protocollo

Risultato del sistema

Software e fonte

AS-8126GS-TNMR,vLLM

AMD Instinct MI350X

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9575F

gpt-oss-120b

Offline · fp4

v6.0 · open · datacenter

Accuratezza riportata

exact_match: 83.568

64.293,3

Tokens/s

Software stack

Non specificato

MLCommons · 6.0-0112

AS-8126GS-TNMR,vLLM

AMD Instinct MI350X

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9575F

gpt-oss-120b

Server · fp4

v6.0 · open · datacenter

Accuratezza riportata

exact_match: 83.001

58.373,3

Tokens/s

Software stack

Non specificato

MLCommons · 6.0-0112

AS-8126GS-TNMR,vLLM

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9575F

llama2-70b-99

Offline · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.4988 ROUGE2: 22.1091 ROUGEL: 28.8905 TOKENS_PER_SAMPLE: 282.7

80.478,1

Tokens/s

Red Hat Enterprise Linux 9.6

Software stack

vLLM 0.14.0, RHEL 9.6

MLCommons · 6.0-0100

Cisco UCS 16xMI350X

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 2 nodi

Totale dichiarato: 16

AMD EPYC 9575F

llama2-70b-99

Offline · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.4637 ROUGE2: 22.1149 ROUGEL: 28.8866 TOKENS_PER_SAMPLE: 283.3

159.932

Tokens/s

Ubuntu 24.04

Software stack

vLLM

MLCommons · 6.0-0011

Cisco UCS 8xMI350X

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9575F

llama2-70b-99

Offline · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.467 ROUGE2: 22.1014 ROUGEL: 28.8752 TOKENS_PER_SAMPLE: 283.8

78.936,7

Tokens/s

Ubuntu 24.04

Software stack

vLLM

MLCommons · 6.0-0012

G8825Z5

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9755

llama2-70b-99

Offline · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.4576 ROUGE2: 22.0944 ROUGEL: 28.8678 TOKENS_PER_SAMPLE: 284.0

78.988,6

Tokens/s

Ubuntu 22.04.5 LTS

Software stack

Pytorch 2.9.1 , ROCm 7.0

MLCommons · 6.0-0071

AS-8126GS-TNMR,vLLM

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9575F

llama2-70b-99

Server · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.6049 ROUGE2: 22.178 ROUGEL: 28.9591 TOKENS_PER_SAMPLE: 281.8

76.393,1

Tokens/s

Red Hat Enterprise Linux 9.6

Software stack

vLLM 0.14.0, RHEL 9.6

MLCommons · 6.0-0100

Cisco UCS 16xMI350X

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 2 nodi

Totale dichiarato: 16

AMD EPYC 9575F

llama2-70b-99

Server · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.6075 ROUGE2: 22.1813 ROUGEL: 28.9635 TOKENS_PER_SAMPLE: 281.8

153.022

Tokens/s

Ubuntu 24.04

Software stack

vLLM

MLCommons · 6.0-0011

Cisco UCS 8xMI350X

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9575F

llama2-70b-99

Server · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.6074 ROUGE2: 22.1814 ROUGEL: 28.9634 TOKENS_PER_SAMPLE: 281.8

76.617,4

Tokens/s

Ubuntu 24.04

Software stack

vLLM

MLCommons · 6.0-0012

G8825Z5

AMD Instinct MI350X 288GB HBM3e

8 acceleratori/nodo · 1 nodi

Totale dichiarato: 8

AMD EPYC 9755

llama2-70b-99

Server · fp4

v6.0 · closed · datacenter

Accuratezza riportata

ROUGE1: 44.607 ROUGE2: 22.1794 ROUGEL: 28.9613 TOKENS_PER_SAMPLE: 281.7

77.377,9

Tokens/s

Ubuntu 22.04.5 LTS

Software stack

Pytorch 2.9.1 , ROCm 7.0

MLCommons · 6.0-0071

1 / 2

Fonti e divergenze

Ogni specifica conserva fonte, data di acquisizione e confidenza del matching. La confidenza non è una certificazione della correttezza del valore.

Data riportata dalla fonte

2025-01-01 (Open GPU DB, selezionato)

2025-06-12 (GPU Ark specifications, alternativa)

Open GPU DB — 27 attributi selezionati

AMD ROCm hardware specifications 7.2.3 — 10 attributi selezionati

Mostra provenance campo per campo

Specifica	Fonte	Acquisizione	Matching
Architettura	Open GPU DB	17/09/2026	90%
device_type	Open GPU DB	17/09/2026	90%
Generazione	Open GPU DB	17/09/2026	90%
Banda memoria	Open GPU DB	17/09/2026	90%
Capacità memoria	Open GPU DB	17/09/2026	90%
Tipo memoria	Open GPU DB	17/09/2026	90%
Memoria unificata	Open GPU DB	17/09/2026	90%
name	Open GPU DB	17/09/2026	90%
Data riportata dalla fonte	Open GPU DB	17/09/2026	90%
OpenCL	Open GPU DB	17/09/2026	90%
Clock base	Open GPU DB	17/09/2026	90%
Clock boost	Open GPU DB	17/09/2026	90%
Interfaccia	Open GPU DB	17/09/2026	90%
Chip	Open GPU DB	17/09/2026	90%
Fonderia	Open GPU DB	17/09/2026	90%
FP16 teorici	Open GPU DB	17/09/2026	90%
FP32 teorici	Open GPU DB	17/09/2026	90%
FP64 teorici	Open GPU DB	17/09/2026	90%
Bus memoria	Open GPU DB	17/09/2026	90%
Clock memoria	Open GPU DB	17/09/2026	90%
Processo produttivo	Open GPU DB	17/09/2026	90%
Unità ray tracing (vendor-specific)	Open GPU DB	17/09/2026	90%
Unità shader	Open GPU DB	17/09/2026	90%
TDP dichiarato	Open GPU DB	17/09/2026	90%
Tensor Core NVIDIA	Open GPU DB	17/09/2026	90%
status	Open GPU DB	17/09/2026	90%
vendor	Open GPU DB	17/09/2026	90%
rocm.architecture	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.compute_units	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.gfx_ip_major	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.gfx_ip_minor	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.l2_cache_mib	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.l3_cache_mib	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.lds_kib	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.llvm_target	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.vram_gib	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%
rocm.wavefront_size	AMD ROCm hardware specifications 7.2.3	17/09/2026	98%

Metodo di riconciliazione e licenze

Altre GPU della stessa architettura

AMD · datacenter

AMD Radeon Instinct MI355X

CDNA 4.0

288 GB1.400 W

Esplora AMD →