Η νεότερη HGX B200 προσφέρει μια τεράστια αύξηση στην απόδοση για φόρτους εργασίας AI σε σύγκριση με την HGX H200, ιδιαίτερα σε τομείς όπως οι λειτουργίες FP8, INT8, FP16/BF16 και TF32 Tensor Core, όπου διαθέτει βελτίωση 125%.
Ωστόσο, όταν εξετάζουμε τις FP32 και FP64, το άλμα είναι μικρότερο, περίπου στο 18,5%.
Παραδόξως, η απόδοση του FP64 Tensor Core στην πραγματικότητα δέχεται ένα πλήγμα, μειούμενη κατά περίπου 40%.
Η B200 λάμπει στον τομέα της μνήμης, προσφέροντας μια μεγαλύτερη συνολική χωρητικότητα μνήμης (1,5 TB έναντι 1,1 TB) και διπλάσιο εύρος ζώνης NVSwitch GPU-to-GPU. Αυτή η ταχύτερη επικοινωνία αλλάζει τα δεδομένα για την εκπαίδευση μοντέλων AI μεγάλης κλίμακας.
Ωστόσο, όταν φέρνετε την εκτιμώμενη τιμή στην εικόνα, τα πράγματα γίνονται ενδιαφέροντα.
Η τιμή της B200 είναι περίπου 21,5% υψηλότερη, οπότε ενώ λαμβάνετε μια μεγάλη ώθηση στην απόδοση AI, η βελτίωση της υπολογιστικής ισχύος ανά δολάριο είναι λιγότερο εντυπωσιακή, στο περίπου 85% για τις περισσότερες λειτουργίες AI (παραμένει τεράστια).
Για φόρτους εργασίας που βασίζονται σε μεγάλο βαθμό στις FP32 και FP64, μπορεί ακόμη και να παίρνετε ελαφρώς λιγότερα χρήματα για την απόδοσή σας με την B200.
| Χαρακτηριστικό | Μονάδα | HGX H200 (8x H200 SXM) | HGX B200 (8x B200 SXM) | Διαφορά Απόδοσης | Διαφορά Υπολογιστικής Ισχύος ανά Δολάριο |
|---|---|---|---|---|---|
| INT8 Tensor Core | POPS | 32 | 72 | 125.00% | 85.11% |
| FP4 Tensor Core | PFLOPS | – | 144 | – | – |
| FP6 Tensor Core | PFLOPS | – | 72 | – | – |
| FP8 Tensor Core | PFLOPS | 32 | 72 | 125.00% | 85.11% |
| FP16/BF16 Tensor Core | PFLOPS | 16 | 36 | 125.00% | 85.11% |
| TF32 Tensor Core | PFLOPS | 8 | 18 | 125.00% | 85.11% |
| FP32 | TFLOPS | 540 | 640 | 18.52% | -2.50% |
| FP64 | TFLOPS | 270 | 320 | 18.52% | -2.50% |
| FP64 Tensor Core | TFLOPS | 540 | 320 | -40.74% | -51.25% |
| Μνήμη | TB | 1.1 | 1.5 | 36.36% | 12.18% |
| NVSwitch GPU-to-GPU Bandwidth | GB/s | 900 | 1800 | 100.00% | 64.52% |
| Total Aggregate Bandwidth | TB/s | 7.2 | 14.4 | 100.00% | 64.52% |
| Εκτιμώμενη Τιμή | USD | 290000 | 352500 | 21.55% | – |
