GPU Super AI Station GB300
AI Inference / Training
- CPU: NVIDIA Grace™ CPU Superchip, 72 Core
- GPU: NVIDIA Blackwell B300 GPU, up to 252GB HBM3e (Onboard)
- Pamięć: 4x 128GB LPDDR5x SOCAMM (Total 496GB total memory per NVIDIA Grace™ CPU) Up to 748GB of coherent memory
- AOC: NVIDIA ConnectX®-8 SuperNIC™
- Up to 20 PFLOPS of AI Performance
- Closed loop liquid cooling
- Supported OS: Ubuntu with NVIDIA AI Developer Tools
Kod kreskowy:
ARS-511GD-NB-LCC
Kluczowe zastosowania
- Laboratoria badawcze
- Wnioskowanie i trenowanie systemów sztucznej inteligencji
- Tworzenie i rozwój systemów sztucznej inteligencji
- Data science
Kluczowe cechy
- Bezkompromisowa wydajność sprzętowa: System łączy 20 PFLOPS wydajności FP4 dla AI oraz 748GB spójnej pamięci, w tym 252 GB pamięci GPU HBM3e i 496 GB pamięci CPU, co czyni go idealną platformą do ładowania i uruchamiania zarówno dużych modeli (do 1 biliona parametrów), jak i zbiorów danych. Dodatkowo wbudowana karta sieciowa 400GbE NVIDIA ConnectX-8 SuperNIC zapewnia wyjątkową przepustowość sieci, umożliwiając masowe pobieranie danych i płynną integrację z innymi systemami pamięci masowej i środowiskami deweloperskimi.
- Chłodzenie cieczą
- Elastyczne opcje wdrożenia: Super AI Station można wdrożyć jako wieżę biurkową 5U lub w szafie rack.
- Prywatność i bezpieczeństwo danych
NVIDIA Grace CPU Superchip
Przełomowy procesor dla nowoczesnego centrum danych.
Zaprojektowany, aby spełniać wymagania dotyczące wydajności i efektywności współczesnych centrów danych wykorzystujących sztuczną inteligencję.
Jednostka centralna NVIDIA Grace została zaprojektowana dla nowego typu centrum danych – takiego, które przetwarza ogromne ilości danych, aby generować informacje z maksymalną efektywnością energetyczną. Takie centra danych obsługują zróżnicowane obciążenia, jak systemy sztucznej inteligencji, analityka danych, bardzo duże usługi chmurowe oraz obliczenia o bardzo wysokiej wydajności. Aby sprostać najbardziej wymagającym potrzebom centrów danych, Grace zapewnia dwukrotnie wyższą wydajność na jednostkę pobieranej mocy, dwukrotnie większą gęstość upakowania oraz najwyższą przepustowość pamięci w porównaniu z obecnie wiodącymi serwerami.
Grace CPU Superchip składa się z dwóch układów Grace CPU połączonych w sposób spójny za pomocą technologii NVIDIA NVLink™ Chip‑to‑Chip (C2C) o przepustowości 900 gigabajtów na sekundę. Zawiera łącznie 144 rdzenie Neoverse V2 w jednym module oraz pamięć klasy serwerowej LPDDR5X, która zapewnia do 1 terabajta na sekundę przepustowości pamięci. Grace CPU Superchip stanowi serce dwuprocesorowego serwera w kompaktowym module, oferując dwukrotnie wyższą wydajność przy takim samym poborze mocy jak tradycyjne serwerowe jednostki centralne z pamięcią DDR5.
