Leírás és Paraméterek
DELL PRO MAX GB10 2 TB – 6144 CUDA-MAG ÉS 273 GB/s MEMÓRIASÁV-SZÉLESSÉG
A Dell Pro Max GB10 nemcsak kész AI-modellek futtatására alkalmas, hanem vállalati adatokkal történő finomhangolásukra is. Ügyfélszolgálatok, e-kereskedelmi és szolgáltató vállalatok, valamint terjedelmes műszaki dokumentációval rendelkező gyártók is hasznát vehetik. Az egyik felhasználási mód a modellek LoRA- és QLoRA-módszerekkel történő finomhangolása, amelyek csak a paraméterek kis részét módosítják. A legfeljebb 70 milliárd paraméteres modell elsajátítja a vállalat szóhasználatát, termékneveit és válaszadási stílusát, így többé nincs szükség arra, hogy minden alkalommal hosszú, kontextust tartalmazó promptot adjunk meg.
EGYSÉGESÍTETT MEMÓRIA A VRAM-KORLÁT HELYETT
Ebben kulcsfontosságú a 273 GB/s sávszélességű, 128 GB-os egységesített memória. A processzor és a grafikus egység ugyanazt a memóriakészletet használja, így a modellnek nem kell elférnie egy különálló videokártya korlátozott memóriájában, ahogyan az egy tipikus munkaállomás esetében szükséges. A számításokat az NVIDIA GB10 Grace Blackwell szuperchip végzi: az 6144 CUDA-maggal és 5. generációs Tensor magokkal rendelkező GPU FP4-ben akár 1 PFLOP teljesítményre képes. A finomhangolás helyben végezhető, így nem kell a külső felhőben a GPU-használat ideje alapján fizetni az egyes munkamenetekért.
HELY A TANÍTÁSI ADATOKNAK ÉS 10 GbE-ES ÁTVITEL
A tanítóadat-készletek, checkpointok és kész adapterek tárolására 2 TB-os M.2 NVMe PCIe Gen4 meghajtó szolgál. A számítógép kevesebb helyet foglal, mint egy A5-ös lap, 1,31 kg a súlya, és külső, 280 W-os Dell USB-C tápegységről működik. A fájlszerveren tárolt adatok a 10 GbE-porton keresztül gyorsan átvihetők a számítógépre. Az előre telepített NVIDIA DGX OS tartalmazza a CUDA-t, a konténerek támogatását és a DGX Dashboard kezelőfelületet. A finomhangolt modell ezután ugyanazon a számítógépen futtatható, vagy átvihető egy éles üzemi szerverre.

