Vera Rubin NVL72: Чӣ маъно доранд инфрасохтҳои омӯзишии насли нав

Vera Rubin NVL72 ҷавоби NVIDIA барои маҳдудиятҳои GPU-ҳои ҳуҷҷатӣ мебошад: мошини махсус сохташуда, ки инфраструктураи кабелиро пинҳон мекунад, 72 GPU-и Rubin ва 36 CPU-и Vera-ро дар як шасси хунукшудаи моеъ ҷойгир мекунад ва навигацияи банди дарунро пайваст мекунад, то моделҳои калонтар ҳар ватт зудтар раванд. Он тарҳ иқтисоди таълимро иваз мекунад, дар ҳоле ки интихоби шадид миёни абр, ҳамкории коллокатсионӣ ва харидани таҷҳизотатонро маҷбур менамояд.

Вобастагиҳои мулкил ва шабакаи Vera Rubin NVL72

Саҳифаҳои маҳсулот ва ҳуҷҷатҳо дар NVIDIA тағйироти мушаххасро ба назар гирифтаанд. Як раки GB300 NVL72 72 GPU-и Rubin ва 36 CPU-и Grace/Vera дорад, матни NVLink, ки тақрибан 260 терабит дар як сонияро дар бар мегирад ва ин бо 3.6 терабит дар як сонияи банд-бар-бар дар ҳар GPU мувофиқ аст, ва тахтаҳои переключении NVLink-ро дар бар мегирад, ки кабелҳои дарозро нест мекунад. NVIDIA эълон мекунад, ки то 10 маротиба бештар токен дар ҳар мегаватт бо насли қаблии GB200 муқоиса мекунад. Рак пурра хунук карда мешавад ва эҳсосоти барқии одатан дар диапазони 120 то 155 киловатт вобаста ба конфигуратсия ва боргарии корӣ қарор дорад, пас барқ ва хунуккунакҳои иншоот маҳдудиятҳои аввалиндараҷа мебошанд. Manba: саҳифаҳои маҳсулоти NVIDIA NVL72 ва ҳуҷҷатҳои рушд, ҳуҷҷатҳои HPE ва Lenovo GB300.

Мулкил барои сохтордонҳо

Агар шумо дар масштаби гиперскалерҳо кор кунед, математика оддӣ аст. Маъмулан, ҳақиқатҳои барҷаста ба баландии самаранокӣ дар ҳар мегаватт тоқаи энергияро кам мекунад ва вақти қабули тренировкаи параметри миллион меронанд. Матрори NVLink борҳои ҳамоҳангсозии байни GPU-ҳоро кам мекунад, ки вақти сабти ҳолати тренировка аслан коҳиш медиҳад. Агар шумо хидмати абрӣ бошед, ин ба худи гузариш дар ҳар ҳуҷраи маркази маълумот таъриф мешавад.

Барои корхонаҳо ва лабораторияҳо, чунин мизоҷон қарорҳои ҷалбро мураккаб мекунанд. Таҷҳизот требоҳои хоси барқу дар ин бора, шинаи DC 50 вольт ё чандина 33 кВ, оби хунук ё CDU-и доимии хӯша, ва кормандони таҷрибадор дар хидмати ракоми хунукро талаб мекунад. Инҳо самаранокиро таъмин мекунанд, аммо такмил доданҳоро гуногун мекунад, ки онҳоро дар истифодаи хурсанде ба онҳо гузариш намекунанд.

Як контраргументи ошкор ин гуногунсозиҳоро бо фурудгоҳ таъриф кардан аст. Сетсҳо ва системаҳое, ки барои фаъолсозии маълумот тарҳрезӣ карда шудаанд ё дастгоҳҳои дараҷаи Cerebras сохта шудаанд, нуқтаи интегратсиони гуногунро доранд ва метавонанд вобастагии NVLink-ро канор гузоранд. Пӯсти бузургҳои абрӣ аллакай намудҳои гуногуни акселераторҳоро дар истеҳсолот пеш мебаранд, ки хавфи як фурӯшандаро коҳиш медиҳад. Мисоли таърихии гузаришҳои бузурги абрҳои акселераторҳои алтернативиро бо контексти Amazon технологияи Cerebras-ро 25 маротиба зудтар равон мекунад.

Роҳнамоӣ барои қарор ва урокҳои мушоҳидашуда

Агар шумораи заряд ва вақти дақиқи таълими калонҳаҷм лозим бошад ва шумо якчанд ракҳои гуногунро идора мекунед, роҳи NVL72 одатан вақти равон ва арзиши энергиро барои параметр паст мекунад. Агар эҳтиёҷотҳои шумо нопадид ва танҳо ба даҳҳо рак баробар ба тайёр кардани насл бошед, аввал иҷора гиред. Хидматрасонҳои ҳамкории коллокатсионӣ нуқтаҳои миёна пешниҳод мекунанд, аммо эҳтиёт кунед, барои барқи кофӣ ва қобилияти CDU нархи баландро интизор шавад.

Мо се шеваи навбатии работаиро ҳангоми омӯзиши системҳои NVL раковати суръат дидем. Аввал, тарҳи барқ проект мешавад, на як рак. Дуюм, асбобҳои нармафзори, ки NVLink-ро дар сатҳи рак истифода мебаранд, фактораи гаторбодии воқеии гузаришҳои воқеӣ мебошад. Севум, суръати насб ва хидматро муҳим аст, зеро як тахтаи ноком метавонад як коршарикро бо ракҳои гуногун ренҷонад.

NVL72-и NVIDIA маркази gravitatsiyaro барои инфрасохтҳои таълимӣ иваз мекунад. Он барои созмонҳое, ки бо электрони кампус ё гиперскалер муассиса-парҳо нақшаи нармафзор доранд, тарафдории худро менамояд, то пайвастите бо шохаҳои баробар дошта бошад. Барои дигарон, роҳи аёнгари сенсорӣ трасиосизатсия аст: абр ё ҳамкории коллокатсионӣ барои аввалин тарафи бази ва насли муайян ё фақат баъд аз он ки истифодаи баланд ва дақиқ боқӣ мемонад.