DGX Spark: මැලේසියාවේ AI සුපිරි පරිගණකය ගැන සරලව | NVIDIA DGX Spark Sinhala

NVIDIA DGX Spark: අග්නිදිග ආසියාවේ AI හෙට දවස

අපි කලින් article එකෙන් කතා කළානේ එක graphics කාඩ් එකක් (NVIDIA RTX 3090 වගේ) කොහොමද තත්පරයකට ට්‍රිලියන ගණනක ගණනය කිරීම් කරන්නේ කියලා. දැන් හිතන්න අන්න ඒ වගේ සුපිරි graphics කාඩ්, එහෙමත් නැත්නම් AI chips දහස් ගණනක් එකට එකතු කළොත් මොකද වෙන්නේ කියලා. අන්න එතැනදී තමයි DGX Spark වගේ "සුපිරි පරිගණකයක්" උපදින්නේ.

NVIDIA සමාගම මැලේසියාවේ YTL Power International යන දැවැන්ත යටිතල පහසුකම් සමාගම සමඟ එකතු වෙලා මැලේසියාවේ තමයි මේ දැවැන්ත AI සුපිරි පරිගණකය නිර්මාණය කරන්නේ. මේක නිකන්ම තවත් සුපිරි පරිගණකයක් නෙවෙයි, මේක අග්නිදිග ආසියාවේම AI තාක්ෂණය වෙනස් කරන "දේශීය AI" (Sovereign AI) බිහි කරන්න හදන පදනමයි.

1. DGX Spark කියන්නේ මොකද්ද?

සරලවම කිව්වොත්, DGX Spark කියන්නේ NVIDIA සමාගමේ අතිනවීන AI chips සහ තාක්ෂණය එකතු කරලා නිර්මාණය කරපු, ලෝකයේ ප්‍රබලම AI සුපිරි පරිගණක වලින් එකක්. මේකේ ප්‍රධානම අරමුණ තමයි ඉතාමත් දැවැන්ත දත්ත ප්‍රමාණයක් (Data) උපයෝගී කරගෙන, ඉතාමත් කෙටි කාලයකින් සංකීර්ණ AI model පුහුණු කරන එක.

මේක නිර්මාණය කරන්න මූලිකවම පාවිච්චි කරන්නේ NVIDIA සමාගමේ DGX H100 කියන "Nodes" දහස් ගණනක්. අපි දැන් බලමු මේ DGX H100 කියන්නේ මොකක්ද කියලා.

2. DGX Spark හි මොළය: NVIDIA HGX H100

අපි කලින් article එකේ කතා කළානේ GA102 කියන එක GPU චිප් එකක් ගැන. දැන් හිතන්න ඒ වගේ, හැබැයි ඊට වඩා සිය ගුණයකින් ප්‍රබල H100 Tensor Core GPU චිප් අටක් එකට එකතු කළොත් මොකද වෙන්නේ කියලා. අන්න ඒක තමයි NVIDIA HGX H100 කියලා හඳුන්වන්නේ.

එක HGX H100 unit එකක් ඇතුළේ:

• H100 Tensor Core GPU: අටක් තියෙනවා.
• GPU Memory (HBM3e): GPU අටටම එකතු වෙලා අතිවිශාල මතකයක් (ටෙරාබයිට් ගණනක්) තියෙනවා, දත්ත ඉතාමත් වේගයෙන් ලබාදෙන්න.
• NVLink Switch: මේ GPU චිප් අටම එකිනෙකා සමඟ තත්පරයකට ටෙරාබයිට් ගණනක වේගයෙන් දත්ත බෙදාගන්න පාවිච්චි කරන වේගවත් දත්ත "route" වගේ එකක්.

ඉතින් මේ වගේ HGX H100 units දහස් ගණනක් එකට එකතු කරලා තමයි DGX Spark නිර්මාණය වෙන්නේ. ඒ කියන්නේ මේකේ මුළු AI චිප් ගණන දහස් ගණනක්!

3. DGX Spark හි Networking Technology එක

අපි කලින් ලිපියේ කතා කළානේ නැවකට බඩු පටවන ක්‍රේන් ගොඩක් ගැන. දැන් හිතන්න, මේ සුපිරි පරිගණකය ඇතුළේ තියෙන හැම AI චිප් එකක්ම එකිනෙකා සමඟ දත්ත බෙදාගන්න ඕනේ කියලා. අන්න ඒකට ඉතාමත් වේගවත් සහ smooth ස්නායු පද්ධතියක්, එහෙමත් නැත්නම් Networking System එකක් ඕනේ.

DGX Spark වලදී NVIDIA සමාගමේ අතිනවීන Networking තාක්ෂණයන් දෙකක් පාවිච්චි කරනවා:

1. InfiniBand (NVIDIA Quantum-2): මේක තමයි මේ චිප්ස් දහස් ගණනක් එකිනෙකා සමඟ සම්බන්ධ කරන දත්ත "සුපිරි අධිවේගී මාර්ගය". මේකේ වේගය සහ දත්ත ගමන් කිරීමට ගතවන කාලය (Latency) සාමාන්‍ය Ethernet වලට වඩා සිය ගුණයකින් අඩුයි.
2. Spectrum-X (NVIDIA Quantum-2 Ethernet): මේක AI-optimized Ethernet තාක්ෂණයක්. මේක පාවිච්චි කරලා DGX H100 units දහස් ගණනක් එකට එකතු කරලා දැවැන්ත AI clusters නිර්මාණය කරනවා.

මේ තාක්ෂණයන් දෙක නිසා, DGX H100 units දහස් ගණනක් එකම මොළයක් වගේ, එකම වෙලාවක, එකම ගැටලුවක් විසඳන්න වැඩ කරනවා. ඒ කියන්නේ මේකේ මුළු වේගය එක චිප් එකක වේගයට වඩා සිය දහස් ගුණයකින් වැඩි වෙනවා.

4. DGX Spark හි Software Technology එක

hardware විතරක් තිබුණට මදි, සුපිරි පරිගණකය වැඩ කරන්න හොඳ software ඕනේ. ඒකට NVIDIA සමාගමේ NVIDIA AI Enterprise කියන software ප්ලැට්ෆෝම් එක පාවිච්චි කරනවා.

NVIDIA AI Enterprise ඇතුළේ:

• Pre-trained AI Models: ChatGPT, Gemini වගේ දැවැන්ත AI මොඩල් පුහුණු කරන්න අවශ්‍ය පූර්ව-පුහුණු මොඩල් තියෙනවා.
• AI Toolkits: AI පර්යේෂකයන්ට තමන්ගේම AI මොඩල් නිර්මාණය කරන්න, පුහුණු කරන්න සහ ඒවා පද්ධතිවලට ඇතුළත් කරන්න අවශ්‍ය සියලුම ටූල්ස් තියෙනවා.
• Job Scheduler: DGX H100 units දහස් ගණනක් කාර්යක්ෂමව පාවිච්චි කරලා, එකිනෙකාට වැඩ බෙදලා දෙන ප්‍රධාන "විධාන මධ්‍යස්ථානය" වගේ සොෆ්ට්වෙයාර් එකක්.

5. DGX Spark හි power එක conceptualize කරන්නේ කොහොමද?

අපි කලින් article එකේ 3090 චිප් එකක වේගය conceptualize කරන්න "පෘථිවි වගේ ග්‍රහලෝක 4,400ක්" ගැන කිව්වානේ. දැන් හිතන්න, DGX Spark එකේ තියෙන AI චිප්ස් දහස් ගණනක බලය කොච්චරද කියලා!

මේක real "Exascale" මට්ටමේ සුපිරි පරිගණකයක්. ඒ කියන්නේ මේකේ වේගය Petaflops (තත්පරයකට Quadrillion (ක්වොඩ්‍රිලියන/1,000,000,000,000,000) ගණනක ගණනය කිරීම්) වලින් මැනලා, Petaflops 1000ක් එකතු වුණාම හැදෙන Exaflops (තත්පරයකට Quintillion (ක්වොන්ටිලියන/1,000,000,000,000,000,000) ගණනක ගණනය කිරීම්) මට්ටමට යනවා. මේක හිතාගන්නවත් බැරි තරම් දැවැන්ත වේගයක්.

ඔයා ChatGPT වලට "ආයුබෝවන්" කියලා ප්‍රශ්නයක් ඇහුවම, ඒකට උත්තරයක් දෙන්න ChatGPT මොඩල් එකක් පුහුණු කරන්න මාස ගණනක් DGX H100 වගේ units දහස් ගණනක් run වෙන්න ඕනේ. ඉතින් DGX Spark එකක් තියෙනවා නම්, මැලේසියාවේ මිනිස්සුන්ට තමන්ගේම ChatGPT එකක් මාස ගණනක් වෙනුවට දවස් කිහිපයකින් පුහුණු කරලා හදන්න පුළුවන්!

6. DGX Spark මැලේසියාවට සහ අග්නිදිග ආසියාවට වැදගත් වෙන්නේ ඇයි?

මේක නිකන්ම තවත් සුපිරි පරිගණකයක් නෙවෙයි, මේක මැලේසියාවේ AI අධිරාජ්‍යයේ පදනමයි. මේක මැලේසියාවට වැදගත් වෙන හේතු කිහිපයක් තියෙනවා:

• Desiyan AI (Sovereign AI): මැලේසියාවට තමන්ගේම භාෂාවෙන්, තමන්ගේම සංස්කෘතියට ගැලපෙන, තමන්ගේම දත්ත පාවිච්චි කරලා AI මොඩල් නිර්මාණය කරන්න පුළුවන්. ඒ කියන්නේ ඇමරිකාවේ හෝ චීනයේ AI මොඩල් මත යැපෙන්න ඕනේ නැහැ.
• Economic Growth: AI තාක්ෂණය පාවිච්චි කරලා සෞඛ්‍යය, කෘෂිකර්මය, නිෂ්පාදනය වගේ ක්ෂේත්‍ර දියුණු කරලා රටේ ආර්ථිකය වේගයෙන් වර්ධනය කරන්න පුළුවන්.
• Green AI Data Center: YTL සමාගම මේ සුපිරි පරිගණකය තියෙන ඩේටා සෙන්ටර් එක සම්පූර්ණයෙන්ම සූර්ය බලශක්තියෙන් ක්‍රියාත්මක කරනවා. ඒ නිසා මේක පරිසර හිතකාමී සුපිරි පරිගණකයක්.

NVIDIA DGX Spark කියන්නේ අග්නිදිග ආසියාවේ AI හෙට දවසයි. මේක NVIDIA සමාගමේ අතිනවීන හාඩ්වෙයාර්, Networking සහ සොෆ්ට්වෙයාර් තාක්ෂණයන් මහා පරිමාණයෙන් එකතු වෙලා නිර්මාණය වුණු දැවැන්ත AI brain එකක්. මේක හරහා මැලේසියාවට තමන්ගේම AI අධිරාජ්‍යයක් බිහි කරලා, මුළු කලාපයේම AI තාක්ෂණය පෙරළියක් කරන්න පුළුවන්.

ඒ වගේම ලංකාවෙත් මන් දන්න තරමින් ABSOL X එකෙනුත් DGX Spark use කරලා research කරනවා. මේ ගැන වැඩි විස්තර දන්න කෙනෙක් ඉන්නවානන් comment එකක් දාන්න අනිත් අයටත් දැන ගන්න.

By SANA