Model de supercomputer personal

Revoluția inteligenței artificiale aduce o nouă generație de PC-uri: Bun-venit supercomputerului personal

Procesoarele Nvidia GB10 și GB300 alimentează o nouă clasă de PC-uri care vor redefini modul în care profesioniștii lucrează cu inteligența artificială. Dar acesta este doar începutul.

Inteligența artificială este peste tot, dar pentru majoritatea dintre noi, se află în cloud. Aceasta este o problemă pentru companiile și indivizii care doresc să utilizeze inteligența artificială fără internet. Pe măsură ce importanța IA a crescut, nevoia de sisteme independente care pot gestiona puterea necesară pentru a rula modele lingvistice mari (LLM) și alte modele pe sisteme personale a crescut.

Dar aceste modele necesită niveluri de performanță pe care majoritatea PC-urilor nu le pot gestiona – până când Nvidia a anunțat Project DIGITS.

Potrivit CEO-ului Nvidia, Jensen Huang, obiectivul Project DIGITS este „amplasarea unui supercomputer de inteligență artificială pe biroul fiecărui om de știință de date, cercetător în IA și student”. Astfel, indivizii pot accesa hardware (supercipurile Nvidia Grace Blackwell) pentru a prototipa, regla fin și rula modelele lor de IA local. Este un supercomputer de IA integrat într-un factor de formă PC.

Supercomputer personal produs de Nvidia

Nvidia DGX Spark: Un mini PC cu mușchi AI masiv

Cel mai accesibil dintre aceste noi PC-uri centrate pe IA este Nvidia DGX Spark, un mini PC compact echipat cu un supercip GB10 care combină un GPU Blackwell cu un procesor Grace bazat pe Arm cu 20 de nuclee. Partea GPU are 6.144 de nuclee CUDA Nvidia, același număr găsit în placa grafică Nvidia GeForce RTX 5070, dar optimizat pentru calculul IA.

Nvidia îl asociază cu 128 GB de memorie sistem LPDDR5x, partajată între CPU și GPU, și 4 TB de stocare. Cu acest hardware, micuțul DGX Spark va produce 1.000 de trilioane de operațiuni pe secundă (TOPS) atunci când lucrează la sarcini de IA, depășind cu mult performanța PC-urilor AI de consum de 40-50 TOPS.

Componentele hardware ale supercomputerului produs de Nvidia

DGX Spark rulează sistemul de operare DGX Nvidia, o versiune a Ubuntu Linux construită special pentru rularea modelelor de IA pe aceste mici mașini. Pe lângă driverele pentru hardware-ul Nvidia din interior, acest sistem de operare poate rula tot felul de modele (cum ar fi cele găsite pe Hugging Face) și instrumente de IA precum Python, PyTorch și Jupyter notebooks, împreună cu extinsul catalog de software și instrumente pentru dezvoltatori de la Nvidia.

Aceste sisteme mici pot fi extinse și datorită tehnologiei de interconectare NVLink-C2C de la Nvidia, care vă permite să conectați o pereche de unități DGX Spark. Nvidia susține că un singur DGX Spark poate rula modele cu până la 200 de miliarde de parametri, în timp ce o pereche de Spark-uri poate gestiona până la 405 de miliarde de parametri.

Nvidia are în prezent DGX Spark disponibil pentru precomandă la 3.999 euro, dar chiar și acest preț este în aer, deoarece specificațiile pot fi modificate înainte de lansarea finală de mai târziu în acest an. Nvidia este departe de a fi singurul jucător pe această nouă piață a mini PC-urilor AI, deoarece a colaborat cu mai mulți producători pentru a produce propriile cutii Blackwell alimentate de GB10.

„Amplasarea unui supercomputer de inteligență artificială pe biroul fiecărui om de știință de date, cercetător în IA și student îi împuternicește să se implice și să modeleze era inteligenței artificiale.” – Nvidia CEO Jensen Huang

Scântei care prind foc: Mai multe mini PC-uri Blackwell în curs de apariție

Chiar dacă DGX Spark este un produs Nvidia construit cu componente Nvidia, compania nu va fi singură în fabricarea acestor mini PC-uri AI. Modele similare alimentate de GB10 au apărut de la Asus, Dell, Gigabyte, HP, Lenovo și MSI la Computex 2025.

Diferențele par a fi în mare parte cosmetice, fiecare producător având propria abordare a designului compact de tip NUC. Specificațiile privind stocarea, selecția porturilor, alte caracteristici și informațiile despre prețuri sunt în mare parte necunoscute.

Nvidia DGX Station: IA de nivel server, amprentă de dimensiuni de birou

Mini PC-ul Nvidia poate fi impresionant, dar pentru cei care doresc să abordeze sarcini de lucru AI și mai solicitante, Nvidia are DGX Station. Aceasta este o stație de lucru AI robustă cu un supercip Nvidia GB300 Grace Blackwell Ultra Desktop, care integrează hardware Grace Blackwell de nivel server într-o singură placă de bază.

Sistemul are un procesor Nvidia Grace cu 72 de nuclee, cu 784 GB de memorie unificată, stocare extensibilă cu sloturi multiple M.2 și PCIe Gen5 și o placă de rețea SuperNIC ConnectX-8 pentru conectarea în serie a unităților suplimentare.

CEO-ul Nvidia, Jensen Huang

În discursul său de la Computex, CEO-ul Nvidia, Jensen Huang, a declarat că DGX Station oferă „cea mai mare performanță pe care o puteți obține dintr-o priză de perete”. Și este multă putere. GB300 produce până la 20 de petaflops de performanță AI – adică 20.000 TOPS. Aceasta este o putere suficientă pentru a rula majoritatea modelelor disponibile local, fără a se conecta la cloud sau la un server de la distanță.

Cu sloturi de extindere, suport GPU multi-instanta (până la 7 partiții) și rețea de 800 GBps, îl puteți îmbunătăți și mai mult. Aceasta este puterea necesară pentru a construi instrumente de IA, a antrena modele de IA și de învățare automată și a le rula pe biroul dumneavoastră.

Nvidia nici măcar nu a sugerat un preț pentru DGX Station (estimăm 10.000 euro sau mai mult) și se va angaja doar să spună că va fi disponibil mai târziu în acest an.

La fel ca DGX Spark, Nvidia a colaborat cu mai mulți producători de PC-uri desktop pentru a furniza diferite versiuni ale DGX Station. Parteneri precum Asus, Dell și HP au anunțat deja o serie de sisteme cu specificații identice: un supercip Nvidia GB300 Grace Blackwell Ultra Desktop, 784 GB de memorie sistem unificată (până la 288 GB memorie GPU HBME3e și 496 GB memorie CPU LPDDR5X) și un SuperNIC ConnectX-8 pentru gruparea mai multor stații DGX.

Supercomputer Nvidia

Ascensiunea supercomputerului personal

Aceste cutii AI nu sunt sisteme care ocupă o cameră întreagă și nu se vor potrivi cu cele mai rapide sau mai puternice configurații industriale care rulează cele mai importante proiecte AI de astăzi. Cu toate acestea, aceste noi stații de lucru AI au puterea de calcul și arhitectura care erau limitate anterior la supercomputerele de nivel mare, din centrele de date.

Cu calcul petascale, hardware de nivel server, procesare paralelă intensivă, cantități masive de memorie, software specializat de dezvoltare AI și opțiunea pentru sisteme interconectate, aceste stații de lucru AI îndeplinesc majoritatea elementelor definitorii ale unui supercomputer. Aceste sisteme reprezintă nașterea unei noi categorii: supercomputerul personal.

Șeful Nvidia, Jensen Huang, care a devenit fața acestei noi categorii de desktop-uri, spune: „Amplasarea unui supercomputer de inteligență artificială pe biroul fiecărui om de știință de date, cercetător în IA și student îi împuternicește să se implice și să modeleze era inteligenței artificiale.”

Inteligența artificială este mult mai mult decât chatbot-urile conversaționale precum ChatGPT și Copilot de la Microsoft. Aceste modele lingvistice mari (LLM) sunt o formă de IA generativă care poate lucra cu text sau chiar genera imagini. Dar IA se extinde și în alte domenii: rețele neuronale convolutionale (CNN) pentru viziunea computerizată și analiza imaginilor; modele de acțiune mari (LAM) pentru robotică și automatizare; rețele neuronale grafice (GNN) pentru cercetarea științifică și modelarea sistemelor complexe; modele generative care pot reda videoclipuri, crea muzică sau genera modele 3D pentru prototipare; și modele agentice, orientate spre acțiune, care pot lua decizii și automatiza fluxurile de lucru. Aceste domenii se vor dezvolta și evolua pe măsură ce mai mulți dezvoltatori vor avea hardware-ul pentru a construi și regla fin aceste modele local.

Frontierele tehnologiei de calcul se concentrează acum pe aplicarea învățării automate și a IA la unele dintre cele mai complexe probleme ale noastre și pe dezvoltarea de funcții pentru aplicațiile pe care le folosim în fiecare zi. Fie în mass-media, jocuri sau muncă zilnică, aceste mici îmbunătățiri ale instrumentelor pe care le folosim zilnic vor necesita o putere de procesare foarte mare. Acestea sunt doar primele sisteme care oferă ambalarea puterii brute necesare pentru dezvoltarea IA într-un singur PC desktop independent.

Dar nu se va termina aici – nicidecum. Nu numai că mini PC-urile au deja acest nivel de hardware, dar Gigabyte tocmai a anunțat o nouă gamă de desktop-uri pentru jocuri/IA, iar Dell tocmai a lansat primul său laptop pentru stații de lucru AI. Pe măsură ce instrumentele profesionale se extind, noile praguri de putere și capacitate se transmit în sistemele de consum. Aceasta a fost povestea tehnologiei de zeci de ani.

Imaginea mai mare aici nu este doar că firmele primesc sisteme noi – o nouă clasă de sisteme, de fapt – capabile să lucreze cu această nouă tehnologie. Avem primele perspective asupra tipului de putere care va fi curând generalizată. Este atât de multă putere încât încă ne dăm seama cum să o folosim. Ne străduim să o alimentăm cu energia necesară. Și totuși, ne luptăm cu modul de a găsi și utiliza în mod etic datele brute necesare pentru a antrena aceste modele și a le regla fin. IA este încă un teritoriu în mare parte neexplorat, dar suntem pe cale să primim echipamente care vor democratiza accesul la instrumentele din spatele ei în scurt timp.

Dacă sunteți un profesionist care se uită la ceva legat de IA, vestea palpitantă de astăzi este aceste noi cutii de dezvoltare AI de nivel enterprise. Dar toată lumea va avea acces la așa-numiții supercomputere personale mai devreme sau mai târziu. Odată ce aceste produse vor apărea pe piață, vom fi gata să testăm tot ce putem pune mâna.

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top