Table of Contents
Încă de acum doi ani, „AI propriu” însemna pentru majoritatea companiilor un singur lucru: un abonament la ChatGPT sau Copilot. Astăzi, tot mai multe organizații ajung în punctul în care cloudul nu mai este suficient. Motivele sunt, de regulă, trei: costurile care cresc odată cu numărul de solicitări, datele care nu pot fi trimise în afara companiei și necesitatea ca AI-ul să funcționeze pe propriile documente, baze de date și procese, nu pe cunoștințele generale de pe internet.
În acest punct apare întrebarea: ce server pentru AI ar trebui cumpărat și cât costă?
Răspunsul este mai interesant decât pare, deoarece diferențele de preț sunt enorme: de la un dispozitiv de dimensiunea unei cărți, care costă puțin peste douăzeci de mii de zloți, până la o mașină de peste două milioane. Important este că fiecare dintre aceste soluții are sens, însă pentru alt tip de utilizator. Mai jos prezint trei niveluri de investiție, calculul care merită făcut înainte de luarea unei decizii și cinci întrebări care ajută la alegerea echipamentului potrivit, fără a cumpăra nici prea mult, nici prea puțin.
Prin ce diferă un server pentru AI de un server obișnuit
Un server obișnuit este construit în jurul procesorului. Un server pentru AI este construit în jurul GPU-urilor – acestea realizează toată activitatea legată de modele, iar restul echipamentului are rolul de a le susține. De aici rezultă trei diferențe practice.
- GPU-urile și memoria lor. O astfel de mașină utilizează între patru și opt acceleratoare – în serverele rack, cel mai frecvent sub formă de plăci PCIe, iar în cele mai puternice platforme, ca module lipite pe o placă comună. Memoria lor totală este cel mai important parametru al întregii achiziții – mai multe detalii imediat.
- Energie electrică. Opt plăci sub sarcină consumă 5–6 kW, adică echivalentul a câteva zeci de calculatoare de birou. Acest lucru necesită un rack alimentat corespunzător și o evacuare eficientă a căldurii din centrul de date.
- Rețea. Pentru o singură mașină este suficientă o rețea standard de mare viteză. La conectarea mai multor servere într-un singur sistem, sunt necesare conexiuni mult mai rapide, deoarece GPU-urile din carcase diferite trebuie să facă schimb de date cu o latență comparabilă cu cea dintr-o singură carcasă.
Prin urmare, nu este pur și simplu un „server mai puternic”. Este o categorie diferită de echipamente, aleasă după alte criterii.
Memoria GPU: cifra care organizează întreaga alegere
Există un parametru mai important decât prețul: memoria totală a GPU-urilor din server.
De ce? Modelul trebuie să încapă integral în această memorie, la fel cum un fișier trebuie încărcat într-un program pentru a putea fi utilizat. Dacă nu încape, pur și simplu nu va porni.
Totuși, modelul în sine este doar începutul calculului. Fiecare utilizator autentificat și fiecare document analizat consumă memorie suplimentară pentru conversația în desfășurare. Prin urmare, același model pentru o sută de persoane necesită semnificativ mai mult spațiu decât pentru una singură – iar numărul utilizatorilor, nu doar dimensiunea modelului, determină cel mai adesea nivelul de echipament necesar.
Cerințele de bază de memorie ale modelelor sunt prezentate în ghidul Ce computer pentru AI să alegeți. Tabelul de mai jos prezintă a doua axă a acestui calcul, respectiv cum se modifică necesarul odată cu amploarea implementării. Valorile sunt orientative și se referă la o configurație de producție tipică.
| Dimensiunea modelului | 5 utilizatori | 50 utilizatori | 200 utilizatori | Nivel de echipament |
|---|---|---|---|---|
| mic (clasa 8B) | aprox. 8 GB | aprox. 20 GB | aprox. 50 GB | DGX Spark |
| mediu (clasa 70B) | aprox. 45 GB | aprox. 70 GB | aprox. 130 GB | server rack, 1–2 plăci |
| mare (clasa 200B+) | aprox. 130 GB | aprox. 200 GB | aprox. 350 GB | server cu opt plăci |
| antrenarea propriului model | de câteva ori mai mult decât simpla rulare | – | – | platformă HGX B200 |
Denumiri precum 8B sau 70B indică din câte miliarde de parametri este alcătuit modelul – 8B înseamnă opt miliarde. Cu cât sunt mai mulți parametri, cu atât calitatea răspunsurilor este mai bună și cu atât modelul ocupă mai multă memorie GPU.
Mai este un aspect ușor de uitat.
Rezerva. Cifrele de mai sus reprezintă situația în funcționare normală. La vârf, merită adăugată o marjă de 20–30%; altfel, la trafic mai ridicat, sistemul va începe să respingă solicitări.
Nivelul 1: NVIDIA DGX Spark, punctul de plecare
NVIDIA DGX Spark este un dispozitiv de birou de dimensiunea unei cărți, cu 128 GB de memorie unificată și performanță de calcul de aproximativ 1 petaFLOP pentru sarcini AI. Permite rularea locală a modelelor din aceeași clasă cu cele care alimentează asistenții populari, fără a trimite niciun document în cloud. Există mai multe variante, diferențiate în principal prin capacitatea de stocare (1, 2 sau 4 TB) și pachetul de suport. Oferta completă pentru această clasă de echipamente, inclusiv modele de la opt producători, este disponibilă în categoria calculatoare și stații de lucru pentru AI.
Pentru cine? Pentru compania care dorește mai întâi să verifice dacă AI poate eficientiza serviciul pentru clienți, analiza contractelor sau pregătirea ofertelor, înainte ca cineva să aprobe un buget mare. Investiția este de aproximativ 29.080,33 RON net, adică mai puțin decât abonamentul anual la instrumente AI pentru o echipă de peste zece persoane. Două dispozitive pot fi conectate într-un singur sistem.
Limitare. Este un echipament pentru o singură echipă, nu pentru întreaga organizație. Nu poate fi montat într-un rack, nu are alimentare redundantă și nu poate fi inclus în politica de service aplicabilă în centrul de date. Când o sută de persoane trebuie să utilizeze AI simultan, este necesar să treceți la nivelul următor.
Nivelul 2: server GPU pentru rack, adică AI de producție pentru companie
În opinia mea, acesta este nivelul cel mai des trecut cu vederea astăzi, deși pentru o companie cu o utilizare reală a AI reprezintă alegerea cea mai rațională.
Este vorba despre o platformă GPU dedicată pentru rack (5U), proiectată pentru opt plăci cu lățime dublă. Nu este asociată cu un singur model de accelerator – alegerea plăcilor depinde de utilizare. Configurația de bază include două procesoare AMD EPYC, până la 6 TB de memorie DDR5 în 24 sloturi și șase surse de alimentare 2700 W care funcționează redundant.
Numărul de plăci este esențial, deoarece determină memoria GPU disponibilă. Două plăci RTX PRO 6000 cu câte 96 GB oferă 192 GB și pot susține un asistent intern pentru câteva zeci de persoane. Configurația completă cu opt plăci înseamnă 768 GB, adică câteva sute de utilizatori sau modele foarte mari. Plăcile suplimentare se adaugă în aceeași carcasă, fără a înlocui serverul — acesta este principalul avantaj al acestui nivel: nu trebuie să începeți cu configurația completă.
Model concret: Supermicro AS-5126GS-TNRT Gold Series
Vândut ca sistem complet, configurat. Investiția pentru configurația de pornire cu două plăci este de aprox. 605.840,30 RON fără TVA. Verificați configurația exactă și prețul actual în pagina produsului.
Ce oferă în practică? Un astfel de server poate rula local modele lingvistice mari, poate analiza arhiva de documente a companiei, automatiza serviciile pentru clienți, genera conținut în mai multe limbi sau analiza imagini de pe linia de producție. În plus, plăcile RTX PRO sunt versatile — același server poate fi utilizat pentru randare, simulări inginerești sau virtualizarea stațiilor de lucru. Acesta este un argument care înclină adesea decizia: echipamentul nu rămâne neutilizat între proiectele AI.
Pentru cine? În configurația de pornire — pentru o companie cu câteva zeci de angajați, care a trecut deja de etapa de testare și dorește să ofere echipelor acces la un asistent intern care cunoaște procedurile companiei. În configurația completă — pentru organizații mari, sute de utilizatori simultani și sectoare reglementate, precum finanțele, medicina sau sectorul public, unde datele trebuie să rămână în clădire.
De reținut. Consumul de energie crește odată cu numărul de plăci: de la aprox. 2 kW pentru două plăci la 5–6 kW pentru opt. Rackul trebuie să poată furniza această putere, iar sistemul de răcire trebuie să poată evacua căldura. Dacă planificați extinderea, calculați de la început capacitatea de alimentare și climatizare pentru configurația finală, nu pentru cea de pornire.
Nivelul 3: NVIDIA HGX B200, adică infrastructura pe care se antrenează modelele
În vârf se află echipamentele despre care se vorbește în relatările privind cursa tehnologică dintre cele mai mari companii din lume. Un server cu platforma NVIDIA HGX B200 integrează opt unități Blackwell, în prezent cele mai puternice acceleratoare AI de pe piață, cu un total de 1,44 TB memorie HBM3e — cea mai rapidă disponibilă astăzi pentru achiziție.
Sistemul ocupă 10U în rack și dispune de opt interfețe de rețea de 400 Gb/s, deoarece a fost proiectat pentru conectarea în cluster cu alte servere identice. Alimentarea se bazează pe șase surse de alimentare de aprox. 5 kW, care funcționează redundant în configurație 3+3 — consumul real al sistemului în sarcină este de aproximativ 10 kW, iar restul reprezintă rezervă și protecție în caz de defecțiune. Include un procesor BlueField-3, care descarcă sistemul principal de sarcinile de rețea și securitate, precum și suport timp de trei ani, cu service la sediu în următoarea zi lucrătoare.
Model concret: Supermicro AS-A126GS-TNBR
Destinat calculelor științifice, AI, automatizării industriale și analizei de date. Investiție estimată: aprox. 2.423.361,20 RON fără TVA pentru un server; prețul actual este disponibil în pagina produsului.
Diferența față de serverul GPU de nivelul doi nu constă în faptul că B200 „face același lucru, doar mai repede”. Acesta realizează sarcini pe care celălalt nu le poate efectua într-un timp rezonabil: antrenarea propriilor modele de la zero, reglarea fină a modelelor cu sute de miliarde de parametri, deservirea a sute de utilizatori simultan, cercetare științifică și simulări la scară industrială.
Pentru cine? Pentru companii care dezvoltă produse bazate pe AI și nu utilizează modele gata făcute, ci își creează propriile modele. Pentru instituții de cercetare și universități. Pentru operatori de telecomunicații, bănci, mari grupuri industriale și companii farmaceutice.
În practică, rareori se achiziționează un singur astfel de sistem. Sunt necesare și infrastructura de rețea, alimentarea și răcirea centrului de date — la 10 kW per carcasă, răcirea cu lichid este de regulă necesară. Nu este doar o achiziție de echipamente, ci o decizie strategică.
Cum alegeți un server pentru AI? Cinci întrebări importante
Știți deja ce trebuie să facă AI în compania dumneavoastră?
Dacă nu — alegeți primul nivel. La prețul unui singur laptop premium, obțineți un mediu în care puteți testa câteva idei în două săptămâni și puteți lua o decizie bazată pe fapte, nu pe prezentări.
Câte persoane îl vor utiliza și cât de des?
Dacă răspunsul este „toată compania, în fiecare zi”, un dispozitiv de birou nu va fi suficient, iar un server GPU pentru rack va fi alegerea potrivită. Merită să calculați cât cheltuiți în prezent pe API-uri cloud și abonamente. La scară mare, propriul echipament este mai ieftin într-un orizont de doi până la trei ani.
Dezvoltați propriile modele sau utilizați modele gata făcute?
Utilizarea modelelor gata făcute, chiar și a celor foarte mari, ține de nivelul doi. Dezvoltarea propriilor modele înseamnă deja B200. Aici granița este clară și rareori există îndoieli privind categoria în care se încadrează compania.
Ce dimensiune are modelul pe care trebuie să îl rulați și pentru câte persoane?
Reveniți la tabelul cu memoria. Dacă modelul ales ocupă 60 GB și trebuie utilizat simultan de cincizeci de persoane, o singură placă cu 96 GB memorie reprezintă minimul absolut, iar două oferă confort și spațiu pentru creștere.
Ce poate susține centrul dumneavoastră de date?
Cea mai frecventă surpriză în proiectele AI nu ține de echipamente, ci de clădire: câtă energie electrică poate fi asigurată, dacă instalația de climatizare poate evacua căldura suplimentară și dacă există spațiu în rack. Este mai bine să verificați acest lucru înainte de comandă decât după livrare.
Ce mai intră în bugetul de implementare
Prețul serverului reprezintă de obicei 70–85% din bugetul proiectului. Merită să luați în calcul celelalte costuri încă din etapa de planificare.
- Alimentare și rack – PDU cu puterea corespunzătoare, distribuția fazelor, alimentare de rezervă și, în unele instalații, inclusiv un nou branșament.
- Răcire – până la aprox. 5–6 kW per rack, climatizarea de precizie este de obicei suficientă. Peste 10 kW se utilizează răcirea cu lichid, ceea ce implică adaptarea spațiului și o procedură de service separată. Dacă sala de servere nu a fost proiectată pentru acest scop, merită să includeți acest cost încă din ofertă.
- Memorie RAM – configurațiile pentru AI încep de la câteva sute de gigaocteți, iar prețurile modulelor de server au crescut semnificativ în 2026. Diferența dintre 512 GB și 1 TB poate reprezenta o componentă importantă a bugetului.
- Rețea – un switch cu capacitatea de transfer adecvată, transceivere și cablare. În configurațiile de tip cluster se adaugă o rețea separată pentru GPU-uri.
- Stocare – modelele și colecțiile de documente ocupă terabytes, iar viteza de citire trebuie să corespundă performanței plăcilor.
- Implementare – instalarea software-ului, punerea în funcțiune a modelului, integrarea cu autentificarea companiei și cu sistemele pe care le utilizați.
- Asistență și garanție – pentru mediile de producție, standardul este service-ul on-site în următoarea zi lucrătoare.
De unde să începeți
Cea mai frecventă greșeală la astfel de achiziții este să începeți cu catalogul. Ordinea care funcționează este inversă: mai întâi un singur caz de utilizare, apoi numărul de utilizatori, apoi o comparație cu costurile actuale de cloud și abia la final configurația.
Dacă nu știți încă exact la ce va fi folosită AI, primul nivel este suficient pentru câteva luni de teste și costă cât un singur laptop. Dacă ați depășit deja etapa de testare, iar asistentul trebuie să funcționeze pentru întreaga companie, nivelul doi este în prezent alegerea cea mai rezonabilă pentru majoritatea organizațiilor. Nivelul trei este ales atunci când vă construiți propriile modele – iar în acest caz decizia nu ridică de obicei semne de întrebare.
Dacă configurația trebuie adaptată la sala voastră de servere – numărul de plăci, memoria, rețeaua sau răcirea – echipa noastră va pregăti o propunere pentru cazul de utilizare specific.
Întrebări frecvente
Intervalul este larg: de la aprox. 29.080,33 RON fără TVA pentru un dispozitiv desktop din clasa DGX Spark, prin aprox. 605.840,30 RON pentru un server GPU pentru rack într-o configurație de bază, până la aprox. 2.423.361,20 RON pentru o platformă HGX B200. La prețul echipamentului trebuie adăugate 15–30% pentru alimentare, răcire, rețea și implementare.
Depinde de scară. Costul cloud-ului crește odată cu numărul de solicitări, în timp ce costul propriului server este fix – după achiziție nu plătiți pentru fiecare apel. De aceea, merită să comparați facturile actuale pentru API-uri și abonamente cu rata echipamentului repartizată pe trei ani și cu costul energiei. La utilizare intensivă, infrastructura proprie este mai avantajoasă; pentru utilizare ocazională, cloud-ul rămâne mai ieftin.
Modelul trebuie să încapă integral în memoria plăcilor. Orientativ: un model din clasa 8B necesită câteva zeci de gigaocteți, unul din clasa 70B necesită de la 70 la 140 GB, în funcție de precizia de stocare a modelului, iar modelele cu peste 200 miliarde de parametri încep de la câteva sute de gigaocteți. În plus, este necesară memorie pentru conversațiile în desfășurare, care crește odată cu numărul de utilizatori.
Pentru teste și cazuri de utilizare individuale – da. Pentru activitate în producție, de obicei nu, deoarece limitările sunt memoria totală a plăcilor, precum și alimentarea și răcirea șasiului, care nu a fost proiectat pentru opt acceleratoare.
Dacă AI trebuie să funcționeze în producție pentru toți utilizatorii, cea mai rezonabilă alegere este un server GPU pentru rack într-o configurație cu două plăci, cu opțiunea de a adăuga altele. Dacă este încă în etapa de testare sau este utilizat de o singură echipă, este suficient un dispozitiv desktop din clasa DGX Spark sau, alternativ, două unități conectate într-un singur sistem.
Un dispozitiv desktop consumă aproximativ 240 W. Un server GPU pentru rack consumă de la aprox. 2 kW cu două plăci până la 5–6 kW cu opt, iar o platformă HGX B200 în jur de 10 kW. Calculați costul în funcție de propriul tarif pe kWh și de timpul de funcționare planificat – în regim continuu, diferența dintre niveluri este de câteva zeci de ori.
