Solo due anni fa, per la maggior parte delle aziende, “AI proprietaria” significava una cosa: un abbonamento a ChatGPT o Copilot. Oggi, sempre più organizzazioni arrivano al punto in cui il cloud non è più sufficiente. I motivi sono generalmente tre: costi che crescono insieme al numero di richieste, dati che non possono essere inviati all’esterno dell’azienda e la necessità che l’AI lavori sui propri documenti, database e processi, anziché sulla conoscenza generica reperibile su Internet.

A questo punto sorge la domanda: quale server per l’AI acquistare e quanto costa?

La risposta è più interessante di quanto possa sembrare, perché la gamma di prezzi è enorme: da un dispositivo delle dimensioni di un libro che costa poco più di ventimila zloty a una macchina da oltre due milioni. E, cosa importante, ciascuna di queste soluzioni ha senso, ma per un profilo diverso. Di seguito descrivo tre livelli di investimento, il calcolo da fare prima di decidere e cinque domande che consentono di scegliere l’hardware giusto, senza acquistare né troppo né troppo poco.

In cosa un server per l’AI differisce da un server tradizionale

Un server tradizionale è costruito attorno alla CPU. Un server per l’AI è costruito attorno alle GPU: sono queste a svolgere tutto il lavoro sui modelli, mentre il resto dell’hardware serve a supportarle. Da qui derivano tre differenze pratiche.

  • GPU e relativa memoria. In una macchina di questo tipo operano da quattro a otto acceleratori: nei server rack, solitamente sotto forma di schede PCIe; nelle piattaforme più potenti, come moduli saldati su una scheda comune. La loro memoria totale è il parametro più importante dell’intero acquisto, come vedremo tra poco.
  • Alimentazione elettrica. Otto schede sotto carico assorbono 5–6 kW, quanto diverse decine di PC da ufficio. Ciò richiede un rack con alimentazione adeguata e un’efficiente dissipazione del calore dalla sala server.
  • Rete. Per una singola macchina è sufficiente una rete standard ad alta velocità. Quando si collegano più server in un unico sistema, sono necessari collegamenti molto più veloci, poiché le GPU in chassis diversi devono scambiare dati con una latenza paragonabile a quella del funzionamento all’interno di un singolo chassis.

Non si tratta quindi semplicemente di un “server più potente”, ma di una categoria hardware diversa, da scegliere in base a criteri differenti.

Memoria GPU: il numero che orienta l’intera scelta

C’è un parametro più importante del prezzo: quanta memoria GPU totale è disponibile nel server.

Perché? Il modello deve entrare interamente in questa memoria, proprio come un file deve essere caricato in un programma per poter essere utilizzato. Se non entra, semplicemente non si avvia.

Il solo modello, tuttavia, è solo l’inizio del calcolo. Ogni utente connesso e ogni documento analizzato occupano memoria aggiuntiva per la conversazione in corso. Lo stesso modello per cento persone richiede quindi sensibilmente più spazio rispetto a una sola persona e, nella maggior parte dei casi, è proprio il numero di utenti, non la sola dimensione del modello, a determinare il livello hardware necessario.

La guida illustra il fabbisogno di memoria di base dei modelli Quale computer per l’AI scegliere. La tabella seguente mostra la seconda dimensione di questo calcolo, ossia come cambia il fabbisogno in base alla scala dell’implementazione. I valori sono indicativi e si riferiscono a una configurazione di produzione tipica.

Dimensione del modello5 utenti50 utenti200 utentiLivello hardware
piccolo (classe 8B)circa 8 GBcirca 20 GBcirca 50 GBDGX Spark
medio (classe 70B)circa 45 GBcirca 70 GBcirca 130 GBserver rack, 1–2 schede
grande (classe 200B+)circa 130 GBcirca 200 GBcirca 350 GBserver con otto schede
addestramento di un modello proprietariodiverse volte superiore alla sola esecuzione––piattaforma HGX B200

Le sigle come 8B o 70B indicano da quanti miliardi di parametri è composto il modello: 8B corrisponde a otto miliardi. Più parametri significano una migliore qualità delle risposte e una maggiore quantità di memoria GPU occupata dal modello.

C’è poi un aspetto facile da dimenticare.

Margine. I numeri sopra indicati si riferiscono al normale funzionamento. Nei picchi è opportuno aggiungere un margine del 20–30%, altrimenti, in caso di traffico più elevato, il sistema inizierà a rifiutare le richieste.

Livello 1: NVIDIA DGX Spark, il punto di partenza

NVIDIA DGX Spark è un dispositivo da scrivania delle dimensioni di un libro, con 128 GB di memoria unificata e una potenza di calcolo nell’ordine di 1 petaFLOP per i carichi di lavoro AI. Consente di eseguire localmente modelli della classe di quelli che alimentano i più diffusi assistenti, senza inviare neppure un documento al cloud. Sono disponibili diverse varianti, che differiscono principalmente per capacità di storage (1, 2 o 4 TB) e pacchetto di supporto. L’offerta completa di questa classe di hardware, compresi i modelli di otto produttori, è disponibile nella categoria computer per l’AI.

Per chi è adatto? Per un’azienda che vuole prima verificare se l’AI può migliorare il servizio clienti, l’analisi dei contratti o la preparazione delle offerte, prima che qualcuno approvi un budget importante. L’investimento è nell’ordine di circa 5.499,21 € netti, ovvero meno di un abbonamento annuale agli strumenti AI per un team di una decina di persone. Due dispositivi possono essere collegati in un unico sistema.

Limite. È hardware per un singolo team, non per l’intera organizzazione. Non può essere installato in un rack, non dispone di alimentazione ridondante e non può rientrare nelle policy di assistenza applicate nella sala server. Quando cento persone devono utilizzare l’AI contemporaneamente, occorre passare al livello successivo.

Livello 2: server GPU rack, ovvero AI di produzione per l’azienda

A mio avviso, è il livello oggi più spesso trascurato, ma rappresenta la scelta più sensata per un’azienda con un’applicazione AI concreta.

Si tratta di una piattaforma GPU rack dedicata (5U), progettata per otto schede a doppia larghezza. Non è vincolata a un singolo modello di acceleratore: la scelta delle schede dipende dal caso d’uso. La configurazione di base comprende due processori AMD EPYC, fino a 6 TB di memoria DDR5 in 24 slot e sei alimentatori 2700 W in configurazione ridondante.

Il numero di schede è determinante, perché definisce la quantità di memoria GPU disponibile. Due schede RTX PRO 6000 da 96 GB ciascuna offrono 192 GB e supportano un assistente interno per alcune decine di persone. Una configurazione completa con otto schede raggiunge 768 GB, sufficiente per diverse centinaia di utenti o per modelli molto grandi. È possibile aggiungere altre schede nello stesso chassis senza sostituire il server: questo è il principale vantaggio di questo livello, perché non richiede un investimento iniziale completo.

Modello specifico: Supermicro AS-5126GS-TNRT Gold Series

Venduto come sistema completo e configurato. L’investimento indicativo per la configurazione iniziale con due schede è di circa 114.571,62 € al netto dell’IVA. La configurazione esatta e il prezzo aggiornato sono disponibili nella scheda prodotto.

Cosa significa in pratica? Un server di questo tipo può eseguire localmente modelli linguistici di grandi dimensioni, analizzare l’archivio documentale aziendale, automatizzare il servizio clienti, generare contenuti in più lingue o analizzare immagini provenienti dalla linea di produzione. Inoltre, le schede RTX PRO sono versatili: lo stesso server può essere utilizzato per il rendering, le simulazioni ingegneristiche o la virtualizzazione delle workstation. È un fattore che spesso determina la decisione: l’hardware non rimane inutilizzato tra un progetto AI e l’altro.

Per chi è adatto? Nella configurazione iniziale, per aziende di alcune decine di dipendenti che hanno già superato la fase di test e vogliono offrire ai team l’accesso a un assistente interno che conosca le procedure aziendali. Nella configurazione completa, per grandi organizzazioni, centinaia di utenti simultanei e settori regolamentati, come finanza, sanità o pubblica amministrazione, nei quali i dati devono restare all’interno della struttura.

Aspetti da tenere presenti. Il consumo energetico aumenta con il numero di schede: da circa 2 kW con due schede a 5–6 kW con otto. L’armadio rack deve poter fornire questa potenza e il sistema di raffreddamento deve dissipare il calore. Se prevedete un’espansione, calcolate fin dall’inizio la capacità di alimentazione e condizionamento per la configurazione finale, non per quella iniziale.

Livello 3: NVIDIA HGX B200, l’infrastruttura per l’addestramento dei modelli

Al vertice si trova l’hardware di cui si legge nelle notizie sulla competizione tecnologica tra le maggiori aziende mondiali. Un server con piattaforma NVIDIA HGX B200 integra otto unità Blackwell, gli acceleratori AI attualmente più potenti sul mercato, con un totale di 1,44 TB di memoria HBM3e: la più veloce oggi disponibile.

La macchina occupa 10U nell’armadio rack e dispone di otto interfacce di rete da 400 Gb/s, poiché è progettata per essere collegata in cluster con altri server identici. L’alimentazione si basa su sei alimentatori da circa 5 kW, ridondanti in configurazione 3+3: il consumo effettivo della macchina sotto carico è intorno a 10 kW, mentre il resto costituisce margine di riserva e protezione in caso di guasto. Il sistema include un processore BlueField-3, che solleva il sistema principale dai compiti di rete e sicurezza, e tre anni di supporto con assistenza on-site entro il giorno lavorativo successivo.

Modello specifico: Supermicro AS-A126GS-TNBR

Progettato per il calcolo scientifico, l’AI, l’automazione industriale e l’analisi dei dati. Investimento indicativo: circa 458.286,93 € al netto dell’IVA per server; il prezzo aggiornato è disponibile nella scheda prodotto.

La differenza rispetto a un server GPU di secondo livello non è che B200 «fa la stessa cosa, solo più velocemente». Sta nel fatto che svolge attività che l’altro non riuscirebbe a completare in tempi ragionevoli: addestramento di modelli proprietari da zero, fine-tuning di modelli con centinaia di miliardi di parametri, supporto per centinaia di utenti simultanei, ricerca scientifica e simulazioni su scala industriale.

Per chi è adatto? Per le aziende che sviluppano prodotti basati sull’AI e non utilizzano modelli preconfigurati, ma ne creano di propri. Per istituti di ricerca e università. Per operatori di telecomunicazioni, banche, grandi gruppi industriali e aziende farmaceutiche.

In pratica, raramente si acquista una sola macchina di questo tipo. Sono necessarie anche infrastrutture di rete, alimentazione e raffreddamento della sala server; con 10 kW per chassis, di solito entra in gioco il raffreddamento a liquido. Non è un semplice acquisto hardware, ma una decisione strategica.

Come scegliere un server per l’AI? Cinque domande da porsi

Sapete già cosa dovrà fare l’AI nella vostra azienda?

In caso contrario, scegliete il primo livello. Al prezzo di un laptop premium avrete un ambiente nel quale potrete testare diverse idee in due settimane e prendere decisioni basate sui fatti, non sulle presentazioni.

Quante persone lo utilizzeranno e con quale frequenza?

Se la risposta è «tutta l’azienda, ogni giorno», un dispositivo desktop non sarà sufficiente, mentre un server GPU per armadio rack sarà la scelta giusta. Vale la pena calcolare quanto spendete attualmente per API cloud e abbonamenti. Su larga scala, l’hardware proprietario è più conveniente nell’arco di due-tre anni. L’articolo su LLM locale in azienda.

State sviluppando modelli proprietari o utilizzate modelli preconfigurati?

L’utilizzo di modelli preconfigurati, anche molto grandi, rientra nel secondo livello. La creazione di modelli proprietari richiede invece B200. In questo caso il confine è netto e raramente ci sono dubbi su quale lato riguardi l’azienda.

Quanto deve essere grande il modello da eseguire e per quante persone?

Tornate alla tabella della memoria. Se il modello scelto occupa 60 GB e deve essere utilizzato contemporaneamente da cinquanta persone, una scheda con 96 GB di memoria è il minimo assoluto; due schede offrono maggiore margine operativo e spazio per crescere.

Cosa può supportare la vostra sala server?

La sorpresa più frequente nei progetti AI non riguarda l’hardware, ma l’edificio: quanta potenza elettrica può essere fornita, se il condizionamento è in grado di smaltire il calore aggiuntivo e se c’è spazio nell’armadio rack. È meglio verificarlo prima dell’ordine che dopo la consegna.

Cos’altro rientra nel budget di implementazione

Il prezzo del server rappresenta di solito il 70–85% del budget di progetto. Conviene considerare le altre voci già nella fase di pianificazione.

  • Alimentazione e armadio rack – PDU di potenza adeguata, distribuzione delle fasi, alimentazione di emergenza e, in alcune installazioni, anche un nuovo allacciamento.
  • Raffreddamento – fino a circa 5–6 kW per rack è generalmente sufficiente il condizionamento di precisione. Oltre 10 kW si utilizza il raffreddamento a liquido, che richiede l’adeguamento del locale e una procedura di assistenza dedicata. Se il data center non è stato progettato per questo scopo, è opportuno includere tale costo già nel preventivo.
  • Memoria RAM – le configurazioni per l’AI partono da alcune centinaia di gigabyte e i prezzi dei moduli per server sono aumentati sensibilmente nel 2026. La differenza tra 512 GB e 1 TB può rappresentare una voce rilevante nel preventivo.
  • Rete – switch con capacità adeguata, transceiver e cablaggio. Nelle configurazioni a cluster è necessaria anche una rete dedicata alle GPU.
  • Storage – modelli e raccolte di documenti occupano terabyte e la velocità di lettura dovrebbe essere adeguata alle prestazioni delle schede.
  • Implementazione – installazione del software, avvio del modello, integrazione con l’autenticazione aziendale e con i sistemi in uso.
  • Supporto e garanzia – per gli ambienti di produzione, lo standard è l’assistenza on-site entro il giorno lavorativo successivo.

Da dove iniziare

L’errore più comune in acquisti di questo tipo è partire dal catalogo. L’ordine efficace è l’opposto: prima un singolo caso d’uso, poi il numero di utenti, quindi un confronto con gli attuali costi del cloud e solo alla fine la configurazione.

Se non sapete ancora con precisione a cosa dovrà servire l’AI, il primo livello è sufficiente per alcuni mesi di test e costa quanto un laptop. Se i test sono già conclusi e l’assistente deve operare per l’intera azienda, il secondo livello è attualmente la scelta più sensata per la maggior parte delle organizzazioni. Il terzo livello si sceglie quando si sviluppano modelli proprietari: in questo caso, la decisione di solito è evidente.

Se la configurazione deve essere adattata al vostro data center, in termini di numero di schede, memoria, rete o raffreddamento, il nostro team preparerà una proposta per il caso d’uso specifico.

FAQ

Quanto costa un server per l’AI?

La fascia di prezzo è ampia: da circa 5.499,44 € netti per un dispositivo desktop della classe DGX Spark, a circa 114.571,62 € per un server GPU rack in configurazione iniziale, fino a circa 458.286,47 € per una piattaforma HGX B200. Al prezzo dell’hardware occorre aggiungere 15–30% per alimentazione, raffreddamento, rete e implementazione.

Un server per l’AI è più conveniente del cloud?

Dipende dalla scala. Il costo del cloud cresce con il numero di richieste, mentre il costo di un server proprietario è fisso: dopo l’acquisto non si paga per ogni chiamata. Vale quindi la pena confrontare le attuali fatture per API e abbonamenti con la rata dell’hardware ripartita su tre anni e con il costo dell’energia. In caso di utilizzo intensivo, l’infrastruttura proprietaria risulta più conveniente; per un uso occasionale, il cloud rimane meno costoso.

Quanta memoria GPU richiede un modello linguistico?

Il modello deve essere interamente contenuto nella memoria delle schede. In via indicativa: un modello della classe 8B richiede alcune decine di gigabyte, uno della classe 70B da 70 a 140 GB a seconda della precisione di memorizzazione del modello, mentre i modelli con oltre 200 miliardi di parametri partono da alcune centinaia di gigabyte. A questo si aggiunge la memoria per le conversazioni in corso, che cresce con il numero di utenti.

Per l’AI è sufficiente un normale server con scheda grafica?

Per test e singoli casi d’uso, sì. Per l’operatività in produzione, generalmente no, perché i limiti sono la memoria complessiva delle schede, nonché l’alimentazione e il raffreddamento di uno chassis non progettato per otto acceleratori.

Quale server per l’AI scegliere per un’azienda fino a 50 persone?

Se l’AI deve operare in produzione per tutti, la scelta più sensata è un server GPU rack in configurazione con due schede, con la possibilità di aggiungerne altre. Se si è ancora nella fase di test o lo utilizza un solo team, è sufficiente un dispositivo desktop della classe DGX Spark, eventualmente due unità collegate in un unico sistema.

Quanta energia consuma un server per l’AI?

Un dispositivo desktop circa 240 W. Un server GPU rack da circa 2 kW con due schede a 5–6 kW con otto, mentre una piattaforma HGX B200 si attesta intorno a 10 kW. Calcolate il costo in base alla vostra tariffa per kWh e al tempo di utilizzo previsto: in funzionamento continuo, la differenza tra i livelli è di alcune decine di volte.

Condividi.
łukasz bojar

Vice President Sales & MarketingLavora in Senetic dal 2014, dove è responsabile della definizione della visione e della strategia commerciale dell’azienda. La sua ambizione professionale è conquistare nuovi mercati in tutto il mondo. Vanta oltre 10 anni di esperienza nella gestione, nello sviluppo del business e nelle vendite, maturata non solo nel settore IT. Condivide le sue conoscenze in qualità di relatore durante conferenze di settore. Nel tempo libero scarica lo stress in palestra o correndo al parco, scoprendo nuovi generi musicali.