Quale server per l’AI scegliere? Tre livelli di investimento e costi reali

Fino a due anni fa, per la maggior parte delle aziende «AI proprietaria» significava una cosa sola: un abbonamento a ChatGPT o Copilot. Oggi sempre più organizzazioni arrivano al punto in cui il cloud non è più sufficiente. Le ragioni sono di solito tre: costi che crescono con il numero di richieste, dati che non possono essere inviati al di fuori dell’azienda e l’esigenza di far lavorare l’AI sui propri documenti, database e processi, anziché sulla conoscenza generica di Internet.

A questo punto sorge la domanda: quale server per l’AI acquistare e quanto costa?

La risposta è più interessante di quanto si potrebbe pensare, perché la gamma di prezzi è enorme: da un dispositivo delle dimensioni di un libro che costa poco più di ventimila złoty a una macchina da oltre due milioni. E, cosa importante, ciascuna di queste soluzioni ha senso, ma per esigenze diverse. Di seguito descrivo tre livelli di investimento, il calcolo da fare prima di decidere e cinque domande che aiutano a scegliere l’hardware giusto, senza acquistare troppo né troppo poco.

In cosa un server per l’AI differisce da un server tradizionale

Un server tradizionale è costruito attorno al processore. Un server per l’AI ruota attorno alle GPU: sono loro a svolgere tutto il lavoro sui modelli, mentre il resto dell’hardware serve a supportarle. Da qui derivano tre differenze pratiche.

• GPU e relativa memoria. In una macchina di questo tipo operano da quattro a otto acceleratori, nei server rack solitamente sotto forma di schede PCIe e, nelle piattaforme più potenti, come moduli saldati su una scheda comune. La loro memoria complessiva è il parametro più importante dell’intero acquisto: ne parleremo tra poco.
• Alimentazione. Otto schede sotto carico assorbono 5–6 kW, quanto diverse decine di PC da ufficio. Ciò richiede un rack con alimentazione adeguata e un’efficiente dissipazione del calore nella sala server.
• Rete. Per una singola macchina è sufficiente una rete standard ad alta velocità. Per combinare più server in un unico sistema servono collegamenti molto più veloci, poiché le GPU in chassis diversi devono scambiare dati con una latenza paragonabile a quella del lavoro all’interno dello stesso chassis.

Per questo non si tratta semplicemente di un «server più potente». È un’altra categoria di hardware, da scegliere in base a criteri diversi.

Memoria GPU: il numero che guida l’intera scelta

C’è un parametro più importante del prezzo: la quantità totale di memoria delle GPU nel server.

Perché? Il modello deve entrare interamente in questa memoria, proprio come un file deve essere caricato in un programma per poter essere utilizzato. Se non ci sta, semplicemente non si avvia.

Il modello in sé è però solo l’inizio del calcolo. Ogni utente connesso e ogni documento analizzato occupano memoria aggiuntiva per la conversazione in corso. Lo stesso modello per cento persone richiede quindi sensibilmente più spazio rispetto a un singolo utente: è proprio il numero di utenti, più che la dimensione del modello, a determinare più spesso quale livello di hardware sia necessario.

La guida illustra il fabbisogno di memoria di base dei modelli Quale computer scegliere per l’AI. La tabella seguente mostra la seconda dimensione di questo calcolo, ossia come cambia il fabbisogno in funzione della scala di implementazione. I valori sono indicativi e si riferiscono a una tipica configurazione di produzione.

Dimensione del modello	5 utenti	50 utenti	200 utenti	Livello hardware
piccolo (classe 8B)	circa 8 GB	circa 20 GB	circa 50 GB	DGX Spark
medio (classe 70B)	circa 45 GB	circa 70 GB	circa 130 GB	server rack, 1–2 schede
grande (classe 200B+)	circa 130 GB	circa 200 GB	circa 350 GB	server con otto schede
addestramento di un modello proprietario	diverse volte più dell’esecuzione del solo modello	–	–	piattaforma HGX B200

Sigle come 8B o 70B indicano da quanti miliardi di parametri è composto il modello: 8B equivale a otto miliardi. Più parametri significano una migliore qualità delle risposte e maggiore memoria GPU occupata dal modello.

C’è poi un aspetto che è facile dimenticare.

Margine. I numeri sopra riportati si riferiscono al normale funzionamento. Nei picchi conviene aggiungere un margine del 20–30%; altrimenti, con un traffico maggiore, il sistema inizierà a rifiutare le richieste.

Livello 1: NVIDIA DGX Spark, il punto di partenza

NVIDIA DGX Spark è un dispositivo da scrivania delle dimensioni di un libro, con 128 GB di memoria unificata e una potenza di calcolo di circa 1 petaFLOP per i carichi di lavoro AI. Consente di eseguire localmente modelli della classe di quelli che alimentano i più diffusi assistenti, senza inviare neppure un documento al cloud. Sono disponibili diverse varianti, che differiscono principalmente per capacità di archiviazione (1, 2 o 4 TB) e pacchetto di supporto. L’offerta completa di hardware di questa categoria, inclusi modelli di otto produttori, è disponibile nella categoria computer e workstation per l’AI.

Per chi è indicato? Per l’azienda che vuole prima verificare se l’AI possa migliorare il servizio clienti, l’analisi dei contratti o la preparazione delle offerte, prima che venga approvato un budget importante. L’investimento è nell’ordine di circa 5.524,23 € netti, ovvero meno di un abbonamento annuale agli strumenti AI per un team di una decina di persone. È possibile collegare due dispositivi in un unico sistema.

Limite. È un hardware pensato per un singolo team, non per l’intera organizzazione. Non può essere installato in un rack, non dispone di alimentazione ridondante e non può essere incluso nelle politiche di assistenza in vigore nella sala server. Quando cento persone devono utilizzare l’AI contemporaneamente, è necessario passare al livello successivo.

Livello 2: server GPU rack, ovvero AI di produzione per l’azienda

A mio parere, questo è oggi il livello più spesso trascurato e la scelta più ragionevole per un’azienda con un reale caso d’uso dell’AI.

Si tratta di una piattaforma GPU rack dedicata (5U), progettata per otto schede a doppia larghezza. Non è vincolata a un singolo modello di acceleratore: la scelta delle schede dipende dall’applicazione. La configurazione di base include due processori AMD EPYC, fino a 6 TB di memoria DDR5 in 24 slot e sei alimentatori 2700 W in configurazione ridondante.

Il numero di schede è determinante, perché definisce la memoria GPU disponibile. Due schede RTX PRO 6000 da 96 GB ciascuna offrono 192 GB e supportano un assistente interno per alcune decine di persone. La configurazione completa con otto schede arriva a 768 GB, sufficiente per diverse centinaia di utenti o modelli molto grandi. È possibile aggiungere ulteriori schede nello stesso chassis, senza sostituire il server: questo è il principale vantaggio di questo livello, perché non è necessario partire dalla configurazione completa.

Modello specifico: Supermicro AS-5126GS-TNRT Gold Series

Venduto come sistema completo e configurato. L’investimento indicativo per la configurazione iniziale con due schede è di circa 115.088,04 € netti. La configurazione esatta e il prezzo aggiornato sono disponibili nella scheda prodotto.

Cosa significa in pratica? Un server di questo tipo esegue localmente modelli linguistici di grandi dimensioni, gestisce l’analisi dell’archivio documentale aziendale, l’automazione del servizio clienti, la generazione di contenuti in più lingue e l’analisi delle immagini provenienti dalla linea di produzione. Inoltre, le schede RTX PRO sono versatili: lo stesso server può essere utilizzato per il rendering, le simulazioni ingegneristiche o la virtualizzazione di workstation. È un argomento che spesso determina la scelta: l’hardware non rimane inutilizzato tra un progetto AI e l’altro.

Per chi? Nella configurazione iniziale, per aziende con alcune decine di dipendenti che hanno già superato la fase di test e vogliono offrire ai team l’accesso a un assistente interno che conosca le procedure aziendali. Nella configurazione completa, per grandi organizzazioni, centinaia di utenti simultanei e settori regolamentati come finanza, sanità o pubblica amministrazione, dove i dati devono rimanere all’interno della struttura.

Cosa tenere presente. Il consumo energetico cresce con il numero di schede: da circa 2 kW con due schede a 5–6 kW con otto. Il rack deve essere in grado di alimentarle e il sistema di raffreddamento di dissiparne il calore. Se prevedete un’espansione, calcolate fin da subito la capacità di alimentazione e climatizzazione per la configurazione finale, non per quella iniziale.

Livello 3: NVIDIA HGX B200, l’infrastruttura per l’addestramento dei modelli

Al vertice si trova l’hardware di cui si legge nelle notizie sulla competizione tecnologica tra le più grandi aziende del mondo. Un server con piattaforma NVIDIA HGX B200 integra otto unità Blackwell, gli acceleratori AI attualmente più potenti sul mercato, con un totale di 1,44 TB di memoria HBM3e: la più veloce oggi acquistabile.

La macchina occupa 10U nel rack e dispone di otto interfacce di rete da 400 Gb/s, perché è progettata per essere collegata in cluster con altri server identici. L’alimentazione si basa su sei alimentatori da circa 5 kW, operanti in ridondanza con configurazione 3+3: il consumo effettivo della macchina sotto carico è nell’ordine di 10 kW, mentre il resto costituisce riserva e protezione in caso di guasto. La dotazione include un processore BlueField-3, che alleggerisce il sistema principale dalle attività di rete e sicurezza, e tre anni di supporto con assistenza on-site il giorno lavorativo successivo.

Modello specifico: Supermicro AS-A126GS-TNBR

Progettato per il calcolo scientifico, l’AI, l’automazione industriale e l’analisi dei dati. Investimento indicativo: circa 460.352,17 € netti per un singolo server; il prezzo aggiornato è disponibile nella scheda prodotto.

La differenza rispetto a un server GPU di secondo livello non è che B200 «fa la stessa cosa, solo più velocemente». Consiste nel fatto che svolge attività che l’altro non completerebbe in tempi ragionevoli: addestramento di modelli proprietari da zero, fine-tuning di modelli con centinaia di miliardi di parametri, supporto di centinaia di utenti simultanei, ricerca scientifica e simulazioni su scala industriale.

Per chi? Per le aziende che sviluppano prodotti basati sull’AI e non utilizzano modelli pronti, ma ne creano di propri. Per istituti di ricerca e università. Per operatori di telecomunicazioni, banche, grandi gruppi industriali e aziende farmaceutiche.

In pratica, raramente si acquista una sola macchina di questo tipo. Servono anche infrastruttura di rete, alimentazione e raffreddamento del data center; con 10 kW per chassis, in genere entra in gioco il raffreddamento a liquido. Non è un semplice acquisto hardware, ma una decisione strategica.

Come scegliere un server per l’AI? Cinque domande da porsi

Sapete già cosa deve fare l’AI nella vostra azienda?

In caso contrario, scegliete il primo livello. Al prezzo di un laptop premium ottenete un ambiente con cui, in due settimane, potete verificare diverse idee e prendere decisioni basate sui fatti, non sulle presentazioni.

Quante persone lo utilizzeranno e con quale frequenza?

Se la risposta è «tutta l’azienda, ogni giorno», un dispositivo desktop non sarà sufficiente, mentre un server GPU per rack sarà la scelta giusta. Vale la pena calcolare quanto spendete attualmente per API cloud e abbonamenti. Su larga scala, l’hardware proprietario risulta meno costoso nell’arco di due-tre anni.

State sviluppando modelli proprietari o utilizzate modelli già pronti?

L’utilizzo di modelli pronti, anche molto grandi, rientra nel secondo livello. Lo sviluppo di modelli proprietari richiede invece B200. Il confine è netto e raramente lascia dubbi su quale sia la situazione dell’azienda.

Quanto deve essere grande il modello da eseguire e per quante persone?

Tornate alla tabella della memoria. Se il modello scelto occupa 60 GB e deve essere utilizzato contemporaneamente da cinquanta persone, una scheda con 96 GB di memoria rappresenta il minimo assoluto, mentre due offrono margine operativo e spazio per crescere.

Cosa può sostenere il vostro data center?

La sorpresa più comune nei progetti AI non riguarda l’hardware, ma l’edificio: quanta potenza elettrica può essere fornita, se il condizionamento è in grado di smaltire il calore aggiuntivo e se c’è spazio nel rack. È meglio verificarlo prima dell’ordine che dopo la consegna.

Cos’altro rientra nel budget di implementazione

Il prezzo del server rappresenta in genere il 70–85% del budget di progetto. Conviene considerare le altre voci già in fase di pianificazione.

• Alimentazione e rack – PDU con potenza adeguata, distribuzione delle fasi, alimentazione di emergenza e, per parte dell’installazione, anche un nuovo allacciamento.
• Raffreddamento – fino a circa 5–6 kW per rack è in genere sufficiente il condizionamento di precisione. Oltre 10 kW si utilizza il raffreddamento a liquido, che richiede l’adeguamento del locale e una procedura di assistenza separata. Se la sala server non è stata progettata a questo scopo, è opportuno includere questo costo già nel preventivo.
• Memoria RAM – le configurazioni per l’AI partono da alcune centinaia di gigabyte e i prezzi dei moduli per server sono aumentati sensibilmente nel 2026. La differenza tra 512 GB e 1 TB può rappresentare una voce rilevante nel preventivo.
• Rete – switch con capacità adeguata, moduli transceiver e cablaggio. Nelle configurazioni cluster si aggiunge una rete dedicata per le GPU.
• Storage – i modelli e le raccolte di documenti occupano terabyte e la velocità di lettura dovrebbe essere adeguata alle prestazioni delle schede.
• Implementazione – installazione del software, avvio del modello, integrazione con l’accesso aziendale e con i sistemi che utilizzate.
• Supporto e garanzia – per gli ambienti di produzione, lo standard è l’assistenza on-site entro il giorno lavorativo successivo.

Da dove iniziare

L’errore più comune in questi acquisti è partire dal catalogo. L’ordine efficace è l’opposto: prima un singolo caso d’uso, poi il numero di utenti, quindi un confronto con gli attuali costi del cloud e solo alla fine la configurazione.

Se non sapete ancora esattamente a cosa debba servire l’AI, il primo livello è sufficiente per alcuni mesi di test e costa quanto un laptop. Se avete già concluso i test e l’assistente deve servire l’intera azienda, il secondo livello è attualmente la scelta più sensata per la maggior parte delle organizzazioni. Il terzo livello si sceglie quando sviluppate modelli proprietari: in quel caso la decisione di solito è evidente.

Se la configurazione richiede un adattamento alla vostra sala server, in termini di numero di schede, memoria, rete o raffreddamento, il nostro team preparerà una proposta per lo specifico caso d’uso.

FAQ