Il futuro prossimo dei Data center: le previsioni di Uptime Institute

In passato, Uptime aveva già previsto che l’IA avrebbe avuto un impatto significativo principalmente sugli operatori di grandi dimensioni, dotati delle risorse finanziarie e infrastrutturali necessarie per gestire carichi di lavoro complessi, e quindi meglio posizionati per sfruttare la domanda guidata dall’IA rispetto agli operatori di medie dimensioni.

Inoltre, secondo il recente report di Uptime intitolato “Data Center and IT Spending Survey 2024”, l’84% dei fornitori di colocation prevede di aumentare la spesa nel 2025.

Al contempo, il 71% degli operatori aziendali intende incrementare i propri budget, sebbene molte di queste organizzazioni non abbiano la flessibilità finanziaria per investire in progetti di capitale, come infrastrutture IA dedicate, a differenza dei fornitori di colocation.

È doveroso evidenziare che i progetti di IA affrontano diverse sfide, tra cui: la disponibilità limitata di hardware; lunghi tempi di attesa per le apparecchiature di alimentazione e raffreddamento; requisiti di spazio aggiuntivi; carenza di manodopera qualificata.

Di conseguenza, molte organizzazioni stanno valutando strategie alternative di IA, sia on-premise sia off-premise, mentre la loro domanda di IT generico rimane forte.

Inoltre, con l’espansione del settore dei data center, cresce anche l’impronta di carbonio e gli impegni di sostenibilità, un tempo centrali, sono ora sotto esame, portando alcune organizzazioni a ridimensionare o cancellare i loro ambiziosi obiettivi di riduzione delle emissioni di carbonio.

Uptime Report – “Five data Center Predictions for 2025”

Il report “Five data Center Predictions for 2025” di Uptime esamina alcuni degli ultimi sviluppi e sfide che stanno plasmando il settore dei data center. In particolare, l’IA intensifica la già forte domanda di IT, ma aggiunge nuove sfide significative per coloro che progettano, costruiscono e gestiscono l’infrastruttura digitale.

Ciò è dovuto all’aumento dei requisiti di alimentazione e di raffreddamento, alla necessità di retrofit complessi, ai problemi della catena di approvvigionamento, ai costi elevati e all’incertezza tecnica.

Data center: sistemi di monitoraggio efficiente delle prestazioni IT

Di seguito la descrizione delle cinque previsioni di Uptime che caratterizzeranno il 2025 in termini di data center.

Data Center: Crescono Dubbi e Opposizioni Pubbliche

Il report di Uptime rivela che la crescente domanda di energia da parte dell’IA sta mettendo ulteriore pressione sulle reti elettriche, già sotto stress, e potrebbe alimentare l’opposizione pubblica allo sviluppo di nuovi data center.

Inoltre, anche le autorità di regolamentazione potrebbero dover affrontare un contraccolpo pubblico ed i governi, pur desiderando sfruttare i benefici dell’innovazione legata all’AI e ai data center, si vedono costretti a bilanciare questi obiettivi con le normative esistenti in materia di sostenibilità e di sicurezza energetica.

Pertanto, Uptime ritiene che il 2025 sarà cruciale per le strategie delle organizzazioni di data center che dovranno affrontare le opportunità e le incertezze presentate dall’IA, trovando un equilibrio tra l’adozione delle nuove tecnologie, il mantenimento degli accordi sul livello di servizio, il raggiungimento degli obiettivi di sostenibilità e il conseguimento degli obiettivi finanziari.

Nei prossimi anni, i progetti dei data center diventeranno sempre più soggetti a dinamiche politiche. Da un lato, riceveranno supporto governativo per iniziative legate all’IA; dall’altro lato, dovranno affrontare pressioni per normative e per restrizioni in materia di sostenibilità.

Inoltre, nonostante l’opposizione crescente dell’opinione pubblica, preoccupata per gli impatti ambientali e le promesse di occupazione non mantenute, i governi favoriranno un’espansione rapida, attratti dai benefici economici percepiti e dall’impulso dato dall’IA. Di conseguenza, gli impegni climatici potrebbero essere ridimensionati o posticipati, mentre l’ottimismo verso l’IA continuerà a stimolare la crescita.

La maggior parte dei modelli di IA verrà addestrata nel cloud

La rapida crescita dell’IA generativa ha modificato significativamente i requisiti infrastrutturali necessari per supportarla. L’addestramento di modelli di IA generativa, come i modelli linguistici di grandi dimensioni (LLM), richiede una potenza di elaborazione notevole, ottenuta principalmente attraverso cluster di server GPU.

Le GPU sono fondamentali perché accelerano i calcoli di moltiplicazione delle matrici, essenziali per le reti neurali alla base dell’IA generativa. Tuttavia, i cluster di GPU sono difficili da reperire, costosi e complessi da implementare.

Il costo e la complessità spingono molte aziende a rivolgersi al cloud, dove possono accedere a risorse GPU e piattaforme AI pagando in base al consumo. Si ritiene che la maggior parte delle aziende preferirà utilizzare modelli pre-addestrati da terze parti per ridurre i costi computazionali, ricorrendo ai servizi cloud per attività di personalizzazione più limitate.

Inoltre. gestire cluster GPU su larga scala localmente rappresenta una sfida enorme per le aziende, sia dal punto di vista finanziario che operativo.

Viaggio nei segreti dei datacenter, la sicurezza parte dalla creazione

Un singolo server Nvidia H100 può costare centinaia di migliaia di dollari e un cluster completo può raggiungere costi esorbitanti. Senza contare i costi dell’hardware, le spese per storage, la rete, l’alimentazione, il raffreddamento e la manodopera.

Inoltre, i problemi della supply chain complicano l’acquisizione rapida dell’hardware necessario. Ne consegue che tali difficoltà rendono l’addestramento on-premise di grandi modelli di IA generativa fattibile solo per poche organizzazioni con le risorse necessarie.

Ciò induce molte aziende a cercare soluzioni più accessibili e scalabili, come i servizi cloud offerti da Amazon Web Services, Google Cloud e Microsoft Azure.

Tali fornitori offrono infrastrutture avanzate e GPU ad alta potenza con modelli di pagamento flessibili. Inoltre, nuovi provider come CoreWeave offrono cluster GPU su larga scala come servizio, mentre gli hyperscaler propongono opzioni PaaS che consentono l’accesso alle funzionalità AI senza la gestione diretta dell’infrastruttura. Inoltre, i modelli di base pre-addestrati riducono ulteriormente l’onere della formazione per le aziende.

Il report di Uptime Institute prevede che la maggior parte degli investimenti nell’infrastruttura di IA per la formazione su larga scala sarà guidata dagli hyperscaler e dai fornitori di cloud, poiché le aziende cercano di evitare i costi e la complessità legati ai cluster GPU on-premise. Le imprese si affideranno ai servizi di cloud pubblico e a modelli pre-addestrati, ottimizzandoli per ridurre il carico computazionale.

Gli hyperscaler continueranno a investire in infrastrutture avanzate per l’addestramento e l’inferenza, sviluppando circuiti integrati (ASIC – Application-Specific Integrated Circuit) specifici per l’IA per migliorare l’efficienza e ridurre i costi nel tempo. I fornitori di servizi cloud amplieranno il loro portafoglio di modelli di base e di servizi AI predefiniti, facilitando l’integrazione delle funzionalità di IA con una personalizzazione minima.

Inoltre, il mercato del cloud GPU potrebbe vedere un consolidamento, con gli hyperscaler che acquisiscono fornitori specializzati per soddisfare meglio le esigenze aziendali. Ancora, l’accesso semplificato all’IA permetterà anche alle piccole e alle medie imprese di sfruttare potenti capacità di IA senza necessitare di risorse interne estese.

Tuttavia, la dipendenza dal cloud presenta sfide, specialmente in termini di sovranità dei dati e di conformità normativa. Le aziende che trattano informazioni sensibili potrebbero dover adottare strategie come l’anonimizzazione dei dati per la formazione basata su cloud, il che potrebbe influire sulla qualità o specificità dei risultati del modello.

Data Center: protagonisti attivi nella sfida energetica della rete

Uptime prevede che agli sviluppatori di data center nuovi ed espansi verrà chiesto di fornire o immagazzinare energia per supportare le reti. Ciò significa che i data center dovranno collaborare attivamente con le utility per gestire la domanda e la stabilità della rete.

In particolare, gli operatori dei data center che eseguono carichi di lavoro non sensibili alla latenza – quali, ad esempio, specifiche attività di addestramento dell’IA – potrebbero essere incentivati finanziariamente o obbligati a ridurre il consumo di energia quando necessario.

Inoltre, è doveroso evidenziare che la rete elettrica, anche in assenza di data center, avrebbe difficoltà a soddisfare la domanda nel tempo, considerando che non si tratta solo dei data center, ma anche di veicoli elettrici, aria condizionata e decarbonizzazione. Ancora si sta procedendo alla dismissione delle centrali a carbone, sostituendole con centrali rinnovabili, che risultano essere molto meno stabili e più intermittenti. Pertanto, la rete sta affrontando sfide particolari.

L’IA e la revisione radicale dell’elettrificazione dei data center

I requisiti infrastrutturali per l’IA di prossima generazione costringeranno gli operatori a esplorare nuove architetture di alimentazione. Di conseguenza, inizieranno a emergere innovazioni nell’erogazione dell’alimentazione dei data center, quali: l’implementazione della distribuzione di media tensione nello spazio IT e dei trasformatori a stato solido.

I report rivela che, inizialmente, l’attenzione del settore si è concentrata sui problemi di raffreddamento, ma la sfida più urgente ora è l’alimentazione. Gli operatori stanno ora esplorando nuove architetture di elettrificazione per affrontare tale sfida, passando a sistemi a media tensione per gestire le crescenti richieste di potenza dei carichi di lavoro dell’IA.

Poiché i data center devono gestire densità di potenza molto più elevate, ciò sbilancerà le strutture in termini di progettazione e di disposizione dell’infrastruttura elettrica. Ad esempio, i sistemi di IA stanno già raggiungendo livelli di potenza di 100-120 kW per rack, superando di gran lunga le tipiche densità dei data center.

Inoltre, l’hardware AI si sta densificando, con l’attuale generazione di rack di calcolo IA che raggiunge densità di circa 40 kW per rack, ben oltre le densità tipiche. Ancora, le future generazioni di hardware AI, guidate da Nvidia, mirano a densità ancora maggiori, con configurazioni che potrebbero raggiungere i 130 kW per rack entro il 2025 e oltre i 300 kW nel 2026.

E’ doveroso evidenziare che tali livelli di densità, simili a quelli del super computing, pongono nuove sfide per i data center, in particolare per quanto riguarda la distribuzione a bassa tensione e la gestione dello spazio.

Ne consegue che, senza modifiche significative all’architettura di alimentazione, molti data center rischiano di trasformarsi in impianti elettrici con spazi IT relativamente piccoli. Inoltre, la crescente domanda di energia richiederà un ripensamento delle infrastrutture esistenti, soprattutto in contesti urbani o in edifici già esistenti.

Emergeranno alternative a Nvidia

La previsione finale condivisa da Uptime per i data center nel 2025 affronta direttamente il predominio di Nvidia nel mercato delle GPU aziendali. Secondo Uptime, le organizzazioni cercheranno alternative a queste GPU ad alto consumo energetico, specialmente per le attività di inferenza che richiedono meno risorse di elaborazione.

Inoltre, si prevede che nel 2025 l’hardware AI diventerà più diversificato, con l’emergere di alternative ai sistemi AI ad alta densità raffreddati a liquido di Nvidia, tra cui il calcolo distribuito con GPU, le GPU di AMD e i chip IA sviluppati da hyperscaler e startup per carichi di lavoro di inferenza.

Sebbene i sistemi IA ad alta densità e potenza di Nvidia abbiano stabilito lo standard per i requisiti dei data center per supportare carichi di lavoro AI generativi, Uptime sottolinea che ospitare un sistema Nvidia così specializzato richiede significativi cambiamenti nella progettazione e nelle operazioni dei data center.

Poiché l’approccio di Nvidia potrebbe non essere pratico o conveniente per molte aziende, Uptime prevede che esse adotteranno strategie alternative.
Secondo Max Smolaks, analista di ricerca presso Uptime, la maggior parte delle aziende probabilmente utilizzerà modelli di base pre-addestrati e generici così come sono, o migliorerà un modello di base attraverso servizi cloud.

Di conseguenza, la maggior parte del training dell’IA avverrà su infrastrutture cloud o hyperscaler, sia da parte dei fornitori che addestrano e vendono i propri modelli di base sia da parte delle aziende che li perfezionano. La maggior parte delle organizzazioni si accontenterà di soluzioni adeguate piuttosto che perseguire costose opzioni ottimali.