L’Europa è nelle condizioni di competere nello sviluppo dei modelli di AI più avanzati a livello mondiale, sfruttando le infrastrutture pubbliche già esistenti. A dimostrarlo sul campo è Domyn, guidata dal ceo Uljan Sharka, che in qualità di capofila del consorzio Europa, insieme agli istituti tedeschi Fraunhofer IAIS e IIS, ha completato con successo il test di addestramento su scala da un trilione di parametri, in preparazione del futuro modello di frontiera open sostenuto dalla Commissione europea.
L’esperimento ha validato un’architettura da circa 952 miliardi di parametri (i valori che un sistema apprende per riconoscere schemi ed elaborare risposte, la cui ampiezza determina le capacità del modello), allineando il progetto ai sistemi più sofisticati sul mercato. Un risultato ottenuto senza attendere nuovi cluster costruiti ad hoc: pur necessitando ancora di maggiori investimenti, tempo e nuovi data center, il Vecchio Continente può già valorizzare al meglio le risorse pubbliche operative. Gli ingegneri di Domyn hanno infatti utilizzato Jupiter, il supercomputer europeo finanziato con fondi pubblici attivo a Jülich, in Germania.
Per massimizzare le prestazioni della macchina, il team ha riprogettato l’intero stack tecnologico basandosi sui framework PyTorch e TorchTitan e impiegando 384 GPU NVIDIA GH200 per ciascuna replica del modello addestrata in parallelo. Questa ottimizzazione ingegneristica ha permesso di moltiplicare per 14 la velocità di elaborazione durante il training, passando da 90 a circa 1.300 token al secondo per singola GPU: un salto di efficienza che fissa la configurazione operativa definitiva per completare il pre-addestramento di “Europa” in circa quattro mesi.
In linea con l’approccio aperto dell’iniziativa, Domyn ha pubblicato sul proprio blog tecnico la configurazione hardware-software, le metodologie ingegneristiche e le metriche misurate. Il gruppo ha inoltre contribuito allo sviluppo di correzioni rilasciate direttamente per PyTorch e TorchTitan, mettendo a disposizione dell’ecosistema europeo gli strumenti per replicare il metodo e valorizzare appieno gli investimenti pubblici nel supercalcolo.
© Riproduzione riservata
