- click per ingrandire -

Quattro mini PC collegati tra loro per eseguire localmente un modello linguistico di grandi dimensioni, senza utilizzare un server tradizionale. È l'esperimento realizzato da GEEKOM con quattro A9 Mega, che il produttore presenterà anche a IFA 2026 con il nome AGENT 4N. L'aspetto interessante del progetto non è tanto l'ennesimo richiamo all'intelligenza artificiale, quanto la configurazione hardware utilizzata. I quattro mini PC vengono fatti lavorare come un unico sistema distribuito attraverso collegamenti USB4 a 40 Gbps, ottenendo complessivamente 512 GB di memoria unificata a disposizione del cluster.

Quattro Ryzen AI Max+ 395 e 512 GB di memoria

Ogni GEEKOM A9 Mega utilizza un processore AMD Ryzen AI Max+ 395 basato su architettura Zen 5, con 16 core e 32 thread, affiancato dalla GPU integrata Radeon 8060S con 40 Compute Unit RDNA 3.5 e dalla NPU XDNA 2. La configurazione utilizzata da GEEKOM dispone inoltre di 128 GB di memoria LPDDR5X-8000 per ciascun nodo. I quattro sistemi portano quindi il totale a 64 core CPU, 128 thread e 512 GB di memoria, anche se quest'ultima rimane fisicamente distribuita tra i diversi nodi e non equivale naturalmente a un singolo spazio di memoria condiviso da 512 GB.

È proprio la disponibilità di molta memoria per ciascun nodo a rendere particolarmente interessante Ryzen AI Max+ 395 per questo genere di applicazioni: CPU e GPU utilizzano infatti la stessa memoria, permettendo di assegnarne una parte consistente alla componente grafica senza ricorrere a GPU discrete dotate di VRAM separata.

DeepSeek distribuito attraverso USB4

Il cluster utilizza Ubuntu, ROCm e DwarfStar per distribuire tra le quattro macchine una versione ottimizzata di DeepSeek V4 Flash. Le connessioni tra i nodi sfruttano le porte USB4, evitando quindi l'impiego di uno switch di rete ad alta velocità dedicato.

Un'API compatibile con quella di OpenAI permette inoltre alle applicazioni e agli agenti software di interrogare il modello senza dover essere sviluppati specificamente per questa configurazione hardware. Il vantaggio principale di una soluzione di questo tipo è la possibilità di mantenere l'intero processo di inferenza all'interno della propria infrastruttura. Documenti, codice sorgente, prompt e altri dati utilizzati dal modello possono quindi rimanere sulla rete locale invece di essere inviati a un servizio AI remoto.

Circa 14,6 token al secondo nei test GEEKOM

GEEKOM ha pubblicato anche alcuni primi dati sulle prestazioni del sistema. Con una singola richiesta concorrente il cluster avrebbe raggiunto circa 14,61 token al secondo, con un P95 (95° percentile) del tempo necessario per ottenere il primo token di circa 0,42 secondi nei test con output da 32 e 128 token. Si tratta di risultati dichiarati dal produttore e non di benchmark indipendenti, ma forniscono comunque un'indicazione sulle prestazioni ottenibili da una configurazione composta esclusivamente da mini PC.

GEEKOM dichiara inoltre di aver sperimentato contesti fino a 250.000 token. Più che la velocità pura di generazione, una configurazione del genere punta quindi sulla capacità di gestire localmente modelli e contesti di grandi dimensioni, ad esempio per analizzare documenti, basi di codice, archivi aziendali o sistemi RAG.

Ogni A9 Mega può funzionare anche autonomamente

La struttura a nodi permette di partire da uno o due A9 Mega e aggiungere successivamente altri sistemi. Ogni mini PC rimane infatti utilizzabile autonomamente quando non viene impiegato come parte del cluster. L'A9 Mega dispone di due USB4 da 40 Gbps, due HDMI 2.1, due Ethernet 2,5GbE, Wi-Fi 7 e due slot M.2 PCIe 4.0. Il Ryzen AI Max+ 395 può funzionare con un TDP configurabile fino a 120 W, mentre GEEKOM utilizza un sistema di raffreddamento con doppia ventola e vapor chamber.

La configurazione commerciale con Ryzen AI Max+ 395, 128 GB di RAM e SSD da 2 TB è attualmente proposta sul mercato statunitense a 3.999 dollari per singola macchina. Un cluster composto da quattro unità rappresenta quindi un investimento importante e non costituisce necessariamente un'alternativa economicamente conveniente a un server GPU dedicato; l'interesse del progetto risiede soprattutto nel dimostrare la possibilità di distribuire carichi AI di grandi dimensioni utilizzando sistemi compatti basati su hardware consumer.

Il cluster sarà mostrato a IFA 2026

GEEKOM porterà la configurazione a IFA 2026 con il nome AGENT 4N – AI Solutions Powered by GEEKOM. La dimostrazione permetterà di vedere i quattro A9 Mega impegnati nell'esecuzione distribuita del modello e di valutare più concretamente prestazioni e limiti di una soluzione di questo tipo.

Per maggiori informazioni: GEEKOM A9 Mega