Mini-Pc

Questo articolo contiene link di affiliazione Amazon. Se acquisti tramite questi link, potrei ricevere una piccola commissione, senza costi aggiuntivi per te. Mi chiedono spesso quale mini PC comprare per far girare un LLM in casa, e la risposta onesta è “dipende da cosa intendi per far girare un LLM”, perché tra un modello 7B che risponde in due secondi e uno che ci mette dieci minuti a produrre un paragrafo c’è un abisso di aspettative deluse. Ho messo mano, tra acquisti diretti e prove su hardware di amici, a tre categorie molto diverse di macchine per l’inferenza locale, e vale la pena capire prima di comprare in quale fascia ti trovi davvero, perché il salto di prezzo tra una e l’altra è enorme e non sempre giustificato dal tuo caso d’uso. ...

Non ho un NAS Synology nuovo. Ho due OptiPlex recuperati, due vecchi Synology DS112j comprati usati anni fa e un setup che nel tempo si è un po’ stratificato. Non è la soluzione più pulita del mondo, ma funziona e mi è costata una frazione di quello che avrei speso comprando tutto nuovo. Vale la pena raccontarlo, anche perché secondo me il mercato dei PC aziendali usati è ancora sottovalutato per questo tipo di utilizzo. ...