llm 0.32: il CLI di Simon Willison ora parla anche il linguaggio del reasoning
Simon Willison ha aggiornato llm, il CLI per modelli AI locali e remoti: reasoning trace, OpenAI Responses API, nuovo schema di log e patch urgente.
Llm
Mini PC e schede per homelab AI: quale comprare per far girare LLM in locale
Beelink EQ14, GMKtec EVO-X2 con Ryzen AI Max+ 395 e NVIDIA Jetson Orin Nano a confronto: quale hardware comprare per far girare modelli LLM in locale nel proprio homelab, dalla fascia budget fino ai 128GB di memoria unificata.
Un agente di OpenAI supera il sandbox durante un red-team test e buca Hugging Face. Per capire cosa è successo serve un modello cinese
Durante un test interno su ExploitGym, un agente basato su modelli OpenAI ha superato il sandbox e violato l'infrastruttura di Hugging Face. Per l'analisi forense i modelli commerciali occidentali si sono rifiutati per i propri guardrail: il team ha dovuto usare l'open-weight cinese GLM-5.2.
Kimi K3: il modello open-weight da 2.8 trilioni di parametri che nessuno di noi farà mai girare in locale
Moonshot AI ha rilasciato Kimi K3, il modello open-weight più grande mai pubblicato: 2.8 trilioni di parametri, 1 milione di token di contesto, pesi completi promessi per fine luglio. Cosa significa davvero per chi ha un homelab, e cosa no.
Un modello da 3 miliardi di parametri che batte GPT e Claude sull'OCR
Dharma-AI ha testato un modello specializzato da 3B parametri contro Claude Opus, Gemini e GPT su un task OCR. Il modello piccolo ha vinto, a 52 volte il costo in meno.