Olimpo Informatico

[Zeus News]

Leggi l'articolo Jalapeño, il primo chip di OpenAI: più efficienza e meno costi operativi
Così ChatGPT punta a smarcarsi da Nvidia.


 
Foto di BoliviaInteligente.
 

Segnala un refuso

[{Murdock}]

Progettato in 9 mesi... ma da chi? Claude?!!!

[{matt}]

Ho provato diversi modelli, e ho avuto l'impressione di aver a che fare con delle unità sottopotenziate, tanto le loro prestazioni si discostavano dalle affermazioni dei produttori.
E il problema non erano le prestazioni velocistiche, ma le capacità dei modelli.
In particolare ho trovato ChatGPT molto ma molto debole nella programmazione, anche di piccole applicazioni, mentre Claude è inutilizzabile senza spendere patrimoni per l'abbonamento e comunque non è all'altezza della sua fama, evidentemente ben costruita dal marketing.
Gemini è interessante, specie per le immagini, ma è un tipico gemello: tante chiacchiere e poche capacità di gestione di commesse di lavoro, anche di piccole dimensioni.
Di sicuro un miglioramento dei chip porterà molti benefici agli hyperscaler, ma altrettanto di sicuro, se non verranno risolti i veri problemi degli LLM, che non sono la velocità, gli utenti aziendali non milionari non avranno alcun beneficio.

[zeross]

[zeross]

Seriamente, i processori NPU hanno molte affinità con i sistemi APE progettati in Italia nel corso di molti decenni, dedicati a calcoli estremamente paralleli, di pura matematica, ma internamente affini alle odierne NPU, che a differenza delle GPU, e dei processori APE, non richiedono calcoli a doppia o tripla precisione, ma molteplici calcoli paralleli da eseguire e restituire valori in tempi ridottissimi.
Anche gli APE nella loro ultima incarnazione si basano su comunicazioni intranodo e internodali per aumentare la capacità senza la complessità, e quindi logico che OpenAI abbia pensato che se progettasse un particolare processore personalizzato per il suo modello di I.A. LLM, potrebbe non solo distaccarsi da NVIDIA come fornitore ( chiunque avrà notato che i processori li fa Broadcom, quindi passa da una ditta all'altra non è un granché come cambio) ma anche come disegnatore delle unita NPU, equindi avere la libertà di portarsi il disegno presso qualsiasi fornitore di fonderia di microprocessori che si rendesse disponibile.
Poi l'efficienza di un modello non è data solo dai microprocessori usati, ma anche dal livello di finezza del programma di simulazione e gestione linguistica, e quindi maggiore tempo passerà ad esercitarsi migliore sara il risultato finale.
Ad oggi l'intelligenza artificiale non è in grado di assolvere compiti produttivi aziendali, e questo non lo dico io, ma ad esempio lo dice Brian Nicol, il capo di Starbucks, che quasi un anno fa aveva annunciato tronfio che la sua I.A., sviluppata da NomadGo, con la visione artificiale, per contare articoli in magazzino, doveva essere 8 volte più veloce e con precisione del 99%, soffriva di allucinazioni reali, mancando spesso il conteggio di scorte essenziali come latte e sciroppi, confondeva i prodotti ed ignorava interi scaffali.
E vi ricordate di Klarna, che annuncio che il suo chatbot faceva il lavoro di 700 persone?
Dopo 15 mesi hanno dovuto ammettere, dopo ripetute lamentele dei clienti e l'inzio di fuga di alcuni di essi, che il servizio faceva schifo ed hanno ricominciato ad assumere personale, che devono addestrare, perché quelli vecchi che hanno licenziato, quasi tutti hanno trovato un nuovo lavoro e di tornare da klarna non ci pensano proprio.
La I.A e meno efficace di quanto sembri sulla carta e due studi indipendenti, usciti recentemente, il primo è la misurazione della IA nel lavoro da remoto che misura come i vari modelli di I.A. assolvano 240 incarichi professionali, ed il risultato e che il miglior modello ha completato correttamente solo il 2,5% dei compiti assegnati.
Il secondo miglior modello ha completato solo 1.25% dei lavori.
Un rapporto invece del MIT sulla efficienza degli investimenti in I.A. ha riscontrato che nel 95% dei casi la I.A. sta fallendo.
Uber ha asserito che il 95% dei suoi ingegneri usa la I.A. e circa il 70% del codice viene prodotto con la I.A.; peccato che tutto il fondo allocato per la I.A. del 2026 sia stato consumato entro il mese di aprile del 2026
Quindi caro {matt}, magna e dormi tranquillo che l'intelligenza artificiale odierna non ti crea problemi.
qui l'articolo in inglese originale che parla del rapporto del MIT

[{Murdock}]

Ho avuto un breve escursus con Claude free e chatgpt per la gestione di operazioni sotto windows.
L'uso di chatgpt mi ha fatto capire che non ne ha voglia, nonostante le richieste, le precisazioni, continua a gestire le informazioni secondo la convenienza e la priorita' che gli vengono date (consumi? carico?) e alla fine e' come quando chiedi qualcosa ad un collega che ti rimbalza sempre con qualche scusa per giustificarsi! e' abbastanza snervante e ti rimane sempre l'ìmpressione di non aver risolto nulla. Perche' avere dei dati processati male sui quali non c'e certezza e' la cosa peggiore, specialmente quando ci perdi un sacco di tempo.
su Claude free invece nessun problema, qualche affinamento per definire bene le richieste (spesso suggerite da lui), il problema e' il tempo limite tra una sessione e la successiva free..
ci sara' soluzione con questi nuovi chip?