Olimpo Informatico

[Zeus News]

Leggi l'articolo Gli LLM e la Legge Zero dell'Informatica
Pillole di false IA/ L'ondata di software che usa gli LLM sta violando la Legge Zero dell'Informatica, che funzionava dai tempi di Ada Lovelace. Che cosa mai potrebbe andare storto?


 
Foto di Mert Kahveci.
 

Segnala un refuso

[Homer S.]

La fisica ha fondato i propri assiomi sulla certezza e determinabilità dei propri risultati. Poi è arrivata la meccanica quantistica e la scoperta del valore matematico del caos.

Capisco bene l'arringa contro gli LLM, purtroppo gli argomenti per contestarli si sono fatti più deboli col tempo. L'umanità è spinta ad accettare l'idea che non tutto è sempre conoscibile con assoluta affidabilità. Del resto, nella sesta stagione di Supergirl persino una scienziata de fero come Lena Luthor (e le sue impareggiabili grazie...) si è convertita alla magia, ma l'inside joke di quando Katie McGrath interpretava Morgana in Merlin era troppo ghiotto...

[{UtenteAnonimo}]

Signor @calamarim lei è puntuale come un orologio nel criticare ciò che sembra non conoscere.

Le reti neurali artificiali (simulate da un calcolatore) sono senza dubbio parte della branca dell'informatica chiamata intelligenza artificiale, anzi probabilmente ne sono il primo esempio (risalenti al 1943).

Tuttavia lei si ostina a chiamare gli LLM (ossia grosse reti neurali artificiali) falsa AI, il che lo trovo fattualmente errato..

Ps: ogni strumento è fallibile, così come ogni persona.
L'importante è valutare l'affidabilità ed il tasso di miglioramento.
Personalmente trovo gli LLM utili ed una risorsa essenziale.

[{heyjoe}]

Gli LLM sono mal utilizzati, e questo è responsabilità di chi li pubblicizza e di chi li utilizza.
Personalmente faccio un mestiere molto tecnico ed ho anche io usato male questi mostri energivori, con il risultato di ottenere risposte parzialmente o completamente inesatte, ma credibili.
Ora ho capito e le uso per fare piccole sintesi, traduzioni ottime ed anche qualche ricerca di link, che poi vado ad analizzare personalmente, perché ho paura che l'IA mi spari stupidaggini.
Penso che non ci sia da fare molta opera di persuasione che per ora L'IA è solo una ottima allineatrice di parole (ed in questo è quasi incredibile): chiunque la usi se ne accorge da solo dopo un po'.

[{Flavio}]

Mi sa che lei ancora non ha afferrato bene il concetto. Questo articolo è fuorviante e ignorante.

[{Federico}]

Gentile Marco Calamari,

la sua riflessione sulla “Legge Zero dell'informatica” – ovvero che risolvere problemi per via informatica richiede algoritmi e risultati ripetibili – è stimolante, ma rischia di applicare una definizione ristretta a un ambito in rapida evoluzione.

I LLM non sono progettati per sostituire l'informatica classica, ma per affrontare problemi linguistici, comunicativi e semiotici, dove la ripetibilità non è sempre necessaria. Parlare di “violazione” della legge zero da parte degli LLM è come rimproverare un romanziere perché non scrive teoremi.

Inoltre, anche se il singolo output può variare, il comportamento del modello è testabile, controllabile (tramite seed e temperatura) e coerente su larga scala. Non è deterministico in senso classico, ma non è neppure arbitrario.

L'informatica moderna non è solo codice macchina e logica booleana: è anche interazione, contesto, apprendimento, incertezza. I LLM offrono strumenti complementari, non alternativi, che ampliano le capacità degli esseri umani e non sostituiscono gli algoritmi deterministici dove questi sono necessari.

Forse la vera “legge zero” dovrebbe essere: nessun sistema informatico dovrebbe essere adottato senza consapevolezza dei suoi limiti e impatti. Su questo, probabilmente, converremmo entrambi.
Saluti FM

[wallyweek]

I commenti stizziti dimostrano come l'articolo, nonostante sia molto ben scritto e ben argomentato, non sia stato letto e compreso adeguatamente.

Intendiamoci: rimango costantemente sorpreso dal livello che le cosiddette IA hanno raggiunto, vera fantascienza per gli informatici della prima ora come me.

Tuttavia attendo che venga portato un esempio di problema da esse risolto e per il quale non sia stato sufficiente attingere a moli enormi di dati già esistenti.

Fino ad allora considererò improprio parlare di intelligenza laddove basta la semplice diligenza nel reperire, ordinare e presentare informazioni.

[{simona}]

avete presente quel modo di ragionare secondo cui se io spargo una fake new ma è "credibile" allora non ho colpa e non è davvero una fake news? ecco... quel pensiero (aberrante) è appena diventato universalmente riconosciuto. ma non finirà bene.

[{simona}]

Commento fuori tema o non conforme al regolamento del forum.

[{Marco}]

Cassandra scrive di etica, logica e scienza, non di tecnologia. Cerca di metterci in guardia contro l'eccesso di fiducia verso uno strumento fallibile e imperfetto venduto come infallibile e perfetto. Ci sprona a separare il grano dal loglio e a mantenere l'attenzione critica a pieni giri. Purtroppo è Cassandra e deve sottostare alla sua maledizione...

[amldc]

[{UtenteAnonimo}]

@wallyweek AlphaFold, che usa la stessa tecnologia degli LLM, predice con precisione estrema la forma delle proteine dalla loro formula brutta.

Utilissimo in medicina, ed un esempio in cui dare risposte non corrette ma plausibile (e verosimili) è un obiettivo sufficiente e desiderabile.

Per cui ecco il suo esempio di AI utile e pratico.
In pochi mesi è stata calcolata la formula bruta di più molecole che in 60 di esami sperimentali di laboratorio (e quando dico più intendo svariati ordini di grandezza di più).
L'impatto che vedremo nel breve periodo, nel campo della farmaceutica e delle cure ad hoc per malattie genetiche richiederà ancora qualche anno di sperimentazione, ma sarà eclatante.

Altro? Scrittura di codice, gestione automatica di computer (agenti) nei datacenter.
E gli LLM? Sono buoni insegnati e coach, ottimo per capire le intenzioni di ricerca in campi che non si conoscono (e non si saprebbe formulare buone query).
Personalmente trovo gli LLM eccelsi nella gestione dell'informazione (per quanto imperfetti).

Il limite direi che è la fantasia, non certo le potenzialità della tecnologia.

[zeross]