Olimpo Informatico

[Johannes]

@{Mx} si, ti confermo. Infatti non conviene nemmeno leggere quelle "sintesi", io già nella domanda scrivevo "dammi i collegamenti diretti alle fonti e risparmiami le tue discussioni logorroiche/logoranti". Inutle dirlo, ma lo dico, difficilmente venivo risparmiato. Come ho già detto, la maggior parte delle mie verifiche era incentrata sulla creazione di codice, dato che volevo vedere se effettivamente ce la facevo a risparmiare un po' di tempo per creare esempi di codice didattico per la (mia) documentazione, ma per progetti minimamente più complessi non avevo nessuna illusione che avrei ricavato qualsiasi cosa di utile. Quella mia idea è stata completamente corroborata, ma mi sono anche accertato che anche per il codice per la documentazione gli LLM erano/sono completamente inutili. Solo cercando da loro le fonti ottenevo qualcosa di valido, informazioni crude, si, da approfondire e plasmare, ma relativamente utili, e rimango della mia idea che almeno per la documentazione, per il mio settore (progettazione e programmazione), è una risorsa meno cattiva di certi (noti) "motori di ricerca". Ora, NON so negli altri settori di attività e altri domini epistemici, ci ho provato abbastanza poche cose, per le quali non posso dire niente di categorico, ma anche lì la mia impressione è che gli LLM siano pressoché inutili (anzi, dannosi, se uno si affida a loro). Tornando alla programmazione, ci metto, molto, ma molto meno tempo facendo il codice da solo, che cercare di chiedere informazioni a quei programmi baccati per poi chiedere rettifche e/o dover fare poi le modifiche a mano. E non parlo di progetti complessi. Parlo di cose banali come quelle già manzionate nel messaggio precedente, e aggiungo che oggi al LLM (forse quello più noto, da te menzionato) oggi ho chiesto di fare una semplice lettura e modifica dei file .ini. Sono attivato a 7-8 linguaggi, dei quali solo un programmino risultava corretto (dopi dei miei interventi) e gli altri completamente inutili e irriparabili nei tempi umani, tanto che - come già detto - mi sono scoccito non volevo andare avanti in qiel modo e proseguirò a rifarli da solo ab ovo. Un'altra cosa che mi irritava è che (premetto che parlo cinque lingue, e l'italiano non è la mia madrelingua, e non ho ragioni "ataviche" - anche se negli ultimi anni mi sono maturate quelle ideologiche - di preferire una lingua rispetto all'altra) continuava a farcire i suoi messaggi con parole, modi di dire e intere frasi, in un altra lingua, quella che in Italia viene propinata a destra e a manca, sostituendo le parole per le quali non se ne sentiva proprio bisogno di avere un qualche rimpiazzo. E la cosa mi irritava parecchio. Anche se quella lingua la parlo, la considero la lingua degli invasori (proprio per le imposizioni politiche che ci stanno dietro, e perché vedo quella terminologia propinataci dai noti media, pressoche tutti, e tutti di proprietà di esponenti italiani della finanza malata, e dei noti lacche' dei plutocrati che qui abbiamo al potere), e non la voglio mischiata all'italiano. Del resto, vivo in Italia, mi rivolgevo a lui in italiano e volevo le risposte in italiano. Nemmeno provare a giocare la carta del "mi sento offeso" non funziona. Uno ha diritto di sentirsi offeso, e da quel programma viene rispettata la cosa, solo se si tratta di questioni "woke" (tanto per usare una parola in "quella" lingua). Per il resto niente. Nessuno ce la farebbe a convincermi che dietro a quelle impostazioni del programma non ci stia un'agenda ben precisa, e ritengo anche di sapere quale, ma esulerebbe troppo dall'argomento dell'articolo sotto il quale stiamo scrivendo. La cosa interessante, però, e questa è stata la ragione per la quale l'ho scitto comunque, che se uno si impunta e glielo dice, comincia a sparare anche delle ammissioni: "Sono programmato così, sono configurato così", ecc. Provate, se non ci credete. Ma dovete impontarvi proprio. Si, d'accordo, c'è qui un onnipresente elemento di accondiscendenza di quel programma, intrinsicamente impresso, che tende a dare ragione all'utente su (quasi) tutto, ma quelle ammisioni non me le aspettavo proprio. Come anche ammissioni simili quando (ormai mi aveva stuzzicato l'appetito) ho provato a interrogarlo sull'agenda dietro al progetto criminale chiamato "COVID-19" e sulle guerre che i plutocrati stanno provocando a destra e a manca. Ancora: Provare per credere. Tornando alle cose veramente importanti, ho notato che qualche risultato senza errori su ottiene se gli si chiede di realizzare del codice nei linguaggi che considero *inferiori* (che non elenco qui dato che non voglio provocare zuffe qui), e solo se gli si chiede cose prettamente sequanziali, programmi monolitici che violano qualsiasi regola di buona progettazione (esempio: codice esequenziale in un noto linguaggio per l'analisi di dati, come quello che si trova in pressoche tutti i libri del settore, fatti da persone che NON sono programmatori). Se gli si comincia a chiedere del codice fatto bene (gli ho chiaramente indicato dei libri, ben noti libri del settore, come modelli di codice come lo vorrei) che spiegano come si progetta in modo corretto, e gli dicevo che volevo il codice fatto così, ecco, lì entrava in un circolo vizioso di errori dal quale non esci più. Chedergli, poi, esempi di codice, realizzati secondo quelle regole di buona progettazione, in Haskell, OCaml, Agda, Scala, Idris, Ada/SPARK, ecc...è una battaglia persa in partenza. Come già detto, bene a sapersi che un LLM non mi sostituirà mai nel mio lavoro, e vorrei rassicurare e rincuorare anche gli altri: A prescindere dal livello delle vostre (in)competenze gli LLM non ce la faranno a sostituirvi.

[Johannes]

@sinapsi70 Premetto che penso che tu sia sincero, e che tu non sia uno di quei "marchettari"/"evangelisti" di un qualche prodotto o servizio. Tuttavia, temo che tu, in questo preciso caso, sia vittima della tua stessa bolla epistemica e - probabilmente - dell'effetto Dunning-Kruger.
Prima di cercare di spiegarmi, provo a esporti una mia esperienza personale (una sola, perché ho fatto diverse sperimentazioni su vari argomenti, con inferenze ottenute praticamente dello stesso tipo, ovvero la corroborazione delle mie idee iniziali). Conoscendo bene come funzionano le tecnologie e - abbastanza bene - dei modelli matematici che stanno dietro a certe tecnologie e alle loro specifiche implementazioni, avevo (come scritto nei miei messaggi precedenti) provato a fare delle verifiche approfondite di alcuni LLM, cercando di capire fino a dove si potevano (o non potevano) spingere. Pertanto, avevo fatto delle domande molto tecniche, su qualcosa molto di nicchia (ti dico che si trattava di creazione di una scheda video rudimentale, a bassissima risoluzione grafica (320x200) per segnale video analogico, di tipo VGA-compatibile, con quel semplice ma potente gioiellino di microcontrollore chiamato Arduino Nano (è per i suoi limiti di frequenza - 15 Mhz - che è difficile a spingerlo oltre la risoluzione specificata, o almeno lo è mantenendo il segnale stabile). La domanda l'ho scelta proprio perché qualche tempo fa cercavo informazioni su questo, e quelle erano abbastanza scarse, in molti casi avevo trovato informazioni palesemente sbagliate. Guarda caso, non solo il motore LLM di turno mi aveva risposto in modo corretto, fornito il codice corretto (dunque pescando tra le poche informazioni quelle giuste), ma lo ha fatto anche descrivendo il progetto con pressoché le stesse parole dalle pagine con spiegazioni tecniche che avevo trovato tempo fa. E sebbene io le domande le ponevo in italiano, e le risposte le ricevevo in italiano, e mentre le pagine che all'epoca avevo letto erano in inglese, le parole erano quelle. Probabilmente tradotte alla lettera (e su questo, penso, conveniamo tutti che gli LLM sono efficenti ed efficacissimi).
Cosa ti volevo dire con questo esempio? Come ho detto, non ho dubbi sulla tua sincerità quando dici "non so nulla di python ma me lo ha creato esattamente come volevo io.. il tutto in pochissimo tempo", e mi dispiace mettere in dubbio la tua convinzione, ma temo che tu sottovaluti quante persone, sparse per il mondo, in qualche specifico forum di nicchia, avendo le tue stesse esigenze, abbiano posto le stesse domande che hai fatto tu. E hanno ottentuto risposte da persone che "ci sapevano fare", Ecco, è li che questi LLM "vanno a pescare". Non è "intelligenza artificiale". Non c'è nessun "ragionamento" dietro le quinte, solo metodi efficacissimi di trovare informazioni tra una quantità enorme di dati già memorizzata ed analizzata. Non è roba da poco, intendiamoci, e chi sostiene il contrario lo invito ad andare a studiare i modelli matematici ed implementazioni informatiche che stanno dietro a questi LLM. Ma non è qui il punto. Il punto è che capendo la natura dei sistemi, siamo in grado di capire anche i limiti. In verità questo si ripercuote in modo sotto gli occhi di tutti. Penso che a tutti qui sia capitato che un LLM scrisse qualcosa tipo "Tu hai detto questo e quello e io ti rispondo così e così". E se ci fate caso, spesso quello che vi viene detto "Tu hai detto questo e quello" voi sapete (lo vedete sullo schermo) che non lo avete detto affatto. Ho chiesto (chi meglio dell'LLM stesso?) se è dovuto alla ricerca di analogie e contenuti simili a quello che legge da noi, ed ho ottenuto l'ammissione. Dunque, non trovando gli stessi contenuti che gli abbiamo chiesto, va a "pescare" tra qualcosa che gli "pare" molto simile (chiaramente non gli "pare" niente, ci sono sistemi di equazioni vettoriali dietro le quinte, ed elaborazioni statistiche e stocastiche, ma vi risparmio questo) a quello che gli avete chiesto voi. E così "tenta la fortuna" sparando la risposta che in quel momento ha il punteggio maggiore / viene calcolata come la più probabile. Se voi obiettate in qualche modo, LLM, da gran signore, vi da ragione (parlavo anche di accondiscendenza del programma, no?) e corregge il tiro cercando un percorso diverso tra i dati che ha a disposizione. E nel frattempo rafforza i percorsi scelti e "toglie i punti" a quelli da voi (e/o da altri) scartati. Non senza ragione l'approccio (meglio dire: tecnica) si chiama Reinforcement Learning from Human Feedback (RLHF).
Dunque, mi dispiace confutare la tua tesi, ma qui si tratta, a tutti gli effetti, di una bolla speculativa, ma anche di progetti (definirli "criminali" non è fuori luogo) dove qualche gruppo di imprenditori scaltri "munge" gli investitori, promettendo, per qualcosa che non corrisponderà mai alle promesse fatte, con l'omertà e/o complicità di personale tecnico che fa quelle stesse cose, per le stesse motivazioni, a un livello un pocchino più basso. E che "tutte le aziende lo usano" non è certo, e non lo è mai stato, un argomento valido a favore di niente. Se ne potra parlare di una qualche effettiva utilià di questi sistemi solo quando la bolla sarà scoppiata, e quando il settore purgherà un po' di futilità accumulata attorno a se. Purtroppo, è da rendersi conto anche che queste cose continueranno, ciclicamente, dato che le "schegge" di questi scoppi continueranno a volare, cercheranno anche altri sbocchi e la "purga" vera è difficile che avenga. Perché ne sono tanto sicuro? Per motivi della (maligna) sinbiosi tra economia neoclassica e finanza malata, che nei paesi occidentali viene seguito come la lettera sacra. Se avessimo qualche forma di economia schumpeteriana, penso che sia ragionevole suporre che le cose andrebbero diversamente. Nella teoria economica schumpeteriana non è per niente visto come negativo il fallimento dei parassiti assieme alle bolle che hanno generato, è - anzi - un imperativo e un ciclo naturale di assestamento della società e dell'economia. Vedi per esmepio, i termini coniati da Schumpeter di "distruzione creatrice" o di "distruzione creativa". Si, lo sto semplificando un po' (ma forse neanche troppo), ma spero che renda l'idea. In sostanza, attendo fiducioso che (anche questa) bolla scoppi. Per il bene di tutti.