Olimpo Informatico

[Zeus News]

Leggi l'articolo L'hacker di iPhone e PS3: gli agenti che scrivono codice sono un errore enorme
Per George Hotz non basta che il codice funzioni, deve anche poter essere mantenuto.


 
Foto di Compagnons.
 

Segnala un refuso

[NOPcode]

La scelta di delegare l'intero ciclo di vita del software a sistemi automatici creerà sicuramente enormi problemi in futuro.
Partiamo dal presupposto che il progresso è determinato e guidato dall'uomo, e non il contrario. Per cui quando si discute di LLM (perdonatemi ma proprio non ce la faccio a usare allegramente il termine "intelligenza artificiale", ho una sorta di blocco dell'apparato fonatorio) bisogna sempre tenere a mente che il loro uso non è arrivato nelle professioni e nelle vite delle persone in seguito a qualche evento mistico o extrasensoriale, ma è la conseguenza delle scelte delle grandi aziende che li hanno sviluppati, e che li stanno propinando in tutte le salse alla gente. Bene, ora possiamo continuare.

Dunque si diceva dell'uso degli LLM nell'ambito dello sviluppo software. Che questi sistemi siano in grado di fornire un valido supporto credo stia emergendo chiaramente; resta però un grande (anzi direi "enorme") problema: la differenza di velocità. Mi riferisco alla gigantesca differenza di velocità che esiste tra la produzione del codice e la verifica da parte dell'uomo che poi si deve assumere la responsabilità del funzionamento di quel codice.
Perché è indubbio che la responsabilità debba ricadere in capo a qualcuno. Infatti qui non si parla di creare la prossima versione di Tetris, ma di generare sistemi software ben più complessi e delicati.
Come si può anche solo pensare di delegare la responsabilità del codice a gruppi composti da persone, quando queste stesse persone quel codice non solo non l'hanno scritto, ma non hano avuto modo di verificarlo perché è stato generato a una tale velocità che una verifica reale avrebbe richiesto un tempo tale da vanificare la velocità alla quale è stato generato.

Facciamo un parallelismo: trasliamo tutta la discussione nell'ambito dell'ingegneria civile. Supponiamo che i sistemi usati finora per progettare e costruire ponti, grattacieli, dighe ecc... vengano all'improvviso soppiantati da sistemi automatici molto più rapidi di progettazione e costruzione. Sistemi che però non lasciano trasparire il metodo realmente utilizzato per arrivare al risultato finale. Domanda: "chi si prende la responsabilità se un ponte o una diga progettati e costruiti (e ribadisco: "progettati" e "costruiti") con questi nuovi sistemi dovessero improvvisamente crollare dopo N anni di granitica tenuta strutturale?"

Sembra quasi che l'unico parametro per misurare la bontà dei sistemi software sia la velocità alla quale vengono generati, e che tutto il resto conti così poco a confronto da poter essere messo tranquillamente in secondo piano.

[andbad]

Il problema non è che gli LLM possano generare codice con errori, perché la stessa cosa accade anche con gli umani (non saprei dirti se con maggiore o minore frequenza).
Il problema è la manutenibilità (come dice Hotz): il codice scritto da umani è per lo più leggibile e se c'è un bug con un po' di fatica si scova.
Se gli LLM cominciano a scrivere codice che sanno leggere sol loro, diventa molto complicato.
Pensa così: oggi Claude scrive in Python, Java, C++, ecc... ma non vi è una vera necessità. Potrebbe tranquillamente scrivere direttamente in linguaggio macchina. A quel punto trovare un bug sarebbe quasi impossibile.

By(t)e

[{UtenteAnonimo}]

@andbad No gli LLM scrivono meglio in linguaggi di alto livello e difficilmente sarebbero efficaci con linguaggi di basso livello come il linguaggio macchia.
Quindi si Claude scrive in C e Java per necessità non per scelta.
Un LLM necessità, per apprendere bene, di una certa densità informativa nel linguaggio e quindi di astrazione.

Certo ci si potrebbe inventare il linguaggio XY comprensibile solo ad un LLM e non agli umani.. in teoria.. in pratica dubito sia fattibile.

Un LLM lega statisticamente le parole in un modo che produce effetti secondari (a volte indesiderati) molto simili a quelli di cui è vittima anche la nostra mente.
Io credo che il modello matematico che descrive i due enti (mente e LLM) abbia più punti di contatto di quanto oggi si sospetti, e sono scettico circa il fatto che possa esistere un linguaggio che gli LLM (per come sono realizzati oggi) possono capire ma che la nostra mente non è attrezzata a gestire.

[Gladiator]

[zeross]

[zeross]