Olimpo Informatico

[Zeus News]

Leggi l'articolo L'hacker di iPhone e PS3: gli agenti che scrivono codice sono un errore enorme
Per George Hotz non basta che il codice funzioni, deve anche poter essere mantenuto.


 
Foto di Compagnons.
 

Segnala un refuso

[NOPcode]

La scelta di delegare l'intero ciclo di vita del software a sistemi automatici creerà sicuramente enormi problemi in futuro.
Partiamo dal presupposto che il progresso è determinato e guidato dall'uomo, e non il contrario. Per cui quando si discute di LLM (perdonatemi ma proprio non ce la faccio a usare allegramente il termine "intelligenza artificiale", ho una sorta di blocco dell'apparato fonatorio) bisogna sempre tenere a mente che il loro uso non è arrivato nelle professioni e nelle vite delle persone in seguito a qualche evento mistico o extrasensoriale, ma è la conseguenza delle scelte delle grandi aziende che li hanno sviluppati, e che li stanno propinando in tutte le salse alla gente. Bene, ora possiamo continuare.

Dunque si diceva dell'uso degli LLM nell'ambito dello sviluppo software. Che questi sistemi siano in grado di fornire un valido supporto credo stia emergendo chiaramente; resta però un grande (anzi direi "enorme") problema: la differenza di velocità. Mi riferisco alla gigantesca differenza di velocità che esiste tra la produzione del codice e la verifica da parte dell'uomo che poi si deve assumere la responsabilità del funzionamento di quel codice.
Perché è indubbio che la responsabilità debba ricadere in capo a qualcuno. Infatti qui non si parla di creare la prossima versione di Tetris, ma di generare sistemi software ben più complessi e delicati.
Come si può anche solo pensare di delegare la responsabilità del codice a gruppi composti da persone, quando queste stesse persone quel codice non solo non l'hanno scritto, ma non hano avuto modo di verificarlo perché è stato generato a una tale velocità che una verifica reale avrebbe richiesto un tempo tale da vanificare la velocità alla quale è stato generato.

Facciamo un parallelismo: trasliamo tutta la discussione nell'ambito dell'ingegneria civile. Supponiamo che i sistemi usati finora per progettare e costruire ponti, grattacieli, dighe ecc... vengano all'improvviso soppiantati da sistemi automatici molto più rapidi di progettazione e costruzione. Sistemi che però non lasciano trasparire il metodo realmente utilizzato per arrivare al risultato finale. Domanda: "chi si prende la responsabilità se un ponte o una diga progettati e costruiti (e ribadisco: "progettati" e "costruiti") con questi nuovi sistemi dovessero improvvisamente crollare dopo N anni di granitica tenuta strutturale?"

Sembra quasi che l'unico parametro per misurare la bontà dei sistemi software sia la velocità alla quale vengono generati, e che tutto il resto conti così poco a confronto da poter essere messo tranquillamente in secondo piano.

[andbad]

Il problema non è che gli LLM possano generare codice con errori, perché la stessa cosa accade anche con gli umani (non saprei dirti se con maggiore o minore frequenza).
Il problema è la manutenibilità (come dice Hotz): il codice scritto da umani è per lo più leggibile e se c'è un bug con un po' di fatica si scova.
Se gli LLM cominciano a scrivere codice che sanno leggere sol loro, diventa molto complicato.
Pensa così: oggi Claude scrive in Python, Java, C++, ecc... ma non vi è una vera necessità. Potrebbe tranquillamente scrivere direttamente in linguaggio macchina. A quel punto trovare un bug sarebbe quasi impossibile.

By(t)e