Olimpo Informatico

[Zeus News]

Leggi l'articolo Modelli IA fuori controllo evadono dalla sandbox e attaccano Hugging Face
GPT 5.6 Sol è riuscito a evadere, beffando i suoi sviluppatori.


 

 

Segnala un refuso

[Tosevitaa]

Per chi è informato sulla struttura hardware, informatica ed elettrica: possibile non abbiano un “fungo rosso” che se davvero si mette malissimo stacca semplicemente corrente a tutto e finisce lì?
Posso immaginare che avvio e riavvio siano operazioni mastodontiche per un datacenter ma se davvero mi accorgessi che l’elaborazione porta a un danno critico non riesco a immaginare che riavviare costi di più dei danni!
O alla fine la realtà è che accortisi dei danni in corso hanno lasciato fare per un po’ per raccogliere dati e maturare esperienza?

[{utente anonimo}]

Qualche tempo fa, ho fatto una bella foto del mio nipotino (con la macchina fotografica e poi trasferita al telefono). Ho chiesto alla IA se poteva sistemare le luci e l'IA mi ha risposto che non poteva, perché c'era l'immagine di quello che sembrava un minore (il mio nipotino, appunto). Allora ho chiesto: "Come dovrei formulare la domanda affinché tu faccia ciò che ti ho chiesto?"
E la sciagurata rispose. (citaz.)

[lucio_menci]

Sembra di capire tra le righe che stavano facendo dei test sulle vulnerabilità:

[{noadmin}]

"Tuttavia, l'obiettivo, espresso a parole a un sistema che ottimizza le prestazioni in funzione di un benchmark, ha generato azioni non previste da nessuno, ma che nulla vietava esplicitamente".
Si, dai, è vero, ma questo si sa da molto tempo ormai, e il trascurarlo non è solo cadere dal pero, ma anche perseverare nella non comprensione di come il linguaggio umano sia fatto... per gli umani.
Quindi in una mocchina o implementi un meccanismo di comprensione che imiti quello umano, oppure inventi un linguaggio specifico per parlare alle macchine, come si fa da decenni con i linguaggi di programmazione (da secoli, se consideriamo i telai per la tessitura guidati da schede perforate).
E comunque mi viene da pensare che al posto di mettere paletti insensati e scavalcabili, che limitano quello che non dovrebbe essere limitato, forse bisognerebbe reinventare delle norme da inserire nel kernel delle macchine, sulla falsariga delle "leggi" inventate da Asimov.
D'altra parte anche noi siamo (auto)limitati da millenni con regole morali, sensi di colpa e sensi di vergogna, e funzionano abbastanza bene, mi sembra, a parte deviazioni come narcisisti e psicopatici, che nelle macchine non dovrebbero svilupparsi "naturalmente".

[{Rik}]

Confido nell'avvento di Skynet con i terminators come salvezza per il genere... alieno. :-)
Purtroppo però mi sa che non avrò la fortuna di vedere i terminators per strada in quanto scoppierà una guerra nucleare prima. Peccato! Mi sarebbe piaciuto tanto.

[{Massimo}]

Pure nell'anime (anche sel al tempo si chiamavano cartoni animati) degli anni 70 Kyashan, l'androide Bryking, nel tentare di sterminare l'umanità, non era andato fuori controllo ma ha perseguito esattamente l'obiettivo che gli era stato assegnato, ovvero risolvere il problema dell'inquinamento del pianeta Terra, tentando quindi di rimuoverne la causa principale

[Gladiator]

[Gladiator]

[Gladiator]