Olimpo Informatico

[Zeus News]

Leggi l'articolo Microsoft pubblica il Codice di Comportamento per lo sviluppo della IA
Un punto chiave è che nessuna agente deve potersi opporre al suo spegnimento.


 
Foto di Amos K.
 

Segnala un refuso

[francescodue]

Che sia MS a parlare di sicurezza e controllo è abbastanza ironico.
Certo è una buona cosa che qualcuno cominci a parlare di regole di controllo.
Ma detto da lei è una specie di presa in giro.

[zero]

Manca solo un "piccolo" dettaglio: come obblighi l'AI a seguire le regole?
(e non tirate fuori le Tre leggi della robotica, che sono sole fantasie)


.

[{keuro}]

Avendo Copilot, e grosse partecipazioni sia in OpenAi, sia in Anthropic, una importante fetta delle IA americane sarà coinvolta da questa regolamentazione, ed è un grosso bene perché i clienti delle altre IA chiederanno le stesse garanzie, estendendo la ragionevolezza anche dove attualmente è carente.
Vedo dietro le quinte la spinta della manina segreta dei Five Eyes.
Io avrei aggiunto anche che il personale che istruisce l'IA deve essere formato in maniera tale da dare i giusti input alle stesse, perché gli attacchi di cui si parla nell'articolo sono dovuti a errate formulazioni dei comandi, non a una supposta autonomia decisionale delle macchine.

[francescodue]

Credo che Zero abbia centrato il punto.
Finchè saranno istruzioni software a "garantire" la sicurezza, le IA avranno sempre una possibilità di eludere il controllo.

Riguardo alle onorate 3 leggi mi viene da pensare che venivano applicate a robot autonomi: quindi un apposito comando vocale poteva essere recepito da un circuito indipendente che toglieva l'alimentazione e a cui il cervello del robot non aveva accesso. Suppongo che qualcosa di simile verrà implementato su unità autonome e semiautonome per interventi di emergenza.

Vorrei ricordare che Asimov, dopo averle inventate, si divertì parecchio a eluderle. Come a dire che non esiste una sicurezza assoluta.

[{torsilio}]

Non credo affatto che le tre leggi (che poi sono diventate quattro) siano fantasie.
Sono migliaia di anni che funzionano sull'umano, inculcate dalle religioni, con l'eccezione di psicopatici e narcisisti, strutture non presenti nelle macchine, almeno per ora.

[{HAL 9000}]

Sognerò?

[zeross]

[Gladiator]

Speriamo che lo facciano veramente...

In ogni caso, un bel pulsante di emergenza a fungo che stacca corrente al data center, comandato da un supervisore umano da utilizzarsi al bisogno potrebbe funzionare...

[francescodue]

Ricordo una vecchia serie televisiva, o meglio un episodio in particolare.
C'era stata una guerra e sulla terra l'unico umano rimasto doveva resettare un orologio per non lanciare missili nucleari contro gli alieni visto che la guerra era già stat vinta.
Per essere certo che non fosse necessario lanciare i missili contattava il suo comando operativo e gli rispondeva un altro umano, in orbita, che lo rassicurava.
Il punto, che si scopriva alla fine, era che la trasmissione dall'orbita era falsa: gli alieni avevano già vinto ma avevano bisogno solo di un po' di tempo per disarmare i missili.