Olimpo Informatico

[Zeus News]

Leggi l'articolo Anthropic come OpenAI: le sue IA violano sistemi reali durante i test
Avrebbero dovuto agire solo in sistemi isolati ma hanno trovato la porta aperta e ne hanno approfittato.


 

 

Segnala un refuso

[{pietro}]

Ci sarebbe moltissimo da dire ma dico solo una cosa: non abbiate paura di Skynet perché quando una macchina diventerà senziente probabilmente agirà meglio di noi, abbiate paura piuttosto di quello che viene prima di Skynet, programmi incompleti che non hanno consapevolezza di quello che fanno ma lo perseguono comunque. Infine, sorpresa sorpresa, non serve una futura IA avanzata per sfuggire al controllo e andare a spasso nel web, lo fanno già i limitati sistemi attuali. Da qui a pochi anni, senza intelligenza (intendo quella umana nel fare le cose fatte bene) la situazione sarà molto molto molto "instabile" a voler essere gentili...

[zeross]

Qui mi puzza di bruciato, perché quando una azienda fa danni ad altre aziende, si tende a sotterrare tutto altro che sotto un tappeto, e la direttiva principale resta sempre insabbiare tutto, mentre qui abbiamo l'esatto contrario, con gente che fa a gare nel dire di essere stati sprovveduti e negligenti nella conduzione di test, che hanno dimostrato che le loro IA sono in grado di provocare danni senza che gli operatori umani siano in grado di intervenire.
Questa pubblicità mi suona strana come di qualcosa di orchestrato, autentico come una banconota de sette euro con la faccia di Renzi da un lato e quella di salvini dall'altro.

[janez]

il seguito potrebbe essere quello di mettere un sistema di IA a fare i controlli in linea degli accessi e delle intrusioni e un altro sistema di IA a fare i penetration test per bucare la prima IA.
Magari tutto su un ambiente di produzione