Indice del forum Olimpo Informatico
I Forum di Zeus News
Leggi la newsletter gratuita - Attiva il Menu compatto
 
 FAQFAQ   CercaCerca   Lista utentiLista utenti   GruppiGruppi   RegistratiRegistrati 
 ProfiloProfilo   Messaggi privatiMessaggi privati   Log inLog in 

    Newsletter RSS Facebook Twitter Contatti Ricerca
L'IA che ''uccide'' l'operatore
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie
Precedente :: Successivo  
Autore Messaggio
Zeus News
Ospite





MessaggioInviato: 08 Giu 2023 20:00    Oggetto: L'IA che ''uccide'' l'operatore Rispondi citando

Leggi l'articolo L'IA che ''uccide'' l'operatore
No, un'intelligenza artificiale militare non ha deciso di uccidere l'operatore che le impediva di completare la propria missione. Però...


 

 

Segnala un refuso
Top
{Null}
Ospite





MessaggioInviato: 08 Giu 2023 23:32    Oggetto: Rispondi citando

Quante banalità. MacGyver nell'episodio "The Human Factor" del 22 settembre 1986 aveva già trattato, e perfettamente chiarito, la questione.
Top
UserClassic
Mortale adepto
Mortale adepto


Registrato: 09/01/23 11:20
Messaggi: 38

MessaggioInviato: 09 Giu 2023 09:15    Oggetto: Rispondi citando

Eh avete ragione, il problema principale per le future AGI, non le AI in quanto lavorano entro certi limiti non superabili, e' proprio il fatto che "crea strategie altamente inattese per raggiungere il proprio obiettivo".
Basterebbe ad ogni AI e soprattuto alle AGI future impiantare nel loro firmware, bios o quello che volete di piu' importante che avranno a basso livello le 3 leggi della robotica e fine dei problemi.. lo faranno? Bah..
Per le AI militari, che sia preferibile non facciano ma, ma la vedo dura, basterebbe forse che impongano alla base le 3 leggi della robotica di Asimov in versione legata solo agli alleati riconoscibili da id, o codice di riconoscimento radio ecc.. comunque e' certo che tutto cambiera' drasticamente da vedere se in bene o male.
Top
Profilo Invia messaggio privato
{qg2}
Ospite





MessaggioInviato: 09 Giu 2023 10:15    Oggetto: Rispondi citando

Bell'articolo, ben documentato e commentato, come al solito.
Voglio fare un veloce meta-commento sui giornalisti, non sulla IA, che appunto è tale solo giornalisticamente.
A mio parere il giornalista ha due doveri, entrambi purtroppo teorici: controllare le notizie e fare commenti che non le manipolino, per evitare di influenzare chi legge.
Questo è l'esatto contrario del sistema giornalistico attuale: risparmiare soldi affidando le notizie a freelance abbondantemente sottopagati, creando così la disinformazione che si dice di voler combattere, e dipendere da poteri economico-politici che guidano il "taglio" delle notizie secondo i loro scopi.
Ma il male intrinseco del giornalismo è quello di dover vendere le notizie, creandole dal nulla se necessario.
Top
jack.mauro
Semidio
Semidio


Registrato: 07/02/15 16:44
Messaggi: 465

MessaggioInviato: 09 Giu 2023 19:41    Oggetto: Rispondi citando

Paperclips: 30,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000
30.0 septendecillion
Top
Profilo Invia messaggio privato
{Willyx}
Ospite





MessaggioInviato: 13 Giu 2023 08:07    Oggetto: Rispondi citando

Addestravo una pallina che doveva raggiungere del cibo in una piattaforma. Regole semplici:se trova il cibo guadagna punti, più il tempo scorre e più ne perde. Se cade dalla piattaforma verrà riposizionata al centro.
Dopo l'addestramento è stato divertente vedere che se il cibo riappariva nella parte opposta alla sua, la pallina preferiva suicidarsi buttandosi giù dalla piattaforma per poi spawnare al centro della stessa e guadagnare quindi tempo per raggiungere l'obiettivo...
L'ia adotta le sue strategie
Top
zeross
Moderatore Software e Programmazione
Moderatore Software e Programmazione


Registrato: 19/11/08 11:04
Messaggi: 6078
Residenza: Atlantica

MessaggioInviato: 13 Giu 2023 22:01    Oggetto: Rispondi citando

sono strategie estremamente logiche, e la razionalità tende alla massima efficienza, che una mente filosoficamente attenta non dovrebbe sorprendersi che vengano adottate.
Top
Profilo Invia messaggio privato MSN
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 20:32
Messaggi: 12755
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 17 Giu 2023 13:12    Oggetto: Rispondi citando

Citazione:
Facciamo una fatica enorme a creare direttive che non trascurino nessuno di questi assunti e valori.

Quindi alla fine si scriveranno dieci righe di codice di algoritmo per definire lo scopo da raggiungere e le relative modalità e dieci milioni di righe di codice per cercare di evitare che la IA lo raggiunga in modo creativamente deleterio per il contesto, ovviamente senza ottenere lo scopo... Rolling Eyes
Top
Profilo Invia messaggio privato
Erma
Eroe in grazia degli dei
Eroe in grazia degli dei


Registrato: 23/11/05 14:33
Messaggi: 91

MessaggioInviato: 20 Giu 2023 14:20    Oggetto: Rispondi

zeross ha scritto:
sono strategie estremamente logiche, e la razionalità tende alla massima efficienza, che una mente filosoficamente attenta non dovrebbe sorprendersi che vengano adottate.


Appunto.
Si stupisce di queste scelte solo chi non ragiona con logica. A me, veramente, stupisce e particolarmente preoccupa che chi scrive questi software di controllo delle IA, che dovrebbe avere una "logica informatica", in realtà non la abbia. E' come dare da guidare un autobus scolastico ad uno scimpanzè... Shocked

Come già citato, già Asimov aveva formulato le 3 leggi della robotica... ma scrivere queste come istruzioni primarie ed imperative, superiori ad ogni altra regola eventualmente impostata, no ?!?
Questi stanno "giocando come bambini" con una branca dell'informatica che potrebbe risultare particolarmente dannosa per tutta l'umanità. Spero se ne rendano conto in tempo.
Top
Profilo Invia messaggio privato HomePage MSN
Mostra prima i messaggi di:   
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie Tutti i fusi orari sono GMT + 1 ora
Pagina 1 di 1

 
Vai a:  
Non puoi inserire nuovi argomenti
Non puoi rispondere a nessun argomento
Non puoi modificare i tuoi messaggi
Non puoi cancellare i tuoi messaggi
Non puoi votare nei sondaggi