Precedente :: Successivo |
Autore |
Messaggio |
Zeus News Ospite
|
Inviato: 08 Giu 2023 20:00 Oggetto: L'IA che ''uccide'' l'operatore |
|
|
Leggi l'articolo L'IA che ''uccide'' l'operatore
No, un'intelligenza artificiale militare non ha deciso di uccidere l'operatore che le impediva di completare la propria missione. Però...
Segnala un refuso |
|
Top |
|
|
{Null} Ospite
|
Inviato: 08 Giu 2023 23:32 Oggetto: |
|
|
Quante banalità. MacGyver nell'episodio "The Human Factor" del 22 settembre 1986 aveva già trattato, e perfettamente chiarito, la questione. |
|
Top |
|
|
UserClassic Mortale adepto
Registrato: 09/01/23 11:20 Messaggi: 38
|
Inviato: 09 Giu 2023 09:15 Oggetto: |
|
|
Eh avete ragione, il problema principale per le future AGI, non le AI in quanto lavorano entro certi limiti non superabili, e' proprio il fatto che "crea strategie altamente inattese per raggiungere il proprio obiettivo".
Basterebbe ad ogni AI e soprattuto alle AGI future impiantare nel loro firmware, bios o quello che volete di piu' importante che avranno a basso livello le 3 leggi della robotica e fine dei problemi.. lo faranno? Bah..
Per le AI militari, che sia preferibile non facciano ma, ma la vedo dura, basterebbe forse che impongano alla base le 3 leggi della robotica di Asimov in versione legata solo agli alleati riconoscibili da id, o codice di riconoscimento radio ecc.. comunque e' certo che tutto cambiera' drasticamente da vedere se in bene o male. |
|
Top |
|
|
{qg2} Ospite
|
Inviato: 09 Giu 2023 10:15 Oggetto: |
|
|
Bell'articolo, ben documentato e commentato, come al solito.
Voglio fare un veloce meta-commento sui giornalisti, non sulla IA, che appunto è tale solo giornalisticamente.
A mio parere il giornalista ha due doveri, entrambi purtroppo teorici: controllare le notizie e fare commenti che non le manipolino, per evitare di influenzare chi legge.
Questo è l'esatto contrario del sistema giornalistico attuale: risparmiare soldi affidando le notizie a freelance abbondantemente sottopagati, creando così la disinformazione che si dice di voler combattere, e dipendere da poteri economico-politici che guidano il "taglio" delle notizie secondo i loro scopi.
Ma il male intrinseco del giornalismo è quello di dover vendere le notizie, creandole dal nulla se necessario. |
|
Top |
|
|
jack.mauro Semidio
Registrato: 07/02/15 16:44 Messaggi: 467
|
Inviato: 09 Giu 2023 19:41 Oggetto: |
|
|
Paperclips: 30,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000
30.0 septendecillion |
|
Top |
|
|
{Willyx} Ospite
|
Inviato: 13 Giu 2023 08:07 Oggetto: |
|
|
Addestravo una pallina che doveva raggiungere del cibo in una piattaforma. Regole semplici:se trova il cibo guadagna punti, più il tempo scorre e più ne perde. Se cade dalla piattaforma verrà riposizionata al centro.
Dopo l'addestramento è stato divertente vedere che se il cibo riappariva nella parte opposta alla sua, la pallina preferiva suicidarsi buttandosi giù dalla piattaforma per poi spawnare al centro della stessa e guadagnare quindi tempo per raggiungere l'obiettivo...
L'ia adotta le sue strategie |
|
Top |
|
|
zeross Moderatore Software e Programmazione
Registrato: 19/11/08 11:04 Messaggi: 6216 Residenza: Atlantica
|
Inviato: 13 Giu 2023 22:01 Oggetto: |
|
|
sono strategie estremamente logiche, e la razionalità tende alla massima efficienza, che una mente filosoficamente attenta non dovrebbe sorprendersi che vengano adottate. |
|
Top |
|
|
Gladiator Dio maturo
Registrato: 05/12/10 20:32 Messaggi: 12823 Residenza: Purtroppo o per fortuna Italia
|
Inviato: 17 Giu 2023 13:12 Oggetto: |
|
|
Citazione: | Facciamo una fatica enorme a creare direttive che non trascurino nessuno di questi assunti e valori. |
Quindi alla fine si scriveranno dieci righe di codice di algoritmo per definire lo scopo da raggiungere e le relative modalità e dieci milioni di righe di codice per cercare di evitare che la IA lo raggiunga in modo creativamente deleterio per il contesto, ovviamente senza ottenere lo scopo... |
|
Top |
|
|
Erma Eroe in grazia degli dei
Registrato: 23/11/05 14:33 Messaggi: 91
|
Inviato: 20 Giu 2023 14:20 Oggetto: |
|
|
zeross ha scritto: | sono strategie estremamente logiche, e la razionalità tende alla massima efficienza, che una mente filosoficamente attenta non dovrebbe sorprendersi che vengano adottate. |
Appunto.
Si stupisce di queste scelte solo chi non ragiona con logica. A me, veramente, stupisce e particolarmente preoccupa che chi scrive questi software di controllo delle IA, che dovrebbe avere una "logica informatica", in realtà non la abbia. E' come dare da guidare un autobus scolastico ad uno scimpanzè...
Come già citato, già Asimov aveva formulato le 3 leggi della robotica... ma scrivere queste come istruzioni primarie ed imperative, superiori ad ogni altra regola eventualmente impostata, no ?!?
Questi stanno "giocando come bambini" con una branca dell'informatica che potrebbe risultare particolarmente dannosa per tutta l'umanità. Spero se ne rendano conto in tempo. |
|
Top |
|
|
|
|
Non puoi inserire nuovi argomenti Non puoi rispondere a nessun argomento Non puoi modificare i tuoi messaggi Non puoi cancellare i tuoi messaggi Non puoi votare nei sondaggi
|
|