Indice del forum Olimpo Informatico
I Forum di Zeus News
Leggi la newsletter gratuita - Attiva il Menu compatto
 
 FAQFAQ   CercaCerca   Lista utentiLista utenti   GruppiGruppi   RegistratiRegistrati 
 ProfiloProfilo   Messaggi privatiMessaggi privati   Log inLog in 

    Newsletter RSS Facebook Twitter Contatti Ricerca
Veicolo autonomo di Uber investe e uccide: il software ha deciso di ignorare il pedone
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie
Precedente :: Successivo  
Autore Messaggio
Molok
Eroe in grazia degli dei
Eroe in grazia degli dei


Registrato: 19/04/05 01:21
Messaggi: 96
Residenza: Lodi

MessaggioInviato: 11 Mag 2018 14:23    Oggetto: Rispondi citando

SverX ha scritto:
probabilmente ad ogni iterazione, la nuova AI farà meno errori della precedente, e comunque sarà preferibile alla statisticamente rilevante fallibilità umana.


Questo è molto giusto!
Anche i primi software di gioco degli scacchi erano molto facili da battere.

Sarei curioso, però, di conoscere i dettagli della dinamica dell'investimento: per un computer dovrebbe essere molto facile "seguire" il movimento del "presunto pedone" centesimo-di-secondo dopo centesimo-di-secondo e quindi rallentare o frenare man mano che la figura si avvicina alla traiettoria.
Non capisco perché non abbiano impostato il controllo di frenata in questo modo...
Voglio dire, fosse stato anche un cestino o un palo o un grosso animale (come qualcuno ha detto prima) che fosse caduto o si fosse lanciato sulla carreggiata, l'auto non avrebbe frenato appena individuato l'ostacolo?
Top
Profilo Invia messaggio privato MSN
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 20:32
Messaggi: 7445
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 12 Mag 2018 17:48    Oggetto: Rispondi citando

C'è da considerare nell'equazione, come sottolineato nell'articolo e certo con un contributo rilevante, il fatto che il trigger della valutazione fatta dalla IA è comunque in mano a delle persone che decidono quanto la IA debba essere sensibile a determinati stimoli esterni alla vettura.

Questo può portare a scelte più o meno conservative nei confronti, ad esempio, dell'usabilità della vettura o della sicurezza degli eventuali esseri umani che si vengono a trovare ad interagire con il veicolo in movimento - a proposito con gli animali come si comporta? Magari se di piccola taglia li ignora mentre se possono essere dannosi per il veicolo li considera? - certo poi la IA può accrescere la sua capacità di discernimento delle situazioni ma a quale prezzo?

Personalmente ritengo responsabile dell'incidente chi ha deciso il livello di taratura del SW che non si è dimostrato più conservativo nei confronti della sicurezza di eventuali falsi positivi probabilmente per non renderne meno attrattiva l'usabilità.
Top
Profilo Invia messaggio privato
Molok
Eroe in grazia degli dei
Eroe in grazia degli dei


Registrato: 19/04/05 01:21
Messaggi: 96
Residenza: Lodi

MessaggioInviato: 14 Mag 2018 12:57    Oggetto: Rispondi citando

Gladiator il tuo discorso fila, senza dubbio, come discorso teorico, ma in pratica non regge (o comunque non centra la questione), secondo me.

Mi spiego: sia che il software abbia individuato un (falso) falso positivo, sia che non abbia individuato un vero positivo, il discorso non cambia: nel momento in cui un ostacolo si para davanti al veicolo, qualunque tipo di ostacolo, questo deve fermarsi o scartarlo.
Non esiste che lo ignori e prosegua diritto.

Non posso immaginare un veicolo a guida autonoma che non riesca a individuare un sasso che rotolando giù da un costone si ferma sulla corsia... cosa fà? ci passa sopra? disfacendo il semiasse?
Un sistema che non riesce a registrare oggetti in movimento in rotta di collisione o ostacoli fermi sulla propria rotta non dovrebbe circolare liberamente.

Ma nello specifico non so come si sia comportato il veicolo nel caso documentato e quindi vorrei maggiori dettagli per farmi un'idea.

... e comunque a me piace guidare la mia auto, con cambio assolutamente manuale!! Cool
Top
Profilo Invia messaggio privato MSN
pietro1953
Semidio
Semidio


Registrato: 13/09/07 07:28
Messaggi: 337
Residenza: in volo

MessaggioInviato: 14 Mag 2018 14:54    Oggetto: Rispondi citando

Avendo alle spalle circa un quarto di secolo passato a sorvegliare le operazioni di un sistema di guida autonoma, posso forse aggiungere una piccola considerazione: in un ambiente ricco di variabili come la condotta di un mezzo di trasporto in un contesto "non protetto" è abbastanza difficile sostituire con una serie di algoritmi quella che normalmente viene definita "la capacità di sintesi delle condizioni e di prefigurazione del risultato di un pilota mediamente addestrato e concentrato sul proprio compito"... che in ultima analisi altro non è che un algoritmo costruito su anni di esperienza e di addestramento.

Non a caso, in tempi di crescente automazione, il compito più arduo per un pilota (Sully docet) è rimasto quello di fare in modo di essere sempre pronto a sostituirsi alla macchina che sta pilotando quando questa si mette, per una qualsiasi ragione, dal "pedone sì - pedone no" allo stormo di oche canadesi, a dare i numeri.

E vi posso assicurare che non è per niente facile...
Top
Profilo Invia messaggio privato
Paolosalva
Eroe
Eroe


Registrato: 16/12/17 15:32
Messaggi: 46
Residenza: Italia

MessaggioInviato: 15 Mag 2018 09:50    Oggetto: Rispondi citando

Direi che, prima di ogni considerazione, si debba mettere a fuoco il motivo per cui si vuole (vorrebbe?) passare alla guida automatica, la ragione è che il computer, una volta che si sia sviluppato il software adeguato, è statisticamente molto più sicuro di un essere umano medio.
Dunque quando avremo il sistema automatico completamente sviluppato e l'hardware circostante adeguatamente corretto (penso alle strade e a tutto quello che può impedire o rendere difficoltoso l'uso della guida autonoma), avremo meno incidenti, e saranno meno gravi di quelli attuali, tutto qui, semplicemente questo, ma non è poco!
Naturalmente questo non significa che gli incidenti spariranno, almeno non nel medio termine, ma sicuramente diminuiranno, ad esempio il computer non sarà mai distratto, stanco, ubriaco o drogato, il computer sarà sempre un pilota provetto e non un neo-patentato, un (troppo) anziano o un autista della domenica.
Dovremo solo abituarci all'idea che quella vittima di incidente è vittima dell'errore di un computer e non di un essere umano.
Per altro, chi viaggia in aereo, è abituato da molto tempo ad affidare la sua vita ad un computer, i moderni aerei possono anche atterrare in modalità automatica, e l'atterraggio è il momento più difficile e pericoloso.
Top
Profilo Invia messaggio privato
pietro1953
Semidio
Semidio


Registrato: 13/09/07 07:28
Messaggi: 337
Residenza: in volo

MessaggioInviato: 15 Mag 2018 10:24    Oggetto: Rispondi citando

E infatti in aereo, dietro a quei computer che atterrano automaticamente ci sono due piloti umani specificatamente addestrati per questo genere di operazioni (CAT III Autoland) pronti a sostituirsi alla macchina in qualsiasi momento, e la decisione se atterrare o meno spetta sempre al comandante (umano).
Provate a chiedere a chi "è abituato ad affidare la sua vita a un computer" se sarebbe ugualmente disposto a farlo senza quei due umani seduti in cockpit....
Senza contare che intorno ad un aereo che atterra in CAT III si crea un ambiente "sterilizzato" dove anche la pulizia delle zone che stanno intorno alle antenne è un fattore critico... il problema di scambiare un cespuglio per un pedone o viceversa non si pone semplicemente perché anche i fili d'erba non possono eccedere il centimetro di altezza.
Top
Profilo Invia messaggio privato
Molok
Eroe in grazia degli dei
Eroe in grazia degli dei


Registrato: 19/04/05 01:21
Messaggi: 96
Residenza: Lodi

MessaggioInviato: 15 Mag 2018 13:03    Oggetto: Rispondi citando

Paolosalva ha scritto:
Dovremo solo abituarci all'idea che quella vittima di incidente è vittima dell'errore di un computer e non di un essere umano.

Lo dici come se fosse una cosa da poco...

Anche i sistemi bancari ormai sono completamente computerizzati, ma se un giorno ti scomparissero 2.000€ ti accontenteresti di una risposta tipo: "guardi, purtroppo è stato un errore del computer..."

Non importa il livello di automazione raggiunto in un settore, umanamente ci aspettiamo che dietro ci sia sempre un responsabile umano.
Così è sugli areoplani e, secondo me, così dovrà essere sulla strada.

Per inciso, quando dici: "avremo meno incidenti, e saranno meno gravi di quelli attuali" io adduco questo risultato non tanto alla sostituzione uomo-macchina, quanto alla semplice riduzione delle persone alla guida,
e sai quali saranno i primi ad affidarsi alla guida autonoma? quelli a cui non ineressa guidare ma non vedono altro modo per spostarsi... sarebbe la stessa cosa (per loro) offrire un servizio di NCC a buon mercato e potenziare i mezzi pubblici, in modo da avere solo autisti professionisti.

Insomma, quello che voglio dire è che occorre eliminare dalla strada gli autisti "della domenica" (come hai detto tu), e non è detto che la guida autonoma sia il modo migliore...
Top
Profilo Invia messaggio privato MSN
Paolosalva
Eroe
Eroe


Registrato: 16/12/17 15:32
Messaggi: 46
Residenza: Italia

MessaggioInviato: 15 Mag 2018 14:03    Oggetto: Rispondi citando

pietro1953 ha scritto:
E infatti in aereo, dietro a quei computer che atterrano automaticamente ci sono due piloti umani specificatamente addestrati per questo genere di operazioni (CAT III Autoland) pronti a sostituirsi alla macchina in qualsiasi momento, e la decisione se atterrare o meno spetta sempre al comandante (umano).
Provate a chiedere a chi "è abituato ad affidare la sua vita a un computer" se sarebbe ugualmente disposto a farlo senza quei due umani seduti in cockpit....
Senza contare che intorno ad un aereo che atterra in CAT III si crea un ambiente "sterilizzato" dove anche la pulizia delle zone che stanno intorno alle antenne è un fattore critico... il problema di scambiare un cespuglio per un pedone o viceversa non si pone semplicemente perché anche i fili d'erba non possono eccedere il centimetro di altezza.

Nessuno ha mai parlato di auto completamente senza autista, almeno per quello che si sta progettando e testando, dunque non ha senso parlarne.
In quanto all'ambiente aeroportuale adatto agli atterraggi automatici ho specificato anche io che l'ambiente circostante, cioè le strade, devono essere modificate alla bisogna.
Quella dei cespugli non la capisco.
Top
Profilo Invia messaggio privato
Paolosalva
Eroe
Eroe


Registrato: 16/12/17 15:32
Messaggi: 46
Residenza: Italia

MessaggioInviato: 15 Mag 2018 14:15    Oggetto: Rispondi citando

Molok ha scritto:
Paolosalva ha scritto:
Dovremo solo abituarci all'idea che quella vittima di incidente è vittima dell'errore di un computer e non di un essere umano.

Lo dici come se fosse una cosa da poco...

Anche i sistemi bancari ormai sono completamente computerizzati, ma se un giorno ti scomparissero 2.000€ ti accontenteresti di una risposta tipo: "guardi, purtroppo è stato un errore del computer..."

Non importa il livello di automazione raggiunto in un settore, umanamente ci aspettiamo che dietro ci sia sempre un responsabile umano.
Così è sugli areoplani e, secondo me, così dovrà essere sulla strada.

Per inciso, quando dici: "avremo meno incidenti, e saranno meno gravi di quelli attuali" io adduco questo risultato non tanto alla sostituzione uomo-macchina, quanto alla semplice riduzione delle persone alla guida,
e sai quali saranno i primi ad affidarsi alla guida autonoma? quelli a cui non ineressa guidare ma non vedono altro modo per spostarsi... sarebbe la stessa cosa (per loro) offrire un servizio di NCC a buon mercato e potenziare i mezzi pubblici, in modo da avere solo autisti professionisti.

Insomma, quello che voglio dire è che occorre eliminare dalla strada gli autisti "della domenica" (come hai detto tu), e non è detto che la guida autonoma sia il modo migliore...

Non lo dico come se fosse cosa da poco, dico solo che non la si deve ingrandire oltre, già da molti anni le banche sono computerizzate e gli errori capitano, non fa piacere, ma si correggono e abbiamo accettato una certa percentuale di errori in cambio delle migliorie introdotte dall'uso dei computer, pensiamo alla velocità delle operazioni bancarie.
La diminuzione degli incidenti e il calo della loro gravità li vorresti attribuire a qualcos'altro, ma stai dicendo la stessa cosa che dico io, più guida automatica equivale a meno uomini che guidano. E' vero che usando mezzi pubblici si otterrebbe un risultato simile, ma non il medesimo perché gli autisti professionisti sono comunque uomini e commettono più errori di un computer, in più, come ho già scritto, il computer non si stanca mai, non si distrae, non beve e non si droga, oltretutto non è materialmente possibile sostituire tutti i tragitti privati con mezzi pubblici.
Top
Profilo Invia messaggio privato
Molok
Eroe in grazia degli dei
Eroe in grazia degli dei


Registrato: 19/04/05 01:21
Messaggi: 96
Residenza: Lodi

MessaggioInviato: 15 Mag 2018 15:40    Oggetto: Rispondi

paolosalva ha scritto:
gli autisti professionisti sono comunque uomini e commettono più errori di un computer

Per il momento è da dimostrare.

Un domani potrò essere daccordo con te.

In generale preferirò un mezzo molto ben attrezzato che permetta all'autista umano di guidare con tutto sotto controllo, ma con la responsabilità di ciò che accade.
Top
Profilo Invia messaggio privato MSN
Mostra prima i messaggi di:   
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie Tutti i fusi orari sono GMT + 1 ora
Vai a Precedente  1, 2, 3  Successivo
Pagina 2 di 3

 
Vai a:  
Non puoi inserire nuovi argomenti
Non puoi rispondere a nessun argomento
Non puoi modificare i tuoi messaggi
Non puoi cancellare i tuoi messaggi
Non puoi votare nei sondaggi