Veicolo a guida autonoma investe e uccide un pedone. Uber sospende i test

[stev66]

1 ora fa, TonyH dice:

La smania di guida autonoma superiore al livello 2 (sono 5 i livelli, feet off, hands off, eyes off, mind off e brain off) mi ricorda molto la smania di IA che si è avuta recentemente nel mio settore.

 

Fino all'anno scorso sembrava che il Roboadvisor avrebbe spazzato via un sacco di persone in tempo zero, anzi, lo aveva già fatto.

 

Da quest'anno han cambiato registro....e si parla di "Robo FOR advisor"...ovvero qualcosa a supporto e non in sostituzione.

 

Perchè han capito che una IA minimamente affidabile ha dei costi mostruosi (non basta un pc preso alla liquidazione del trony) e soprattutto che a una IA manca sempre quella "sensibilità" umana di tenere conto dell'imprevedibile, di decidere di sforare alcune regole se necessario, di capire se i dati in ingresso quagliano o meno.....

 

Nel caso specifico, un umano vedendo una persona che cammina fuori dal marciapiede probabilmente

1- avrebbe rallentato al di sotto del limite

2- avrebbe deciso di superare la mezzeria per non passare troppo vicino al pedone.

 

Se si analizzano tutti gli incidenti finiti in cronaca con la guida autonoma, hanno tutti in comune che erano situazioni in cui la cosa migliore sarebbe stato....ignorare alcuni input di ingresso (in questo caso, dare per assioma che un pedone attraversi solo sulle strisce). Ma questo le IA sarà arduo che riusciranno a farlo. Almeno a costi inferiori a un omino stipendiato....

 

senza contare che un' IA  come descritta da te arriverebbe alla singolarità tecnologica nel giro di millisecondi , al che il problema della guida autonoma diverrebbe irrilevante . 

Scherzi a parte , la gestione dell'imprevisto resta il campo in cui l'intervento umano è indispensabile in tutti i sistemi di controllo ( si pensi per esempio agli autopiloti aeronautici , che restano progettati per integrare il pilota e non sostituirlo )

 

[ISO-8707]

Le foto nell'OP non centrano nulla con l'incidente in questione

 

 

[indeciso88]

3 ore fa, Caronte89 dice:

Secondo me, in ogni caso, prima di fare speculazioni sarebbe il caso di comprendere la dinamica di ciò che è successo. Se non sbaglio è ancora piuttosto confusa la faccenda.

è successo che Uber e Tesla hanno dato in ogni modo prova di essere dei lestofanti. Spacciano per sicura una tecnologia acerba (di cui sono un grande fan) e si nascondono dietro un dito quando succedono queste tragedie.

La Google ha sospeso ogni tipo di sperimentazione che coinvolga guida autonoma + umano che controlla perché si sono resi conto che l'umano finisce inevitabilmente per fidarsi e non controllare, e le ha sospese prima di farci scappare il morto.

[Caronte89]

3 minuti fa, indeciso88 dice:

è successo che Uber e Tesla hanno dato in ogni modo prova di essere dei lestofanti. Spacciano per sicura una tecnologia acerba (di cui sono un grande fan) e si nascondono dietro un dito quando succedono queste tragedie.

La Google ha sospeso ogni tipo di sperimentazione che coinvolga guida autonoma + umano che controlla perché si sono resi conto che l'umano finisce inevitabilmente per fidarsi e non controllare, e le ha sospese prima di farci scappare il morto.

Ok, e questo ci sta.

Però un investimento (tra l'altro si parlava di pedone che attraversava, ora è un ciclista) è un evento che può essere andato in praticamente infiniti modi, dall'auto che va a prendere in pieno la vittima a quest'ultima che si butta d'improvviso nella traiettoria dell'auto.
Lungi da me voler difendere la tecnologia in questione, soprattutto nel caso di un evento tanto drammatico, ma adesso penso sia il caso di capire bene cosa è successo e perché.

[jeby]

Non è un ciclista, ma un pedone che spinge la bici carica di buste.

[indeciso88]

pare che Caronte ci abbia visto giusto

http://www.corriere.it/tecnologia/economia-digitale/cards/uber-polizia-scagiona-l-auto-guida-autonoma-incidente-inevitabile/caso-uber-impatto-inevitabile_principale.shtml

 

 «L’autista ha spiegato che è stato come un lampo, quella persona è sbucata dal nulla davanti a lei», ha detto l’agente Sylvia Moir. E l’impatto, pare, era quindi inevitabile. «Da ciò che sappiamo sinora — continua Moir — sembra che Uber non abbia alcuna colpa»

[Damynavy]

4 ore fa, stev66 dice:

...si pensi per esempio agli autopiloti aeronautici , che restano progettati per integrare il pilota e non sostituirlo 

 

Nella realtà, il passeggero, è già nelle mani della "guida autonoma"...

 

 

[jeby]

1 ora fa, indeciso88 dice:

pare che Caronte ci abbia visto giusto

http://www.corriere.it/tecnologia/economia-digitale/cards/uber-polizia-scagiona-l-auto-guida-autonoma-incidente-inevitabile/caso-uber-impatto-inevitabile_principale.shtml

 

 «L’autista ha spiegato che è stato come un lampo, quella persona è sbucata dal nulla davanti a lei», ha detto l’agente Sylvia Moir. E l’impatto, pare, era quindi inevitabile. «Da ciò che sappiamo sinora — continua Moir — sembra che Uber non abbia alcuna colpa»

Ma io non sono d'accordo. Intanto la strada è costeggiata da marciapiedi e ciclabile, un guidatore attento deve poter scorgere la persona sul lato della strada, adeguare la velocità e prepararsi a schivare. La signora che spinge la bici carica di buste non penso sia una centometrista, più probabile che si sia mossa lentamente, evidentemente sia il sistema che il guidatore stavano pensando ad altro...

[Nicola_P]

3 ore fa, jeby dice:

Ma io non sono d'accordo. Intanto la strada è costeggiata da marciapiedi e ciclabile, un guidatore attento deve poter scorgere la persona sul lato della strada, adeguare la velocità e prepararsi a schivare. La signora che spinge la bici carica di buste non penso sia una centometrista, più probabile che si sia mossa lentamente, evidentemente sia il sistema che il guidatore stavano pensando ad altro...

 

Mi capitò una situazione simile, classico ragazzino che andava in bicicletta sul marciapiede, convinto che prima o poi sarebbe sceso buttandosi in strada senza guardare mi allontanai verso il centro della strada, difatti pochi metri dopo si buttò come se nulla fosse .

Ecco questo una guida autonoma credo che non lo saprà mai fare, le variabili sono troppe, abbiamo visto in più occasioni che se si mescola un'automa e un umano l'incidente non sarà mai inevitabile.

 

Modificato 20 Marzo 2018 da Nicola_P

[indeciso88]

penso che dovrà essere la collettività ad imparare a convivere con le macchine autonome. Attraversare in quel modo è come attraversare i binari mentre passa la metro. Ricordo ancora con stupore una mia compagna di classe del liceo che si divertiva a buttarsi sulle strisce quando passava il bus pieno di gente costringendolo ad inchiodare e facendo capitolare tutte le vecchiette al suo interno. Trovate voi una definizione per tale prova di coraggio, io che le ho viste dal vivo non trovo le parole. E pensare che all'epoca avevo la percezione di fare io la figura del pollo...