Uber stesso

Ciao e bentornati a Eye on AI. Sono Sage Lazzaro e sostituisco Jeremy.

Mentre la maggior parte delle persone si disconnetteva venerdì sera per godersi un altro afoso fine settimana estivo, un caso legale storico su chi ha la responsabilità quando l'intelligenza artificiale è direttamente coinvolta in danni fisici nel mondo reale si è finalmente concluso dopo cinque anni.

Rafaela Vasquez, l'operatore al volante di un'auto di prova Uber a guida autonoma che ha investito e ucciso un pedone a Tempe, in Arizona, nel 2018, si è dichiarata colpevole di un'accusa di pericolo. Il giudice della Corte superiore della contea di Maricopa, David Garbarino, ha accettato il patteggiamento e l'ha condannata a tre anni di libertà vigilata, chiudendo definitivamente il caso. Vasquez era stato originariamente accusato di omicidio colposo, un reato che prevede una pena fino a otto anni di carcere.

L'incidente del 2018, in cui una donna di nome Elaine Herzberg è rimasta uccisa mentre attraversava la strada con la sua bicicletta, è stata la prima collisione mortale che ha coinvolto un veicolo completamente autonomo. Il caso ha catturato gli osservatori mentre Uber e Vasquez cercavano ciascuno di deviare la colpa per una situazione che non solo non aveva precedenti, ma sollevava diverse domande sulla responsabilità in un mondo in cui i lavoratori umani monitorano sempre più le macchine IA, prendono indicazioni dagli algoritmi e si siedono in prima linea. di sistemi di intelligenza artificiale imperfetti costruiti da ingegneri aziendali.

Quando si è verificato l’incidente inizialmente, Vasquez pensava che Uber sarebbe stata al suo fianco, secondo un’intervista approfondita con Wired pubblicata lo scorso anno. Era sinceramente entusiasta del settore in espansione e si considerava un orgoglioso amministratore dell'azienda, che svolgeva il suo lavoro monitorando i veicoli a guida autonoma dell'azienda mentre accumulavano miglia di pratica. L'Arizona, che stava allentando le restrizioni per attirare più affari dalle aziende della Silicon Valley, era recentemente diventata un paradiso per il programma di test su strada di Uber dopo che la California aveva revocato le immatricolazioni delle auto Uber. Il medico legale ha ufficialmente etichettato la morte di Herzberg come un incidente e Uber inizialmente ha fornito a Vasquez un avvocato, ma le interazioni con il suo supervisore sono passate rapidamente da "consolanti a snervanti", secondo Wired.

Le cose cambiarono davvero per Velasquez quando le indagini rivelarono che il suo telefono personale stava trasmettendo in streaming il programma televisivo The Voice al momento dell'incidente. Le riprese della Dashcam hanno anche mostrato che stava guardando in basso nei momenti precedenti la collisione, e l'analisi della polizia ha successivamente stabilito che Vasquez avrebbe potuto prendere in consegna l'auto in tempo e ha ritenuto l'incidente "del tutto evitabile".

Sebbene il caso non sia stato processato, la difesa di Vasquez era piena di argomenti che indicavano la colpevolezza del suo datore di lavoro. Nella documentazione legale, Vasquez ha affermato che non stava guardando ma solo ascoltando The Voice, cosa consentita dalle linee guida di Uber. E quando guardava in basso, era per controllare i messaggi Slack sul suo dispositivo di lavoro, che secondo lei doveva essere monitorato in tempo reale. Storicamente questo compito veniva gestito da un secondo operatore, ma Uber ha recentemente revocato l’obbligo di avere due operatori di prova in ogni veicolo e ora dispone di autisti di riserva come Vasquez che lavorano da soli. Ciò ha cambiato le dinamiche del lavoro, incluso il modo in cui gli operatori inseriscono il loro feedback sul sistema di guida, e ha portato a lunghi turni solitari lungo le stesse strade, di solito senza incidenti o necessità di intervento.

In un'altra parte fondamentale della sua difesa preliminare, gli avvocati di Vasquez hanno citato una sentenza del National Transportation Safety Board secondo cui l'auto non era riuscita a identificare Herzberg come pedone, il che ha causato la mancata frenata. Il consiglio ha inoltre riscontrato che Uber aveva “una cultura della sicurezza inadeguata” e non è riuscita a prevenire “compiacimento dell’automazione” tra i suoi operatori di prova, un fenomeno ben documentato in cui i lavoratori incaricati di monitorare i sistemi automatizzati arrivano a credere che le macchine lo abbiano sotto controllo e si fermano facendo attenzione. Inoltre, un ex responsabile delle operazioni dell’azienda ha presentato un reclamo come informatore su un modello di scarse pratiche di sicurezza nella divisione delle auto a guida autonoma pochi giorni prima dell’incidente.