Quando un'automobile a guida autonoma causa un incidente mortale, chi è responsabile? L'autore americano trasforma questa domanda in una vertigine narrativa che attraversa algoritmi, conflitti etici e false promesse tecnologiche
Durante un viaggio in auto, il loro minivan prodotto dall’azienda fittizia SensTrek – che ricorda tanto Tesla – viene lasciato in modalità pilota automatico, e, una volta affidato alle scelte degli algoritmi, sembra causare direttamente un incidente in cui muoiono due persone.
la tendenza, ormai strutturale, a tradurre ogni questione umana in un problema di ottimizzazione, ogni conflitto in una inefficienza da correggere, ogni tragedia in un margine di errore da assorbire e ridurre, possibilmente con la tecnologia ritenuta, erroneamente più neutra ed equa degli umani.
la promessa più grande del soluzionismo tecnologico, sembra suggerire Holsinger, non è soltanto quella di rendere le nostre vite più facili ed efficienti, ma soprattutto quella di liberarci, finalmente, dalla responsabilità e dalla colpa, delegandole a loro volta alle macchine credendole anche in questo più efficienti di noi.
Il machine bias è normalmente descritto come la tendenza dei sistemi algoritmici a riprodurre e amplificare i pregiudizi già presenti nei dati su cui sono stati addestrati. Lungi dall'essere neutri, questi sistemi ereditano le distorsioni strutturali della realtà sociale, di classe, razza, o genere, e le restituiscono sotto forma di presunte decisioni oggettive e automatizzate, sottraendole così a qualsiasi forma di contestazione.