È successo di nuovo. Un sistema di riconoscimento facciale della Clearview utilizzato dalla polizia di Detroit ha riconosciuto un innocente come colpevole e lo ha spedito in galera.
L’ultima, purtroppo, di tante storie drammaticamente eguali l’una all’altra arriva da Detroit.
C’è un furto nel bar di un hotel: caramelle e snack il bottino.
Il ladro fugge, la polizia lo insegue in auto, si arriva quasi a uno scontro ma poi il malvivente – se così può definirsi chi non aveva pagato il conto di un qualche patatina e un sacchetto di caramelle – si dilegua.
La polizia da in pasto al sistema di riconoscimento facciale progettato, prodotto e gestito dall’americana Clearview alcune immagini del ladro e il sistema non ha dubbi, si tratta di NiJeer Parks, per sua sfortuna un pregiudicato.
Viene spiccato un mandato di arresto e Parks che con questa storia non c’entrava nulla si presenta al posto di polizia per chiarire la cosa.
Ma la polizia ha pochi dubbi, lo ammanetta, lo interroga per ore, lo da in pasto all’accusa che gli offre un patteggiamento a sei anni di prigione se non vuole rischiarne venti andando a processo.
La prova della sua colpevolezza? Solo e semplicemente il riconoscimento facciale della Clearview.
Parks prova a far presente che lui in quell’hotel non c’è mai stato, che non ha una macchina e che non la sa neppure guidare con la conseguenza che non può essere stato il protagonista della fuga seguita al furto.
Ma non c’è niente da fare.
Il riconoscimento facciale non mente.
Per Parks si aprono le porte della prigione.
Per fortuna il Giudice si rifiuta di procedere sulla base di una prova rappresentata esclusivamente dal riconoscimento operato dal sistema di intelligenza artificiale della Clearview e la procura, che non ha altre prove, è costretta a rinunciare alle accuse.
Parks è libero ma si è fatto dieci giorni di galera, si è giocato i suoi risparmi per pagarsi l’avvocato e deve ricominciare di nuovo daccapo a ricostruirsi un briciolo di credibilità.
La storia di originale ha poco.
E’ già successo altre volte.
Ma due lezioni ce le consegna.
La prima è che quando una tecnologia come quella di riconoscimento facciale inizia a essere usata, magari per assicurare alla giustizia – o almeno provarci – pericolosi terroristi, poi resistere alla tentazione di usarla anche per riconoscere un ladro di patatine e caramelle è dura davvero.
Ma naturalmente, forse – e dico forse – la lotta al terrorismo consente l’assunzione di taluni rischi di errore ma quella ai furti di caramelle no.
La seconda è che per quanto si possa dire – come la Polizia di Detroit, ad esempio, dice e scrive da tempo – che si tratta solo di tecnologie di ausilio all’attività umana, poi, quando si è li e un sistema di riconoscimento facciale artificialmente intelligente ti dice che tizio e colpevole, dire che non lo è, persino quando tutto ti porterebbe a questa conclusione è difficile per davvero.
Intelligenza artificiale e riconoscimento facciale sono un mix tecnologico da maneggiare con grande prudenza.
Domani, magari, potranno esserci utili per davvero ma, allo stato, tutto, ma proprio tutto, suggerisce che non sia ancora arrivato il loro momento.
