IN CARCERE PER LA AI: cosa succede se la AI sbaglia a riconoscerti e chi paga? #1568

Tre mesi di cella per un “match” all’85%: in Florida un uomo viene identificato da un software di riconoscimento facciale come sospetto per il furto/vendita di un’auto e finisce arrestato ed estradato, nonostante esistano già registri lavorativi che lo collocano a centinaia di chilometri di distanza. Il caso (attribuito a Jalil Richardson, dalla North Carolina, arrestato a Jacksonville) mette a nudo una cosa: non basta dire “è solo uno strumento nella cassetta degli attrezzi” quando, di fatto, quell’attrezzo diventa l’unica prova che pesa davvero.

Un’accuratezza dell’85% non è “quasi certezza”: è 1 errore ogni 6, una roulette russa se la trasformi in mandato e detenzione. Qui entra in gioco l’automation bias: quando la macchina sputa un numero, l’essere umano smette di dubitare, soprattutto sotto pressione e con carichi di lavoro alti. Il problema non è solo l’errore tecnico, ma l’architettura di responsabilità che scompare dietro il “processo” e dietro un potere sempre più panottico: la faccia diventa dato, il dato probabilità, la probabilità ordine esecutivo. E a pagare il costo dell’errore non è l’infrastruttura, ma il cittadino.

00:00 Tre mesi per un 85%
01:13 Il caso Richardson
03:31 Errori ripetuti e ACLU
04:40 Perché 85% è roulette
05:34 Automation bias: la macchina vince
06:56 Panopticon e potere automatico
09:21 La cassetta degli attrezzi vuota
14:22 Chi paga quando sbaglia?

#RiconoscimentoFacciale #Jacksonville #ACLU