Sorveglianza predittiva: L’IA sta davvero proteggendo i cittadini?

L’avvento dell’intelligenza artificiale (IA) ha segnato una svolta epocale in numerosi settori, inclusa la sicurezza pubblica. Tuttavia, l’implementazione di sistemi di sorveglianza predittiva basati sull’IA solleva questioni delicate riguardanti l’etica, la trasparenza e il rispetto dei diritti civili. Aziende come “Z”, fornitrici di software per le forze dell’ordine, si trovano al centro di questo dibattito, con i loro sistemi capaci di analizzare grandi quantità di dati per anticipare e prevenire crimini. Ma fino a che punto possiamo fidarci di questi algoritmi? E quali sono le implicazioni per una società sempre più sorvegliata?

Investigazione predittiva: come funziona

I sistemi di investigazione predittiva si basano sull’analisi di dati investigativi relativi a reati commessi in precedenza. Questi dati, che possono riguardare persone fisiche identificate o identificabili, alimentano algoritmi progettati per individuare aree geografiche o contesti particolarmente a rischio (criminal mapping) o per evidenziare serie criminose (crime linking). Il criminal mapping individua il tempo e il luogo in cui potrebbero verificarsi determinati tipi di crimine, creando mappe aggiornate periodicamente che vengono utilizzate dalle forze di polizia. Alcuni software utilizzano un sistema di calcolo euristico per valutare il livello di rischio di un luogo in base alle attività che vi si svolgono regolarmente, come l’entrata e l’uscita da scuole, uffici, mercati, esercizi commerciali e mezzi pubblici. Il crime linking, invece, si concentra sulle caratteristiche e le abitudini comportamentali dei criminali, combinando l’analisi investigativa con la matematica e la statistica per individuare connessioni tra diversi reati. Questo sistema si basa esclusivamente sui dati raccolti sul luogo del crimine, dalle testimonianze delle vittime e dei testimoni e dalle registrazioni delle telecamere di videosorveglianza.

L’efficacia di questi sistemi è stata dimostrata in diverse città. Ad esempio, a Milano, dove è operativo un sistema predittivo avanzato, le rapine nelle aree commerciali sono diminuite del 58% e le rapine in banca dell’88% negli ultimi dieci anni. A Napoli, un sistema dotato di algoritmo euristico ha portato a una diminuzione dei reati del 22% e a un aumento degli arresti del 24%. Tuttavia, nonostante questi risultati positivi, l’utilizzo di strumenti di investigazione predittiva solleva una serie di interrogativi.

I rischi per la privacy e i pregiudizi algoritmici

Uno dei principali problemi legati all’utilizzo dei sistemi di sorveglianza predittiva è la mancanza di una chiara regolamentazione normativa. Il recepimento della Direttiva (UE) 2016/680 ha abrogato il Titolo II del Decreto Legislativo 196/2003 (cd. Codice Privacy), ma rimangono ancora zone d’ombra in cui è auspicabile un intervento del legislatore statale. È fondamentale tutelare i diritti di ogni soggetto coinvolto nei processi di raccolta dati, soprattutto considerando la mole di dati immagazzinati nei sistemi di videosorveglianza. Inoltre, è necessario prestare molta attenzione alla possibilità che i fattori di pericolosità siano identificati in caratteristiche etniche o sociali, con conseguente violazione del principio di non discriminazione.

Un sistema predittivo riceve come input i dati storici su denunce e arresti, quindi dati che riguardano il comportamento non solo dei criminali, ma anche (se non soprattutto) delle vittime, dei testimoni e delle forze dell’ordine. Questo può portare a distorsioni e pregiudizi algoritmici. Un recente studio statunitense ha sottolineato come siano elevate le possibilità che un sistema predittivo apprenda e costruisca le proprie previsioni sulla base dei pregiudizi radicati nella società. Un’altra ricerca, condotta all’interno di alcuni dipartimenti di polizia americani, ha evidenziato come, a parità di situazione e contesto, sia molto più probabile che sia fermato per un controllo un “giovane maschio adulto di colore” piuttosto che un “giovane maschio adulto bianco“. I ricercatori del Royal United Services Institute for Defence and Security Studies – RUSI (think tank britannico di difesa e sicurezza) hanno scoperto che gli algoritmi addestrati sui dati di polizia possono replicare – e in alcuni casi amplificare – i pregiudizi esistenti insiti nel set di dati, dando origine, ad esempio, ad un controllo eccessivo o insufficiente di determinate aree o comunità.

Di fronte a questi rischi, è fondamentale che l’intervento umano nelle azioni profilative e predittive automatizzate sia il più neutrale possibile a livello di input di dati. L’articolo 10 della Direttiva (UE) 2016/680 vieta, se non strettamente necessario e in ricorrenza di particolari condizioni, il trattamento di dati personali che rivelino l’origine razziale o etnica, le opinioni politiche, le convinzioni religiose o filosofiche o l’appartenenza sindacale, e il trattamento di dati genetici, di dati biometrici. In fase di output, l’intervento umano “ragionato” è imprescindibile non solo per rispettare la legge, ma soprattutto perché una valutazione ragionata può dare la giusta considerazione ad aspetti che un algoritmo non può analizzare sufficientemente. Un altro aspetto fondamentale è la necessità di una attenta valutazione dei soggetti che entrano in contatto con i dati raccolti per finalità di polizia: è possibile, se non probabile, che le aziende realizzatrici dei sistemi in oggetto trattino i dati raccolti. Per questo è necessaria una formalizzazione specifica dei ruoli con istruzioni precise da valutare caso per caso.

Le reazioni della comunità e il ruolo del parlamento europeo

Negli Stati Uniti, le “associazioni di comunità” hanno svolto un ruolo fondamentale nel controllo degli strumenti di polizia predittiva. Dalla California a New York, molti cittadini hanno raccolto firme, proposto petizioni e organizzato mobilitazioni finalizzate alla cessazione o alla limitazione dell’uso di questi strumenti da parte delle forze dell’ordine. A St. Louis, nel Missouri, la popolazione residente ha manifestato contro la polizia, protestando contro una proposta di accordo tra la polizia e una società chiamata Predictive Surveillance Systems che intendeva utilizzare aerei di sorveglianza per raccogliere immagini dei cittadini. I cittadini hanno affermato che il monitoraggio immotivato pone in essere una gravissima invasione della privacy.

Questi sono solo alcuni dei casi in cui i cittadini stanno tentando di contrastare l’intelligenza artificiale e la tecnologia oppressiva. Questi processi di polizia predittiva e di mappatura controllata del territorio non possono diventare strumenti di diseguaglianza sociale. Rendere fruibili in modo intellegibile e trasparente alcune informazioni consisterebbe in un passo importante verso l’accettazione di tali strumenti. Lo stesso Parlamento europeo nel report del gennaio 2019 su “AI and Robotics” sottolinea la necessità di attuare una politica di “intelligibility of decisions“, oltre che il diritto dell’interessato ad essere informato circa la logica del trattamento automatizzato e la garanzia dell’intervento umano, secondo le previsioni previste dalle normative.

Verso un utilizzo responsabile dell’ia nella sicurezza pubblica

L’intelligenza artificiale offre potenzialità straordinarie per migliorare la sicurezza pubblica, ma è essenziale affrontare con serietà le sfide etiche e sociali che essa comporta. La sorveglianza predittiva, in particolare, richiede un approccio cauto e ponderato, che tenga conto dei rischi di discriminazione, violazione della privacy e compressione dei diritti civili. È necessario un quadro normativo chiaro e robusto, che garantisca la trasparenza degli algoritmi, la responsabilità delle aziende fornitrici e il controllo democratico sull’utilizzo di queste tecnologie. Allo stesso tempo, è fondamentale promuovere un dibattito pubblico ampio e informato, che coinvolga tutti gli attori interessati – aziende tecnologiche, forze dell’ordine, legislatori, esperti di sicurezza, attivisti per i diritti civili e la società civile nel suo complesso – per definire un modello di sicurezza pubblica che sia al tempo stesso efficace ed etico.

L’ombra dell’algoritmo: garantire equità e trasparenza

Il crescente impiego dell’intelligenza artificiale nel settore della sicurezza pubblica ci pone di fronte a un bivio cruciale. Da un lato, intravediamo la promessa di sistemi predittivi capaci di anticipare crimini e proteggere i cittadini con un’efficienza senza precedenti. Dall’altro, ci troviamo di fronte al rischio concreto di algoritmi distorti che perpetuano discriminazioni e minacciano le libertà individuali. È imperativo agire con prudenza e determinazione per garantire che l’innovazione tecnologica non si traduca in un’erosione dei valori fondamentali della nostra società.

Per navigare in questo scenario complesso, è essenziale comprendere alcuni concetti chiave. Uno di questi è il machine learning, una branca dell’IA che permette ai sistemi di apprendere dai dati senza essere esplicitamente programmati. Questo significa che gli algoritmi di sorveglianza predittiva si basano su dati storici per identificare modelli e prevedere eventi futuri. Tuttavia, se i dati di addestramento riflettono pregiudizi esistenti, l’algoritmo imparerà a replicarli, generando previsioni distorte e inique.

Un concetto più avanzato, ma altrettanto rilevante, è quello dell’explainable AI (XAI), ovvero l’IA spiegabile. L’XAI mira a rendere comprensibili i processi decisionali degli algoritmi, consentendo agli utenti di capire perché un determinato sistema ha preso una certa decisione. Nel contesto della sorveglianza predittiva, l’XAI potrebbe aiutare a individuare e correggere i pregiudizi algoritmici, garantendo che le previsioni siano basate su criteri oggettivi e non discriminatori.

La sfida che ci attende è quella di sfruttare il potenziale dell’IA per migliorare la sicurezza pubblica, proteggendo al contempo i diritti civili e promuovendo la giustizia sociale. Questo richiede un impegno costante per la trasparenza, la responsabilità e l’equità, e una profonda consapevolezza dei rischi e delle opportunità che l’intelligenza artificiale ci presenta.

Amici lettori, riflettiamo insieme: l’intelligenza artificiale è uno strumento potentissimo, ma come ogni strumento può essere usato per costruire o per distruggere. Sta a noi, come società, vigilare affinché venga impiegata per il bene comune, nel rispetto dei diritti e delle libertà di tutti. Non lasciamoci sopraffare dalla paura o dall’entusiasmo cieco, ma affrontiamo il futuro con occhi critici e cuore aperto, pronti a cogliere le opportunità e a scongiurare i pericoli che l’IA ci pone di fronte. La partita è ancora aperta, e il nostro futuro è nelle nostre mani.