Tom Cruise nel film 'Minority Report'
Arrestare i colpevoli ancora prima che commettano i reati. Il futuro da incubo di Minority Report – il film con Tom Cruise tratto (molto liberamente) da un racconto di Philip K. Dick – per qualche anno è stato quasi una realtà a Los Angeles. La polizia della città degli angeli, a partire dal 2019, ha infatti collaborato con Voyager Labs, società leader nello sfruttare l’intelligenza artificiale per contrastare il crimine, al fine di creare falsi profili sui social network e identificare persone che avrebbero potuto commettere crimini in un non ben precisato futuro.
Quello creato da Voyager Labs non è l’unico software che è stato utilizzato dalle forze dell’ordine di Los Angeles. Gli agenti, infatti, fino al 2019 hanno utilizzato Palantir – un applicativo segreto fino a pochi anni fa – per schedare persone e quartieri. E fino al 2020 era sulla cresta dell’onda anche PredPol, un vero e proprio sistema informatico predittivo delle zone più probabili in cui si sarebbero potuti verificare dei reati. Per la polizia di Los Angeles si può parlare di una vera e propria ossessione. Peccato solo che questi software, in realtà, accentuino i pregiudizi e i comportamenti vessatori contro le minoranze: le statistiche, figlie di decenni di perquisizioni arbitrarie, suggerivano di continuare a scandagliare nei quartieri a più alta concentrazione di afroamericani. Quando questi contratti sono stati resi noti e si è scoperto come funzionavano i software, il vaso di Pandora si è aperto e le forze dell’ordine, finite nella bufera, hanno preferito stracciare gli accordi con le società informatiche.
Di tutti questi programmi, quello creato da Voyager Labs è il più distopico. L’azienda prometteva di poter usare l’intelligenza artificiale per raccogliere dati sui sospettati e mettere sotto sorveglianza la loro intera rete di amici e conoscenti. Uno scenario agghiacciante. "Il raggiungimento di una società perfetta priva di crimine in realtà ci porta a osservare il ribaltamento di un principio costituzionale e democratico fondamentale. Una persona per essere condannata – fa notare Gabriele Cruciata su Wired – deve aver commesso un reato, non basta l’intenzione. Serve una certezza ragionevole, non basta la probabilità. Se bastassero l’intenzione e la probabilità, più o meno ognuno di noi sarebbe finito in galera almeno una volta. E le carceri sarebbero piene di potenziali criminali, che criminali non sono".