Uno dei settori più delicati per l’applicazione dell’intelligenza artificiale è quello della giustizia. Nella procura cinese di Shanghai Pudong è stato assunto il primo giudice-robot: prende decisioni con un’accuratezza del 97%, ma al momento si limita a suggerire le sentenze (su 8 reati comuni) agli umani.
La materia è controversa, e nel 2018 il Consiglio d’Europa ha adottato una carta etica che assegna all’essere umano il primato della decisione nelle aule giudiziarie. I software rischiano spesso, infatti, di essere discriminatori: così avvenne con l’americano Compas, creato da una società privata per calcolare il rischio di recidiva e sconfessato nel 2016 come inaffidabile e "razzista" nei confronti degli imputati di colore.