Da qualche settimana su una delle piattaforme di streaming più diffuse, tra i documentari più visti c’è “the social dilemma”, una interessante analisi sulla pervasività dei social network. Un tema già ampiamente noto al grande pubblico e su cui si è sviluppato un dibattito molto profondo.
Meno approfondito e, comunque, trattato ne “the social dilemma” è l’impatto degli algoritmi matematici che regolano molte attività della nostra vita quotidiana e la condizionano, come vedremo, anche profondamente.
L’algoritmo, molto semplicemente, è una serie di operazioni di calcolo finalizzate a risolvere un problema, attraverso una serie di istruzioni elementari.
Essi stanno entrando pesantemente nella nostra vita quotidiana da quando computer molto potenti riescono ad analizzare masse di dati molto grandi, i cosiddetti “big data”.
L’interrogativo centrale è: se ho a disposizione computers molto potenti, in grado di estrarre informazioni rilevanti da grandi masse di dati, un algoritmo può rendere più efficienti determinati processi di scelta? Ad esempio, se devo selezionare dei candidati per alcune posizioni lavorative e ricevo migliaia di curricula, è possibile delegare ad un algoritmo la scelta dei candidati finali?
La risposta, allo stato attuale della tecnologia, è, evidentemente, sì. Possiamo chiedere ad un algoritmo di scegliere i candidati “migliori” secondo dei criteri prefissati, magari scartando in automatico quelle candidature che non riteniamo compatibili con la posizione richiesta.
In teoria, la quadratura del cerchio: un algoritmo fa il lavoro di prima selezione dei curricula e la componente umana del processo si limita ad una scelta finale tra un numero ristretto di candidature.
Tutti contenti? Forse qualcuno dei candidati scartati potrebbe avere qualcosa da obiettare. Poniamo, ad esempio, che uno dei criteri di selezione dei curricula sia tipo geografico (escludere tutti coloro che provengono da una certa zona in quanto considerata “a rischio”) ovvero di tipo comportamentale (escludere tutti i candidati che hanno avuto un problema di solvibilità o hanno subito un verbale di contravvenzione di un certo tipo); in questo caso, la provenienza familiare (criterio geografico) o qualche piccolo “incidente di percorso” (criterio comportamentale) escludono automaticamente e per sempre dei candidati che potrebbero, invece, presentare un profilo adeguato.
In termini generali, stiamo sacrificando l’accuratezza della scelta all’efficienza del processo.
Non è detto, però, che tutte le aziende usino i medesimi algoritmi per la selezione. I candidati scartati da un’azienda possono magari avere più possibilità in un’altra situazione.
Cosa accadrebbe, però, se fosse un algoritmo a decidere la probabilità di essere controllati dalla polizia e l’entità della pena che un tribunale deve erogare?
Nel libro “armi di distruzione matematica” Cathy O’Neil descrive, tra gli altri, gli algoritmi che le polizie ed i tribunali di alcuni stati degli Stati Uniti utilizzano per la gestione della loro operatività.
Tutto nasce, come spesso accade, da una decisione di tagliare le spese di un dipartimento di polizia. Visto il numero minore di agenti in servizio, si è deciso di pianificare l’attività delle pattuglie notturne verso i quartieri che presentavano una maggiore densità di reati. Qualche tempo dopo, la città di New York ha messo in pratica la politica del cosiddetto “stop, question and frisk” (ferma, interroga e perquisisci). Anche in questo caso, l’idea alla base è piuttosto semplice: fermare, interrogare e perquisire individui sospetti sulla base del comportamento, dell’atteggiamento o del modo di vestire, senza nessuna relazione con il fatto che stessero per commettere dei reati. Lo “stop and frisk”, come è stato poi abbreviato, ha generato quasi 700.000 interventi, la maggior parte dei quali si è risolta in un nulla di fatto ma ha fatto sì che molti giovani appartenenti a minoranze etniche siano stati sottoposti a perquisizioni piuttosto invasive e ripetute nel tempo. Dei 700.000 interventi, infatti, solo lo 0,1% è stato associato ad un crimine violento e l’85% ha riguardato soggetti appartenenti a minoranze etniche. Inutile sottolineare che la reazione di un soggetto “perquisito”,magari più volte durante una giornata, possa risultare in comportamenti violenti (si pensi alla resistenza a pubblico ufficiale), spingendo delle persone che non stavano commettendo alcun reato verso il sistema della giustizia penale.
Una volta in tribunale, la situazione non cambia.
Ventiquattro stati degli Stati Uniti hanno cominciato ad affidarsi ad algoritmi predittivi per valutare la probabilità che un accusato possa commettere nuovamente un reato. Il più diffuso di questi (LSI-R, Level of Service Inventory-Revised) è un lungo questionario il cui risultato, in alcuni casi, può addirittura condizionare la lunghezza della pena anche a parità di reato commesso. Le domande di LSI-R scavano a fondo nella vita personale e tendono a ricostruire l’ambiente sociale in cui si è sviluppato il reato. Appare evidente (sempre a parità di reato commesso) che le risposte di una persona che proviene da un ambiente privilegiato siano “migliori” per l’algoritmo che le deve analizzare. “I suoi genitori hanno precedenti penali?”. Immaginiamo la risposta ed il punteggio ad essa associato.
Quindi, un algoritmo decide dove indirizzare i controlli di polizia, la polizia può fermare e perquisire chiunque, per il solo fatto che sia vestito nella maniera sbagliata o perché ha troppi tatuaggi, un algoritmo decide la lunghezza della pena a cui un soggetto deve essere sottoposto, basandosi su un’analisi del contesto sociale e stimando la probabilità di recidiva.
Più si viene da un ambiente degradato, maggiore è la probabilità di restare in carcere a lungo. Questo non è una novità; quello che sorprende è che l’uso di diversi algoritmi acceleri il fenomeno, spingendo chi ha maggiore difficoltà verso un circolo vizioso. Un comportamento penalmente rilevante ti condanna ma il tuo certificato di residenza rende questa condanna più dura e ti precipita in una situazione da cui è molto difficile uscire.
La tendenza ad utilizzare gli algoritmi in molti campi che hanno un impatto diretto sulle vite di ogni giorno aumenterà sensibilmente nei prossimi anni anche con il progredire della potenza di calcolo dei computers. Nella vita delle aziende, questa tendenza si osserva da diversi decenni ed ha portato grandi benefici alla precisione dei dati di analisi ed all’ efficienza e produttività dei fattori di produzione. Nella vita di tutti i giorni la scelta sembra ancora essere tra avere sistemi efficienti (erogo rapidamente una condanna penale sulla base delle indicazioni di un algoritmo) o giusti (valuto attentamente il reato e la situazione che lo ha portato ad essere commesso).
Negli anni a venire, sempre più, gli algoritmi devono diventare uno strumento a disposizione dei decisori e non essere essi stessi i decisori per evitare di trovarci a vivere in una società distopica.
Michele Russo
