L’era degli algoritmi

I codici informatici hanno preso piede in molti settori, migliorano la nostra vita e sono alla base degli sviluppi dell’intelligenza artificiale. Però spesso non sono trasparenti, possono essere condizionati da bias e hanno prodotto effetti che anche Google e Facebook non avevano previsto.

 

 

Se l’Ottocento ha avuto il romanzo e il Novecento la televisione, gli anni a cavallo del millennio sono stati segnati dalla rivoluzione di Internet, anche nella sua evoluzione del Web 2.0. Oggi, però, nessuno dubita più che siamo entrati nell’era degli algoritmi.

Cosa sia un algoritmo, in realtà, è molto semplice: una serie di istruzioni per risolvere un problema o una serie di problemi. Una ricetta di cucina è un algoritmo così come un’equazione matematica. Oggi moltissimi ambiti sono governati da codici, che in informatica definiscono il testo di un algoritmo. Pensiamo a settori della finanza, alle app degli smartphone, al programmatic advertising, ai videogame, oltre naturalmente ai motori di ricerca, ai social network, alle mappe online, a molti siti di e-commerce.

Là dove non è previsto un intervento umano decide un algoritmo. Come ha scritto Pedro Domingos nel libro The Master Algorithm “se gli algoritmi improvvisamente non funzionassero più il mondo così come lo conosciamo finirebbe”.

 

Aneesh Aneesh, ex docente alla Stanford University ora all’Università del Wisconsin, ha coniato il termine di “Algocrazia” per spiegare l’ascesa degli algoritmi rispetto alle gerarchie tradizionali: a un’organizzazione tipicamente verticale, governata da procedure dall’alto e da una scarsa flessibilità, gli algoritmi hanno sostituito un’organizzazione flessibile e orizzontale. Anzi, la regola del codice sta sostituendo le procedure, e si sta affermando come strumento per ridurre la complessità del mondo e come modello di lettura della realtà.

 

Anche lo sviluppo dell’intelligenza artificiale è in gran parte basato sugli algoritmi, sulla capacità delle macchine di imparare dai propri errori e di perfezionare l’algoritmo di funzionamento (machine learning). Nell’ottobre del 2016, in un dossier pubblicato online, la Casa Bianca ha spiegato il contributo degli algoritmi allo sviluppo dell’intelligenza artificiale e i possibili effetti per l’economia. Nelle conclusioni si legge che l’AI “può rappresentare uno dei maggiori driver della crescita economica e del progresso sociale se l’industria, la società civile, il governo e i cittadini lavoreranno insieme per supportare lo sviluppo della tecnologia, con un’attenzione approfondita al suo potenziale e alla gestione dei suoi rischi”. A proposito di rischi secondo il report “l’automazione finirà per aumentare il gap salariale tra lavoratori a bassa scolarità e quelli ad alta, facendo crescere potenzialmente la diseguaglianza economica”.

 

Non ci sono più dubbi sul fatto che lo sviluppo degli algoritmi abbia potenzialità quasi illimitate. L’anno scorso fece scalpore l’annuncio di Google sul suo blog ufficiale: un software sviluppato da DeepMind, la divisione di Big G specializzata nella scrittura di algoritmi di IA, ha sconfitto il campione europeo di Go, un antico gioco da tavolo cinese.

 

In un saggio pubblicato sulla rivista della facoltà di Legge della Columbia University, Michael Gal e Nova Elkin-Koren hanno introdotto il tema dei “consumatori algoritmici”, cioè di quegli agenti digitali intelligenti (praticamente robot) di prossima generazione che non solo faranno shopping al posto nostro, ma potranno scambiarsi informazioni e saldare tra loro gli interessi dei consumatori per negoziare condizioni migliori con distributori e aziende, per esempio nella grande distribuzione. “I consumatori algoritmici hanno il potenziale di cambiare radicalmente il modo in cui facciamo business, sollevando nuove sfide concettuali e regolatorie” scrivono i due studiosi.

 

Di recente il tema degli algoritmi è stato sollevato a proposito delle fake news e di come Google e Facebook intendano intervenire per penalizzare le notizie false prodotte artificialmente. In realtà proprio la diffusione virale delle fake news durante l’ultima campagna presidenziale americana ha svelato un aspetto fino a ieri sottovalutato, e cioè che gli algoritmi spesso producono effetti contrari alle intenzioni di chi li ha scritti. Google e Facebook hanno ammesso di ignorare alcuni effetti prodotti dagli algoritmi sulle proprie piattaforme. Di qui la parziale marcia indietro e la rivalutazione dell’intervento umano (segnalazione degli utenti, filtro editoriale) per individuare le storie false e intervenire prima che diventino virali.

 

Non manca chi chiede maggiore trasparenza e responsabilità (accountability) sugli algoritmi di Google e Facebook, in gran parte sconosciuti come ogni segreto industriale. Un libro pubblicato da Harvard University Press nel 2015, The Black Box society. The Secret Algorithms That Control Money and Information, ha goduto di una certa fortuna editoriale tanto che l’espressione “Black Box” (scatola nera) è rimasta nel dibattito pubblico.

 

Quest’anno il prestigioso Pew Research Center ha pubblicato un’indagine molto ampia alla quale hanno partecipato più di 1300 tra esperti, manager, docenti universitari e leader politici. Il giudizio sull’impatto positivo o negativo degli algoritmi nella vita collettiva è molto in equilibrio, e forse è proprio questa la notizia: il 37 per cento di chi ha risposto ritiene che gli effetti negativi superino i benefici mentre il 25 ritiene che danni e benefici si compensino, a conferma che il tema è più controverso di quanto si pensi, nonostante i benefici degli algoritmi siano sotto gli occhi di tutti.

Gli autori della ricerca hanno chiesto ai partecipanti anche di motivare le proprie opinioni e la mole di argomenti pro e contro è sintetizzata nel grafico qui sotto. 

L’argomento forse più curioso e interessante sollevato dal fronte dei critici è quello dei bias (tema numero 4), cioè i pregiudizi inconsapevoli, secondo il quale i codici algoritmici non sarebbero del tutto impersonali e neutri, ma rifletterebbero le idee, i valori, l’etnia, il sesso e la classe sociale di chi li ha scritti.

 

“The Hidden Biases in Big Data” (“I Bias nascosti nei Big Data”) è il titolo di un articolo scritto da Kate Crawford, visiting professor al MIT Center for Civic Media, la quale quest’anno ha dato origine al network AI Initiative, per capire e correggere l’impatto sociale dell’Intelligenza artificiale.

 

Una ricerca dell’Università di Bath, pubblicata pochi mesi fa su Science, ha dimostrato che nel machine learning semantico le macchine creano schemi (pattern) da parole esistenti ma in questo modo riproducono e rafforzano i bias di quei dati. Per esempio, tenderà ad associare a nomi femminili studi umanistici e a quelli maschili studi scientifici o, in una selezione del personale, tenderà a preferire CV associati a nomi europeo-americani a CV di nomi afro-americani.

 

Un’inchiesta di Pro Publica, l’organizzazione non-profit di giornalismo investigativo vincitrice di molti premi Pulitzer, ha dimostrato come COMPAS, un software utilizzato per individuare potenziali criminali recidivi in Florida, nascondesse in realtà pregiudizi inconsapevoli verso le persone di colore. “Machine Bias” era il titolo choc dell’inchiesta.