Vi rilanciamo un articolo pubblicato sul blog del Centro Steadycam di Alba , con diversi spunti di approfondimento sul tema degli algoritmi. Buona lettura!
Un algoritmo è “un insieme di istruzioni che deve essere applicato per eseguire un’elaborazione o risolvere un problema” (Treccani.it). E’ ciò che permette alla macchina di svolgere dei compiti.
Come insegniamo alle macchine che cosa fare? Fino a poco tempo fa la soluzione era quella della ricetta: ti scrivo tutti i passaggi e tu crei la torta. Poi l’approccio è cambiato: con il machine learning si è passati ad alimentare gli algoritmi con grandi quantità di dati, dai quali essi apprendono e, di conseguenza, eseguono i loro compiti. Ad esempio, anzichè spiegare punto per punto come è composto un volto umano perché la macchina lo riconosca, sono state fornite milioni di fotografie di volti dalle quali l’algoritmo ha imparato.
Tutto questo ha aperto opportunità e problemi. Gli algoritmi oggi sono alla base di molti nostri comportamenti quotidiani: ci restituiscono i risultati delle nostre ricerche online, ci propongono acquisti, musica, video, post, notizie, suggeriscono chi conoscere e chi seguire (ne avevamo già parlato qui). Lo fanno basandosi sulle tracce che abbiamo lasciato onlife (online e offline non sono più separabili). In questo senso, ci avvisa il sociologo Dominique Cardon, gli algoritmi ci inchiodano al nostro passato (Che cosa sognano gli algoritmi). Dove scopriamo il nuovo, l’inaspettato, il diverso?
Se gli algoritmi vengono nutriti con dati di anni o decenni fa, inevitabilmente digeriranno e assimileranno pregiudizi e storture del passato, che oggi stiamo cercando faticosamente di superare. Se i dati raccontano di poche donne assunte per ruoli dirigenziali, l’algoritmo assegnerà un punteggio più basso alle donne quando esamina le candidature per quei ruoli. Se in passato ci sono stati più arresti di persone di colore, l’algoritmo etichetterà come “pericolose” quelle persone. A rimanere inchiodati al passato non sono più solo gli individui, ma la società stessa. La Rete, da evolutiva, diventa involutiva. E’ il nostro specchio oscuro.
Che cosa succede se questi algoritmi vengono usati senza un controllo umano che li bilanci? E senza che il diretto interessato sappia di essere giudicato con quei parametri?
Su questi temi ragiona Coded Bias, documentario che fotografa un nascente movimento di protesta contro l’uso indiscriminato dei software di riconoscimento facciale da parte di aziende, governi e forze dell’ordine. Il documentario è visibile per intero su Youtube, sottotitolato in inglese; per la versione in italiano dovete affidarvi agli algoritmi di Netflix.
Quanto sono bravi gli algoritmi nel riconoscere in tempo reale le nostre espressioni facciali e le emozioni che esprimono? Potete provarlo giocando al Fake Smile Game su questo sito: https://emojify.info.
Una volta raccolti, i nostri dati vengono immagazzinati e processati. Chi vi può accedere? Quali dispositivi legislativi e tecnici regolano il flusso di questi dati? La puntata di Report andata in onda lunedì 10 maggio ha preso in esame le registrazioni delle videocamere interne presenti alla RAI (e in tutta Italia) prodotte dall’azienda cinese Hikvision, mostrando come esse comunichino dati con i server presenti nella madrepatria. Su Youtube trovate una clip della puntata.
Nel libro Anime elettriche il collettivo Ippolita distingue tra “avatar” e “identità digitale”, dove il primo è il “costume” che indossiamo consapevolmente online, mentre la seconda è l’insieme di tutte le tracce che abbiamo lasciato su web e social e delle quali non abbiamo mai il quadro completo. Gli algoritmi, invece, ce l’hanno. Per farne cosa? Venderci un paio di scarpe? Proporci un mutuo più alto? Schedarci come elettori di sinistra? Segnalarci come potenziali criminali?
Come abitare questo scenario? Luciano Floridi ci invita a cercare, attraverso il dibattito pubblico e la legislazione, un’ecologia sostenibile in cui convivere, umani e algoritmi, all’interno dell’infosfera (“La quarta rivoluzione”). Yuval Noah Harari si spinge oltre, chiedendosi che cosa sarà dell’idea di individuo umano e di libero arbitrio di fronte ad algoritmi che funzioneranno sempre meglio (“Homo Deus”). Nella terza stagione di Westworld il dialogo tra Dolores e Caleb riverbera le domande di Harari: l’algoritmo non ti dice chi sei, ma chi ti faranno diventare (guarda).
