Decodificare il presente, raccontare il futuro
PROFILI

gio 10 ottobre 2019

La guerra dei dati e il nemico invisibile. Intervista a Carola Frediani

“Big data”, intelligenza artificiale, sorveglianza degli utenti: nuove forme di sfruttamento e relativi impatti politico-sociali. La Rete e le battaglie ancora possibili per renderla libera e orizzontale. Ne abbiamo parlato con Carola Frediani, esperta di tecnologia, cybersicurezza e privacy.

Diavoli: Dopo aver esaurito le risorse del pianeta, l’essere umano è passato a estrarre valore da se stesso, dai suoi comportamenti, dai suoi desideri, dai suoi sogni. Cosa sono i big data, a cosa servono e perché tutti li inseguono?

Carola: Partiamo con un ragionamento sull’aspetto di estrazione di legami, correlazioni, profilazioni e previsioni. Ovvero l’estrazione di valore da un’immensa, eterogenea quantità di microdati che oggi sono continuamente raccolti da persone, oggetti, e sensori.

Se pensiamo al passato, la raccolta di dati avveniva in quantità minori, in tempi più lunghi (non come avviene oggi in ogni secondo e in tempo reale), in ambiti circostanziati. Era più chiaro capire chi raccoglieva quei dati e per cosa, di quali dati stavamo parlando, ed erano meno le entità che li trattavano. 

Oggi invece quel big sta nella quantità e varietà. E anche nella granularità, nel livello di dati raccolti, i cosiddetti microdati. I dati sono raccolti a una tale frequenza e in pezzetti così piccoli e apparentemente innocui che un utente non solo non se ne accorge ma non ha contezza di dove andranno, chi li utilizzerà, a chi passeranno. Come saranno usati e riutilizzati, incrociati e arricchiti con altri. In ultima analisi come potranno essere usati dalle aziende o dai governi. 

Ovviamente ci sono applicazioni che possono essere positive. L’uso dei big data può guidare la pianificazione urbana, migliorare il traffico di una città o il sistema dei trasporti, la sanità etc. Il punto è come usarli proteggendo la privacy degli utenti ed evitando che i nostri dati siano usati per discriminare noi.
Diavoli: Dai dati alla guerra dei dati. Questa nuova dimensione del conflitto globale che segna l’età contemporanea è una guerra tra bande, tra multinazionali, tra stati, o tutto insieme? Si può ancora fare una differenza? Si pensi alla dimensione “elettrificata” e complessa della Via della Seta e alle legislazioni mancanti – per incapacità o per interesse – a livello nazionale e sovranazionale.

Carola: Credo che alla base la questione sia ancora più grande: si tratta di una guerra per la supremazia tecnologica. È in quest’ottica che si deve inquadrare ad esempio la questione delle tensioni geopolitiche sul 5G e lo scontro commerciale fra Usa e Cina. 

Stati e multinazionali giocano una partita fatta di continue, mutevoli alleanze tattiche, perché ovviamente i loro interessi non coincidono sempre. D’altra parte, lo sviluppo di alcune tecnologie e industrie trae vantaggio da Stati con un ruolo forte, che investono o favoriscono/proteggono investimenti. Anche per questo l’Europa, che pure avrebbe delle carte da giocare, rischia di restare indietro.

I cittadini o consumatori dove si collocano in questo scenario? Tra l’incudine e il martello. Possono cercare però di fare leva di volta in volta sulle contraddizioni e il non perfetto allineamento di Stati e aziende per cercare di difendere i propri diritti. Ma il ruolo della politica resta fondamentale. Ne è un esempio il Regolamento europeo sulla privacy. Un passo piccolo e non sufficiente ma non privo di conseguenze a difesa dei diritti della persone.

Diavoli: Uno degli utilizzi principali dei big data, se non il principale considerando gli investimenti, è sull’intelligenza artificiale. Ci spieghi che cos’è l’AI è cosa può diventare? Anche questa corsa s’inserisce nel contesto di guerra globale sopra descritto?

Carola: Oggi quando parliamo di AI (Artificial Intelligence) ci riferiamo al suo significato più ristretto: Artificial Narrow Intelligence, prevalentemente il machine learning (apprendimento automatico). Che cos’è? È la scienza di “far fare qualcosa a un computer senza programmarlo esplicitamente”. E qui tornano in gioco i dati, perché per farlo devi costruire degli algoritmi che imparino dai dati, e a sua volta per farlo alleni dei modelli a partire dai dati. 

Il machine learning (e sue ulteriori specializzazioni, come il deep learning) è quello che ci sta dando le auto che si guidano da sole, migliori traduttori automatici e ricerche sul web, e molte altre applicazioni pratiche. Chi ha più dati è avvantaggiato in questa corsa. Ma ci sono anche alcuni aspetti tecnici con un forte impatto politico-sociale. 

C’è un problema rispetto ai dati di partenza che vengono utilizzati, e se ad esempio contengano già dei bias, dei pregiudizi – e non solo i dati, ma anche la loro preparazione – o come sia inquadrato il problema. E c’è un problema di valutazione dei dati di arrivo. Infatti, proprio per il modo in cui funziona questa tecnologia, è molto difficile verificare come è stata presa una decisione.

Diavoli: Gli algoritmi sono la base per la trasformazione degli strumenti di dominio del Capitale, siamo passati dalla forma della disciplina a quella al controllo. Tanto che questa è stata definita “l’epoca del capitalismo di sorveglianza”. Come abitare questi tempi e, soprattutto, come uscirne vivi?

Carola: Per Shoshana Zuboff, che sul capitalismo di sorveglianza ci ha scritto un libro, e in precedenza vari saggi, siamo di fronte a una fase nuova del capitalismo fatta di «sfruttamento delle predizioni comportamentali, derivate di nascosto dalla sorveglianza degli utenti».
Un capitalismo che «si appropria unilateralmente dell’esperienza umana come di una materia prima gratuita, per poi tradurla in dati comportamentali». E sebbene una parte di questi dati sia applicata per migliorare i servizi offerti, il resto è dichiarato come «surplus comportamentale proprietario», utilizzato per alimentare tecnologie di AI e per costruire dei prodotti predittivi che anticipino quello che faremo (o vorremo).

Ora capisco che ciò suoni piuttosto astratto per tutti noi. Ma il punto, molto più pratico, che muovono Zuboff e altri, è che il capitalismo di sorveglianza si allontani da alcuni aspetti cruciali dell’evoluzione del capitalismo, e ne metta alla prova le norme democratiche. Tradotto: che faccia saltare una serie di diritti, garanzie, e certezze conosciute dai cittadini delle democrazie liberali. 

L’altro punto cruciale è che l’autoregolamentazione da parte di questi soggetti rimane una pia illusione.

Diavoli: Attraverso dati, algoritmi e dispositivi si ripropongono, a partire dalle stesse aziende che la rete controllano, le medesime discriminazioni economiche, etniche e di genere che sono nella società. Per sconfiggerle bastano i vecchi metodi di lotta o ne servono di nuovi?

Carola: Serve tutto e non sarà mai abbastanza. Serve soprattutto conoscenza di questi temi a tutti i livelli della società: dalla politica di primo piano al cittadino medio. Inoltre o gli Stati fanno uno sforzo massiccio e deciso, o non ci sono i tempi per stare dietro alle trasformazioni tecnologiche.

Certo, la società civile organizzata in gruppi e associazioni può essere una spina nel fianco molto fastidiosa, a volte aprire delle brecce. E in più, negli ultimi anni, è cresciuta la consapevolezza (e lo scontento) di molti lavoratori tech, anche di alto livello, che non volevano contribuire a progetti militari o di sorveglianza. C’è molto da fare ma non tutto è perduto.

Diavoli: Possedere i dati significa controllare le informazioni. Evgenij Morozov scrive che una delle possibili soluzioni è la creazione di database liberi, a pubblico accesso tanto per i ricercatori quanto per le persone qualsiasi. Socializzare, e quindi trasformare i big data in “bene comune”, è davvero possibile?

Carola: Credo che una strada possibile possa essere tutto ciò che riporti a una decentralizzazione del web, e al controllo diretto degli utenti sui propri dati, diciamo la strada indicata dalle ultime iniziative di Tim Berners-Lee, il papà del web. Può darsi che quelle nello specifico non decollino, ma potrebbero ispirare altri a trovare soluzioni valide.

Diavoli: Uno dei numi tutelari dei Diavoli è Aaron Swartz. La sua fine è nota. Ora abbiamo Chelsea Manning, Edward Snowden e migliaia di altri nomi più o meno risonanti. Ci viene da pensare che combattere per la libertà di accesso alle tecnologie e all’informazione è altrettanto pericoloso che combattere per la libertà della propria terra. E che i nemici siano sempre gli stessi…

Carola: Quello che mi stupisce è che si fa sempre fatica, in ambienti abituati a ragionare su vecchi schemi, a pensare che ci possano essere da qualche parte, e soprattutto in Occidente, delle persone che portano avanti battaglie ideali su questi temi. Come se questi temi non fossero meritevoli di idealismo o di rischi. 

Oppure si ventila sempre la possibilità di un inquinamento di alcune di queste battaglie da parte di soggetti terzi. Il che è certamente possibile. Ma è come se in passato questi fenomeni non fossero mai esistiti.

Alla fine penso sia importante sottolineare che oggi ci sono tanti attivisti, ricercatori, sviluppatori e simili che ogni giorno fanno qualcosa di concreto. Ci sono infrastrutture, progetti, software che si basano sul lavoro oscuro e collettivo di reti di volontari. 

La battaglia per una Rete il più possibile libera, aperta, decentralizzata, per la libertà di informazione e di accesso alle informazioni, non si può affrontare a livello individuale, se non altro perché la solitudine è un rischio troppo elevato.

E perché i nemici non sono così definiti e definibili come un tempo. Il nemico è diventato molto più invisibile. Forse la strada migliore è ignorarlo, intendo uscire dal suo modo di ragionare, e costruire alternative.

Carola Frediani è giornalista e saggista, esperta di tecnologia, cybersicurezza e privacy. Ha scritto per Agi, L’Espresso, Wired, «Corriere della Sera», Motherboard, «La Stampa». Ha pubblicato diversi libri, tra cui ricordiamo Guerre di Rete (Laterza, 2017), in cui ha intervistato ricercatori, attivisti, hacker e cyber-criminali per raccontarci la rete come il luogo dei nuovi conflitti economici e geopolitici, e da ultimo Cybercrime (Hoepli, 2019) in cui si delinea la mappa della nuova frontiera del crimine, quella che corre lungo i cavi della fibra ottica. Ha anche pubblicato da poco un cyber thriller, Fuori Controllo (Venipedia, 2019).
#big data #carola frediani #aaron swartz #surveillance capitalism #capitalismo di sorveglianza
MONITOR

PROFILI

RECENSIONI

VISIONI

TREDICESIMO PIANO

ENGLISH VERSION

CHE COS'È

CONTATTI

NEWSLETTER

E-BOOK

PROFILI

gio 10 ottobre 2019

La guerra dei dati e il nemico invisibile. Intervista a Carola Frediani

“Big data”, intelligenza artificiale, sorveglianza degli utenti: nuove forme di sfruttamento e relativi impatti politico-sociali. La Rete e le battaglie ancora possibili per renderla libera e orizzontale. Ne abbiamo parlato con Carola Frediani, esperta di tecnologia, cybersicurezza e privacy.

LEGGI ANCHE:
