Decodificare il presente, raccontare il futuro

MONITOR


Wed, November 6, 2019

Il machine learning del crimine

Dalle “martellate luddiste” contro la vetrina della gioielleria alla creazione di volti finti e fino alla replicazione di voci attraverso software d’intelligenza artificiale: nel Crime restano le narrazioni sovversive per eccellenza, quelle più in grado di portare a galla le contraddizioni dell’epoca in cui viviamo.

Prologo, un paio di settimane fa
Milano, pieno centro, a due passi da piazza San Babila. Un uomo vestito di nero, borsa a tracolla, cappellino da pescatore in testa, prende a martellate la vetrina di una gioielleria. La telecamera di sorveglianza riprende tutto.

L’uomo colpisce il vetro rinforzato del negozio per 12 secondi esatti, fino ad aprirsi un minimo varco. Poi infila la mano, prende due orologi in esposizione – dal valore complessivo di circa 70mila euro – e fugge, a piedi.

Sono passati 19 secondi esatti. Da altre telecamere, installate su esercizi commerciali limitrofi o lungo la via, si scopre che un complice lo aspetta su uno scooter rubato. Pochi secondi ancora e sono scomparsi nel traffico cittadino.
Nell’epoca del capitalismo della sorveglianza, nel panottico poliziesco totalizzante, che tutto vede e tutto prevede, questo gesto di puro luddismo neoprimitivo sembra l’unico atto di resistenza possibile.

Scanner di riconoscimento facciale, analisi biometriche, incrocio dei dati di tutti i dispositivi disponibili sulla scena – dalle telecamere di sorveglianza ai telefonini dei passanti –, geolocalizzazione dei due individui e del mezzo di trasporto. Le più sofisticate tecniche in mano alle forze dell’ordine sono state messe subito all’opera per la cattura del criminale.

Forse lo prenderanno. Forse i software di intelligenza artificiale (AI) in loro dotazione, dopo avere raccolto ed elaborato tutti i dati in loro possesso, arriveranno a prevedere dove quell’uomo deciderà di nascondersi tra una settimana. E cosa ordinerà da mangiare su Deliveroo.
O forse no. Forse quell’uomo è già in Costa Azzurra a godersi il frutto della sua rapina, come in un polar francese degli anni ‘50.




Washington. Qualche mese fa
Una notifica brilla sul computer di un giornalista dell’Associated Press. È una richiesta di amicizia su Linkedin, il social network del lavoro e delle conferenze. Un evento qualsiasi, come ne accadono a decine di migliaia ogni giorno. Ma, questa volta qualcosa non torna.

A prima vista Katie Jones, così si chiama la donna che ha chiesto l’amicizia al giornalista, ha un ottimo curriculum. E soprattutto ha ottime connessioni. Tra i suoi contatti ci sono: il vice assistente di un segretario di Stato americano, il portavoce di un senatore, economisti di fama mondiale, membri di importanti think tank come il Brookings Institution o la Heritage Foundation.

Ma, c’è un “ma”. La foto di Kate Jones è perfetta. È troppo perfetta. Non perché è particolarmente bella, ma perché non è particolare. È troppo standard, troppo tipica, troppo poco individuabile. Il giornalista si rivolge a un artista tedesco, che la analizza per lui.

Il colore neutro degli occhi, la forma dell’orecchio, l’ombra delle guance, lo sfondo dipinto, sono tutti chiari indizi: la foto è falsa. Kate Jones non esiste. Kate Jones è un prodotto dell’intelligenza artificiale. Kate Jones è una spia.

Oggi le spie vengono da Linkedin. Creano una rete di contatti, li profilano, raccolgono i dati. Scelgono la preda, trovano il punto debole. Agiscono.
Organizzano appuntamenti a conferenze di rilevanza internazionale, colloqui di lavoro per prestigiose aziende, tutte riconducibili alla rete di contatti sbandierati sul social network. Una volta lì la vittima non è avvicinata dalla Katie Jones di turno, ma da alcuni professionisti che cercano di arruolarla.

Se funziona, bene, altrimenti una nuova immagine creata con l’AI sta già chiedendo l’amicizia ad altri possibili obiettivi.


Londra. Pochi giorni fa, o qualche mese fa
Un altissimo dirigente di una nota compagnia energetica britannica riceve una chiamata dal suo capo, direttore esecutivo della società controllante tedesca. Riconosce la sua voce. Il suo inglese perfetto, con un leggero accento germanico, quel timbro personale così caratteristico, quella melodia chiaramente identificabile. È lui, non ci sono dubbi.

Il capo gli chiede di inviare urgentemente un bonifico di 220mila euro a un’azienda fornitrice ungherese. “È urgente, fallo entro un’ora”. La truffa prosegue con una seconda telefonata, in cui si dice che la controllante tedesca ha già rimborsato la società britannica. E con una terza, in cui è ancora l’inconfondibile voce del boss a chiedere un nuovo pagamento.

Questa volta, però, la chiamata arriva da un numero austriaco. L’altissimo dirigente della nota compagnia energetica britannica s’insospettisce, e blocca tutto. Troppo tardi. Il primo pagamento, i primi 220mila euro, sono già scomparsi: i soldi trasferiti in Ungheria sono già andati in Messico, e da lì sono stati spacchettati e spediti in mille altri Paesi.

È il primo caso nella storia – o il primo di cui siamo a conoscenza – di truffa organizzata con l’aiuto dell’AI. Non è una semplice voce contraffatta. E neppure il nuovo, e oramai già vecchio, metodo basato sulla registrazione della voce originale e sul cut and paste digitale nella creazione di nuove e diverse frasi di senso compiuto.

I truffatori hanno utilizzato l’intelligenza artificiale. Ci sono software in vendita dappertutto, almeno nel deep web, e come spiegano gli esperti di sicurezza non serve un dottorato in matematica per poterli usare. Solo un po’ di sana applicazione.
Il «Wall Street Journal», che riporta la notizia e intervista gli esperti, arriva con mesi di ritardo. Tutto è avvenuto la scorsa primavera, ma non si poteva dire. Gli stessi nomi dei dirigenti e delle compagnie coinvolte – seppure chiaramente riconoscibili – non possono essere fatti.

La truffa non può e non deve sussistere. È un salto quantico nelle modalità del crimine, cui non si è pronti a replicare.


Epilogo. Tra pochi giorni, al massimo mesi
Fino ad ora l’AI è sempre stata usata da polizie, eserciti e agenzie private di sicurezza per contrastare il crimine. Il suo utilizzo, in mano agli apparati di sicurezza, è un’arma di fondamentale importanza, paragonabile alla scoperta della possibilità di analizzare il Dna sulla crime scene, avvenuto oltre trent’anni fa.

Certo, ci sono i pro e i contro. Le tecnologie di riconoscimento facciale sono tarate sul maschio bianco. C’è un enorme bias dell’AI nei confronti delle donne e delle minoranze etniche.

I software precognitivi utilizzati dalla polizia per prevedere i crimini, insomma, sono classisti e razzisti. Inevitabilmente vanno a colpire le aree più povere e disagiate della popolazione.

In generale la società del controllo e i suoi dispositivi, lungi dall’essere neutri, replicano nel sistema binario e nelle reti elettriche di connessione le stesse diseguaglianze della società che li ha ideati e costruiti. E le perpetuano.

Ma ora c’è un altro problema. Inevitabile. Era solo questione di tempo prima che fossero i criminali a sfruttare i dati e gli algoritmi del machine learning. E come hanno sempre ripetuto gli esperti di sicurezza nelle varie conferenze sul cyber-crime, il giorno che sarebbe accaduto, nemmeno i più raffinati sistemi di psicopolizia sarebbero stati pronti a contrastarli.

È l’alba di una nuova era. Grazie all’innata capacità del crimine di utilizzare i mezzi del potere a suo vantaggio. Non a caso all’inizio del ‘900, quando nasceva la disciplina della sociologia, i primi ricercatori per comprendere le strutture sociali in continuo mutamento ne analizzavano gli aspetti devianti, cioè criminali.

Dalle martellate luddiste alla vetrina della gioielleria all’uso disinvolto dei social network e fino ai software di AI utilizzati per truffare le più importanti compagnie energetiche del mondo: il crimine mostra come sia possibile sottrarsi ai dispositivi del capitalismo della sorveglianza.

Nel crime restano le narrazioni sovversive per eccellenza, quelle più in grado di far esplodere le contraddizioni di ieri, oggi e domani.
#crime#surveillance capitalism#capitalismo di sorveglianza#intelligenza artificiale

NEWSLETTER


Autorizzo trattamento dati (D.Lgs.196/2003). Dichiaro di aver letto l’Informativa sulla privacy.



LEGGI ANCHE: