Costabile (DeepCyber): Computer vs Criminali? Ecco come l’AI aiuta a migliorare la sicurezza

Washington, 2054. In uno dei più famosi film di fantascienza dell’età moderna, diretto dal maestro Steven Spielberg nel 2002 (Minority Report), Tom Cruise lavora per una divisione della polizia locale che ha cancellato gli omicidi da ormai 6 anni grazie a un sistema chiamato Pre-crimine. Un supercomputer, che elabora le premonizioni di tre individui dotati di poteri extrasensoriali, riesce a impedire gli omicidi prima che avvengano, arrestando i potenziali futuri "colpevoli". Ma il sistema non è perfetto, perché non tiene conto di un elemento di disturbo molto importante: l’uomo, il suo libero arbitrio, la sua moralità.

Napoli, 2018. L'Intelligenza artificiale, è (quasi) realtà.

Siamo, dunque, entrati nell’era della fantascienza? Delle macchine che superano l’uomo e, per certi versi, lo dominano? Gerardo Costabile (vedi foto di copertina, di Francesco Termine), CEO di DeepCyber, società specializzata in cyber threat intelligence, protection e antifraud, che ha precedentemente ricoperto ruoli di rilevo come Chief Security Officer di British Telecom e Fastweb spa e Chief Information Security Officer del Gruppo Poste Italiane, oltre che investigatore nel Gruppo Repressione Frodi della Guardia di Finanza di Milano,non ha dubbi: la risposta è no. “Perché l’intelligenza artificiale di fatto non è reale, non è sovraumana e/o identica o superiore all’uomo”, avverte. Anzi, “la componente umana è ancora predominante”. E lo sarà per lungo tempo ancora. Anche se gli algoritmi intelligenti possono fornire un aiuto, soprattutto nell’ambito della sicurezza. Per pattugliare meglio le strade delle città. Per prevenire frodi online. Per salvaguardare l’identità digitale di chi naviga sulla rete. Ecco come.

OF: L’intelligenza e le reti neurali stanno trovando un ampio terreno di applicazione nei più svariati settori: dall’industria ai servizi finanziari, fino ad arrivare anche alla sicurezza nelle città e online. In che modo l’AI si può utilizzare per prevenire crimini?
Costabile: È vero, la sicurezza è uno degli sbocchi di utilizzo dell’AI. Già da qualche anno, infatti, le reti neurali e gli algoritmi sono utilizzati per velocizzare e rendere più efficienti le azioni di contrasto. Il fatto è che in qualunque campo, ma soprattutto nell’ambito della sicurezza, il vero problema è efficientare i processi. E l’intelligenza artificiale aiuta a farlo.

OF: In che modo?
Costabile: Le faccio un esempio: supponiamo di avere 5 pattuglie di polizia a disposizione per coprire tutto il territorio di Roma in una notte. È chiaro che il compito è difficile perché la città è vasta e ci sono molte aree dove potenzialmente potrebbe accadere qualcosa. Ecco che in questo caso interviene la tecnologia che aiuta a conoscere le aree e i quartieri più a rischio. In questo modo si può rendere più efficiente la perlustrazione fisica, perché si conoscono già a priori le aree da presidiare.

OF: Ma anche l’uomo, senza l’aiuto dell’intelligenza artificiale, riesce a capire quali aree hanno più bisogno di sorveglianza…
Costabile: Sì, certo, ma questo processo comporterebbe molto più tempo. Perché la mole di dati da analizzare è enorme. Per questo l’AI serve per efficientare, perché permette anche di elaborare dati che magari non avevamo nemmeno mai preso in considerazione, i cosiddetti segnali deboli. L’uomo è abituato a lavorare i dati in tabelle di poche dimensioni, pensiamo a fogli di calcolo. Analogamente, l’uomo basa le sue scelte sull’esperienza, che può portare a pregiudizi inconsci.

OF: Cioè?
Costabile: Immaginiamo di avere una banca con 1000 filiali da monitorare, ma di avere a disposizione solo 100 telecamere. Come scelgo in quale sportello montarle? Di solito la regola del ragionamento umano è che si analizzi la storicità degli eventi, quindi si reputano più rischiose quelle filiali in cui sono avvenute più rapine o per mera reputazione della zona. Ma in realtà possono capitare eventi che non sono mai accaduti, perché del tutto nuovi. Quindi non c’è una storia sulla quale basarci. È qui viene in aiuto la tecnologia.

OF: Cosa fa la rete neurale quindi?
Costabile: Permette appunto di analizzare altri dati. Come per esempio le rapine avvenute nello stesso quartiere, ma in altri contesti e non necessariamente in quella precisa filiale. Con l’AI si analizza un insieme di dati molto più ampio, mischiandoli poi successivamente insieme per avere risultati diversi.

OF: Ci sono già esempi concreti?
Costabile: Sì, su questa base è stato realizzato l’algoritmo recentemente pubblicizzato dalla Questura di Venezia e di Napoli (che prende il nome di “X-LAW”) e che – secondo i media - funzionerebbe come una sorta di minority report, pur personalmente non condividendo la similitudine.

OF: Il film con Tom Cruise in cui il super computer prevede i crimini prima che avvengano e punisce i colpevoli?
Costabile: Infatti, in questo caso non siamo a quel punto: l’algoritmo in questione aiuta solo a presidiare le aree criminose in modo più efficiente ed efficace, ma non ha una funzione predittiva in senso stretto sulla persona che commette il crimine (come avveniva nel film). Cioè non dice con certezza che in quel particolare momento avverrà un crimine né può identificare predittivamente il criminale. Ma informa che, sulla base di tutta una serie di dati e algoritmi, è possibile che in quella zona accada un evento criminoso. Diciamo che se una zona non è conosciuta entra in gioco l’AI: non è come trovare un ago in un pagliaio, ma di fatto è come “spostare il pagliaio”. Cioè è fare in modo che l’ago si trovi in una zona più piccola e più facile da conoscere. Nel caso di specie, la pattuglia dovrà pattugliare un’area più limitata perché statisticamente sarà più vicina all’evento criminoso e quindi potrà intervenire prima.

OF: Quindi la tecnologia non va a sostituire l’uomo…
Costabile: Attualmente non ancora, la componente umana è ancora predominante. Perché l’intelligenza artificiale di fatto non è reale, non è “sovraumana” e/o identica o superiore all’uomo. È un ottimo aiuto, quando funziona al meglio. Secondo molti studiosi, ci vorranno almeno 100 anni per arrivare a quella super intelligenza autonoma, che sarà molto più sofisticata di quello che per noi oggi è la tecnologia informatica. A mio avviso oggi si abusa del termina “Intelligenza artificiale”.

OF: In che senso? Non è una vera AI questa?
Costabile: La “super intelligenza” è un argomento oggetto di studi ed applicazioni fin dagli anni ’50, in molteplici forme. Ad esempio, nel 1955 venne sviluppata, tra le prime applicazioni documentate, una versione di gioco della Dama con apprendimento automatico. Tale tecnologia ha poi portato la macchina a superare il creatore nel 1994 (mentre nel 1997, come si ricorderà, l’intelligenza artificiale vinse contro Gasparov agli Scacchi). Questo momento, frutto della “competenza” tecnologica della macchina, è definito dagli addetti ai lavori di “livello sovrumano”. Secondo gli studiosi, per super intelligenza si intende - sul piano teorico - una particolare abilità cognitiva, che può superare quella umana, in quasi tutti i domini di conoscenza.

Attualmente, su segmenti verticali l’AI può essere di supporto all’uomo. Ma è una parola che va comunque presa con le pinze.

OF: Perché? Quali sono i limiti dell’intelligenza artificiale odierna?
Costabile: Beh, il più grosso limite è che non si possono facilmente verificare i risultati delle reti neurali.

OF: In che senso?
Costabile: Facciamo esempio: se io con l’intelligenza artificiale condannassi una persona, come faccio a sapere che è stata presa una decisione giusta? Non è facile. Perché non è una cosa matematicamente dimostrabile e non esistono regole oggettive e riproducibili. Le decisioni dell’IA saranno come le decisioni di una mente, seppur artificiale. Quindi ispezionabili con domande e risposte (nel caso), non mediante sistemi di verifica oggettiva. Il vero problema potrebbe essere che l’essere umano tende a fidarsi della tecnologia e a considerare che non sbagli mai, ma in questi casi sarebbe una prova diabolica verificare questo assunto. Quando va a fare la spesa al supermercato, controlla sempre lo scontrino?

OF: No, ma potrei farlo…
Costabile: Certo, ma in genere si fida del conteggio fatto dalla macchina. Nel caso invece dell’AI non sarebbe verificabile lo scontrino, si dovrebbe “fidare” del risultato. Salvo che non ci siano regole a monte, controlli nella progettazione et similia per ridurre questi rischi che, onestamente, sono ancora per certi versi ignoti. Dobbiamo entrare nell’ottica che la macchina è passibile di errore (questo già oggi, ovviamente).

OF: Per esempio, quando sbaglia?
Costabile: Per il solo fatto che è progettata dall’uomo non può essere perfetta. Ci sono errori di programmazione che fanno gli stessi uomini. Mettiamo per esempio il caso degli algoritmi che stabiliscono se il cliente di una banca può essere considerato solvibile ai fini della concessione di un mutuo. In questo caso, viene fissata una soglia sotto la quale il cliente è considerato a rischio insolvenza. Ecco, cosa succede se al cliente viene rifiutato un mutuo perché magari il suo punteggio è di un solo punto sotto la soglia limite? Chi ha ragione?

OF: Oltre ai crimini “tradizionali”, poi, ci sono anche tutti quei reati virtuali come il furto dell’identità digitale. In che modo, in questo caso, l’AI risolverà almeno parzialmente il problema?
Costabile: Ci sono vari esempi. Già oggi nel settore bancario le reti neurali vengono utilizzate sia nel rischio del credito che nell’antifrode. Si utilizza, infatti, il machine learning per scovare comportamenti anomali del cliente rispetto a quelli abituali. Ed è un sistema che potrà essere utilizzato non solo in banca ma anche per proteggere l’identità online delle persone.

OF: In che modo, per esempio?
Costabile: Inviando alert a quella persona che utilizza sempre quel Pc connettendosi dallo stesso quartiere di quella stessa città. Se il sistema nota una connessione da una città insolita potrà quindi verificare e informare il cliente. Oppure, spingendosi oltre, mettiamo che una persona un’ora prima era a Roma e un’ora dopo si connette da New York: è chiaro che anche in questo caso la macchina invierà un avviso.

OF: Oltre ai pagamenti online e con le carte, quali altri capacità potranno avere le reti neurali nel migliorare la sicurezza nell’utilizzo dei prodotti finanziari?
Costabile: Per esempio, un’estensione dell’utilizzo delle reti neurali per contrastare il furto di identità digitale potrà essere scelto per proteggere gli home banking. L’utilità per la banca è che il sistema permette di anticipare l’anomalia, prima che il frodatore faccia la transazione illecita. Con un notevole risparmio, dunque.

OF: Ci sono già progetti attivi o in fase di realizzazione?
Costabile: I settori più maturi sicuramente sono quello bancario finanziario e quello assicurativo. Non a caso la statistica nasce proprio nel mondo assicurativo: ed è utilizzata per fare previsioni dei casi morte e dei sinistri, in modo da applicare poi il pricing corretto alla polizza. Diciamo che si tratta di un modo più maturo, anche se non ci sono ancora molte applicazioni.

OF: Poi?
Costabile: Beh, ovviamente alcuni ambiti di applicazione possono essere quelli industriali, anche se l’industria 4.0 ancora è agli albori. E qualcosa si trova anche nel mondo del gaming: si profila il comportamento del giocatore e si creano dei cluster di varie famiglie di giocatori. In questo modo il marketing può spingere, facendo previsioni di introiti, per innalzare le revenue. Diciamo che il settore marketing è quello che più si presta all’introduzione di reti neurali.

OF: Perché? Ci può fare qualche esempio?
Costabile: Certo. Ci sono brand della moda che, ad esempio, utilizzano l’intelligenza artificiale per ipotizzare e prevedere il tasso di abbandonano dei clienti. Zara, ad esempio, utilizza questi modelli per prevedere quanti vestiti deve produrre per evitare di avere giacenze in magazzino elevate di invenduto. In questo modo si riducono molto gli sprechi.

OF: E in futuro? In quali ambiti si espanderanno le reti neurali?
Costabile: Ovunque ci siano tanti dati da utilizzare, specialmente se big data, ovvero quantità sommata a complessità dei formati, come avviene ad esempio nel mondo dei social network.

© OF Osservatorio Finanziario – riproduzione riservata