Se l’IA beffa i truffatori telefonici: le soluzioni e i problemi giuridici #adessonews

La maggiore capacità di replicare le voci grazie a sistemi di intelligenza artificiale consente anche ai truffatori di sembrare soggetti esperti del settore su cui incentrano la truffa nonché di impersonare personaggi noti e seguiti sui social come Instagram, trovando così un più facile aggancio alla potenziale vittima.

Il deepfake, in questo modo appare come un “esperto” che convince la vittima di una identità non reale, spesso al fine di farsi consegnare denaro o preziosi.

Usare l’intelligenza artificiale per smascherare i truffatori: il progetto Apate

L’intelligenza artificiale così come può essere utilizzata dai truffatori può però, essere utilizzata anche per smascherarli.

Con riferimento a quest’ultima finalità è da segnalare come siffatto ambizioso progetto è stato ideato e sviluppato dalla Macquarie University di Sydney che ha dato vita a un sistema di intelligenza artificiale denominato “Apate” (come la divinità greca dell’inganno), il cui scopo è quello di intervenire in caso di truffe telefoniche. Il sistema è infatti progettato per tenere quanto più tempo possibile al telefono i truffatori e consentirne la localizzazione.

Come funziona Apate

Il chatbot multilingua ideato dall’Università australiana – oggi in fase di perfezionamento – è stato pensato e predisposto per riuscire a intrattenere conversazioni realistiche di lunga durata con i truffatori, sostituendosi alla potenziale vittima che rimane così protetta.

Tale innovativo sistema è intuitivamente preordinato alla tutela delle fasce più deboli come gli anziani ed è stato realizzato attraverso un modello di apprendimento automatico volto ad analizzare le telefonate a contenuto ingannevole e a rilevare elementi di social engineering, ossia componenti che sfruttano distrazioni umane (come ad esempio il cliccare su un link malevolo) per rubare le credenziali di accesso a un sistema e sottrarre informazioni sensibili con l’inganno.

Una volta addestrato, questo sistema di intelligenza artificiale è in grado di simulare la voce di una persona ed entrare in azione per sventare una truffa e per cercare di ottenere informazioni che consentano di individuare il truffatore attraverso la geolocalizzazione e cercare di capire come opera.

Così Apate beffa i truffatori

In questo modo i truffatori, che credono di star parlando con potenziali vittime, spendono del tempo inutile per cercare di truffare un bot che invece sta a sua volta carpendo loro informazioni utili per smantellare i centri di scam.

Per riconoscere se la chiamata in arrivo proviene da truffatori, “Apate” utilizza i sistemi già esistenti con cui le società di telecomunicazioni identificano le chiamate come spam. Una volta identificato il numero come spam il sopra menzionato sistema interviene rispondendo al posto della persona a cui è indirizzata la truffa.

Lo scopo che si propone l’università australiana è sicuramente molto nobile in quanto anche se utilizzando tale metodologia strategica non si dovesse o non si potesse riuscire a risalire all’identità dei truffatori, il ricorso a tale sua applicazione, potrebbe in ogni caso limitare il numero delle truffe, sia facendo perdere del tempo prezioso ai truffatori, sia rendendo evidenti e note le tecniche della truffa architettata.

Va, infine per completa e corretta narrazione espositiva, additivamente soggiunto che il sistema di intelligenza artificiale sopra evidenziato è all’attualità in fase di perfezionamento in quanto non è ancora in grado, sotto il profilo temporale, di riuscire a sostenere conversazioni di una certa lunghezza, come invece sarebbe necessario ed essenziale al fine di riuscire a carpire puntuali ed esaustive informazioni sugli scammer.

Le problematiche giuridiche

Il sistema di AI, che è stato oggetto di disamina nel paragrafo precedente, costituisce una vera e propria innovazione, nonché potenzialmente un valido strumento di lotta contro le truffe telefoniche e informatiche.

Tuttavia, poiché il sistema è ancora in fase di sperimentazione, il suo ingresso nell’ambito degli ordinamenti giuridici non è ancora stato regolamentato.

La domanda che sorge spontanea, con particolare riguardo al nostro ordinamento interno, è quella circa il valore probatorio delle informazioni carpite con l’intelligenza artificiale, soprattutto, ove si tratti di registrazioni telefoniche.

Il nostro sistema giuridico all’art 234 del c.p.p. consente l’acquisizione di scritti o di altri documenti che rappresentano fatti, persone o cose mediante la fotografia, la cinematografia, la fonografia o qualsiasi altro mezzo.

Ciò significa che le registrazioni telefoniche possono contribuire a cristallizzare un fatto storico realmente avvenuto e possono essere utilizzate, sia ai fini delle indagini, sia come prove all’interno di un processo penale.

La sentenza della Cassazione

La Corte di Cassazione con sentenza n. 47602/2017 è intervenuta sul tema dell’utilizzabilità all’interno del processo della registrazione di un colloquio telefonico e ha ribadito che se la registrazione è fatta ad opera di uno dei partecipanti, la stessa costituisce prova documentale di un fatto storicamente avvenuto, che può entrare legittimamente nel procedimento a carico di un altro dei partecipanti.

L’utilizzo della registrazione però incontra dei limiti, ossia che: a) colui contro il quale la registrazione è prodotta contesti che la conversazione sia realmente avvenuta o che la conversazione non abbia avuto il tenore risultante dal nastro; b) si tratti di conversazione svoltasi tra soggetti estranei alla lite; c) almeno una delle parti deve essere parte in causa.

Non è altresì inutile ricordare che i predetti, sopra riferiti limiti hanno come indefettibile presupposto il dato paradigmatico che la registrazione ha per oggetto un dialogo tra persone fisiche e non già il dialogo tra un sistema di intelligenza artificiale, che si qualifica agli occhi dell’altro soggetto come se fosse la potenziale vittima a cui è indirizzata la truffa.

Trovare un ruolo adeguato per l’IA per non rendere vano il sistema anti-truffa

In questo quadro, poiché la registrazione avviene tramite un sistema di AI presente all’interno del telefono/smartphone ed installato dal proprietario della sim, non si può tecnicamente parlare di intercettazioni in senso proprio, in quanto manca il soggetto terzo autorizzato dal Giudice che compie materialmente la registrazione.

In questi casi si parla più propriamente di documento fonografico di come, alla luce della normativa attuale, lo stesso possa essere validamente inquadrato.

Il cuore della questione, infatti, è proprio quello di trovare un’adeguata collocazione e ruolo, al postulato sistema di intelligenza artificiale, considerato che non si ha riguardo ad una persona fisica.

Ove si seguisse l’orientamento giurisprudenziale dominante, nato chiaramente prima dell’avvento dell’intelligenza artificiale, la registrazione sarebbe illegittima, in quanto mancherebbe un elemento essenziale che legittimerebbe essa produzione documentale, ossia la partecipazione diretta della persona fisica a cui è rivolta la truffa o quella di un altro soggetto autorizzato a partecipare.

Ciò renderebbe vana l’attività svolta dal sistema di AI, anche perché se il presunto truffatore dovesse contestare il contenuto della conversazione non ci sarebbe un soggetto partecipante a dichiarare il contrario.

L’IA come mezzo di ricerca della prova

Una possibile soluzione, salvo che nel frattempo il legislatore non intervenga specificamente sul punto, sarebbe quella di inquadrare la predetta registrazione come un mezzo di ricerca della prova e nello specifico come un indizio dal quale fare partire le indagini. Ad esempio dalla registrazione possono essere desunti elementi (modus operandi del truffatore e se lo stesso faccia parte di un apparato più strutturato di un sistema di truffa) che riconducono al potenziale truffatore e che, unitamente ad altri elementi, (ad esempio il numero dal quale è partita la chiamata) potranno costituire a loro volta un mezzo di prova che può essere usato nella fase dibattimentale del giudizio.

Siffatta ipotesi concettuale probabilmente non si scontrerebbe coi limiti attualmente posti dalla Cassazione e dal nostro ordinamento.

È ovvio, tuttavia, che un intervento ad hoc del legislatore che prenda in considerazione il nuovo panorama venutosi a creare coi sistemi di AI, sia fortemente auspicabile. Questo consentirebbe l’applicazione di una norma “dedicata” e pensata per queste circostanze e soprattutto consentirebbe ai giuristi di inquadrare una fattispecie su cui la valutazione non è unanime.

Le sfide future per il sistema processuale

L’intelligenza artificiale, specialmente negli ultimi anni, sta facendo passi da gigante. Soltanto qualche tempo fa nessuno si sarebbe mai immaginato la nascita di un sistema di AI atto smascherare le truffe telefoniche, eppure oggi tutto ciò costituisce una realtà consolidata alla quale non si è del tutto giuridicamente preparati.

Per questo motivo, al di là delle linee guida dettate dall’AI Act in materia di intelligenza artificiale, è necessario che gli ordinamenti giuridici inizino a inquadrare al più presto l’impiego di queste nuove tecnologie anche nell’ambito di un sistema processuale che attualmente rimane ancorato a un mondo che pian piano sta diventando obsoleto. Ci si auspica che il legislatore intervenga al più presto per aprirsi a un mondo tecnologico ove l’AI ha, senza alcun dubbio, un ruolo di primaria rilevanza.