L’intelligenza artificiale (IA) – descritta come una tecnologia capace di creare una nuova età dell’abbondanza, una società più ricca e più unita e una vita migliore – si sta rivelando un fattore di insicurezza nei rapporti sociali, di paura e di diffidenza verso la realtà.
Più i software di intelligenza artificiale diventano sofisticati, più è facile realizzare truffe, e rendere più difficile distinguere il falso dal vero. Cosa che comincia a ossessionare le persone, rese più sospette e paranoiche.
Truffe in tempo reale via deepfake
Immaginate di voler conoscere gente nuova. Che sia un’app di dating o un social network, vi collegate online e iniziate a chattare uno sconosciuto. Quella che avete di fronte sembra una persona reale e perciò fate amicizia cominciando a inviare messaggi privati per poi passare a piattaforme come Telegram o Whatsapp.
In seguito, rotto il ghiaccio, scambiate foto e vi parlate tramite una videochiamata. Iniziate a familiarizzare, conversando del più e del meno con chi c’è dall’altra parte. Ma poi, all’improvviso, l’interlocutore se ne esce con un problema di soldi chiedendovi naturalmente di spedirli al suo indirizzo, e inventandosi una storia per guadagnare la vostra fiducia.
Benvenuto nel mondo delle truffe in tempo reale dei deepfake che sono video, immagini oppure audio in grado di imitare persone del mondo reale, difficilmente riconoscibili come falsi anche da esperti e professionisti.
Non solo semplici utenti ma pure impiegati e manager di multinazionali sono vittime di raggiri perpetrati dai criminali informatici che possono accedere a questa tecnologia, sempre più a basso costo e di facile impiego, basata su algoritmi di deep neural network.
Il cybercrime froda governi e aziende in tutto il mondo
La criminalità informatica con in mano i nuovi più potenti strumenti IA si rafforza e si arricchisce. Secondo Cybersecurity Ventures, i danni inflitti dal cybercrime a livello globale ammontano a 10,5 trilioni di dollari nel 2025. Se fosse considerato un paese, il crimine informatico sarebbe la terza economia mondiale dopo Usa e Cina. Ed è soprattutto grazie all’intelligenza artificiale, che il cybercrime riesce ad essere più efficace e micidiale nel perseguire i suoi obiettivi maligni.
Con l’ausilio dell’IA generativa è possibile realizzare senza errori di ortografia e grammatica email personalizzate, messaggi istantanei e contenuti visuali come esca per attirare potenziali vittime di frodi attraverso phishing e smishing o pubblicità ingannevoli che servono per sottrarre dati bancari, password e informazioni sensibili ai malcapitati.
Grazie ai chatbot, i criminali informatici riescono a manipolare gli utenti nel corso di una conversazione per perpetrare i loro imbrogli e ad ampliare, d’altra parte, il loro raggio di azione su molti più utenti. E i deepfake vengono sempre di più usati per dirottare le vittime su siti web malevoli che vengono sfruttati per rubare i dati delle carte di credito e svuotare i conti dei poveri turlupinati o per spingere a versare denaro su investimenti truffaldini.
Qualche esempio concreto è utile per capire la tremenda efficacia dell’intelligenza artificiale applicata al crimine.
Un dipendente di una multinazionale riceve, un giorno, una email dal direttore finanziario per partecipare a una video-conferenza. In questa riunione online bisognava discutere in segreto di una importante transazione finanziaria da eseguire insieme ad altre persone dello staff aziendale. Nella videochiamata sembrava tutto vero come lo stesso direttore finanziario. In realtà, si trattava di riproduzioni video in deepfake, nelle quali i truffatori facevano uso dell’intelligenza artificiale per falsificare voci, immagini e movimenti di persone nel mondo virtuale in tempo reale.
Durante la chiamata, il finto direttore finanziario ha convinto il suo sottoposto a trasferire 25 milioni di dollari a più banche di Hong Kong e a conti correnti naturalmente intestati ai criminali che stavano organizzando la frode. L’impiegato della grande azienda si era connesso da Hong Kong, mentre i partecipanti alla videoconferenza, mera creazione dell’intelligenza artificiale, apparentemente erano collegati da Londra. Soltanto successivamente, come riporta la CNN, il dipendente ha scoperto di essere stato vittima di una truffa una volta rivoltosi alla sede centrale.
Anche le strutture statali vengono prese di mira dai cybercriminali. Succede negli Stati Uniti, come documenta un video di ID.me (vedi sotto), nel quale un malfattore cinese ha tentato di truffare un’agenzia federale spacciandosi per un cittadino della Pennsylvania, usando la tecnologia deepfake per aggirare i controlli di verifica dell’identità online. Gli attacchi di questo genere, chiamati face swap, sono aumentati vertiginosamente negli ultimi anni a causa del ricorso ai sistemi IA.
Una condizione di costante allarme
Essere sicuri che dall’altra parte dello schermo c’è una persona reale a parlarci e a conversare con noi non è più un fatto assodato. Le nostre certezze vengono minate nel momento in cui abitiamo lo spazio virtuale di Internet, dei computer e degli smartphone. Il risultato è una condizione di costante apprensione e allarme.
Essere stati scottati da una truffa sul lavoro porta quasi a uno stato di paranoia. Com’è il caso di Nicole Yelland che, dopo essere stata ingannata, adesso non si fida più quando le arriva la richiesta da uno sconosciuto di partecipare a un meeting online. Lavorando nel settore delle pubbliche relazioni, è costretta a fare controlli accurati in più fasi, verificando le singole identità con specifici aggregatori di informazioni come Spokeo, spostandoli su piattaforme digitali o mettendoli alla prova con domande trabocchetto. Un’attività stressante e logorante che talvolta va a incidere sul rendimento lavorativo e sull’individuo che la deve mettere in atto.
In un tempo in cui il lavoro da remoto è diventato una prassi e i team aziendali non sono più concentrati in un unico luogo anche i canali di comunicazione professionali non sono più sicuri. Gli stessi strumenti di intelligenza artificiale che vengono adottati per incrementare la produttività sono il mezzo mediante cui i criminali informatici generano più agevolmente persone e ambienti falsi per truffare le aziende.
Anche Jessica Eise, docente della Indiana University Bloomington, denuncia il notevole dispendio di energia che il suo gruppo di ricerca deve affrontare per vagliare le candidature ai sondaggi a pagamento, data la quantità spropositata di truffatori che rispondono ai loro annunci online.
Il tempo dedicato all’attività di screening è talmente eccessivo che ultimamente il team universitario ha ripiegato su una soluzione offline reclutando per lo svolgimento dei loro studi amici e conoscenti.
Sfiducia verso la realtà
La massa crescente e pervasiva del falso generato dall’intelligenza artificiale mette sotto stress le persone e semina il dubbio sulla realtà stessa, sgretolando la fiducia nel prossimo virtuale e in ciò che si vede. Il senso della vista (digitale) ci inganna. Non possiamo credere a quello che vediamo coi nostri occhi. La macchina intelligente che “sa calcolare in fretta” (Byung-chul An) ci getta in confusione e in uno stato di incredulità perché produce un effetto di dissolvenza della realtà visibile nel tempo in cui immagini e video sono così straordinariamente falsi da sembrare veri.
Lascia un commento