IA e sicurezza: tra nuovi pericoli e possibilità 

A cura di Pierluigi Paganini, CEO Cybhorus

L’intelligenza artificiale sta trasformando il modo in cui nazioni e aziende decidono di proteggersi, il suo impiego richiede un approccio etico e attento a potenziali vulnerabilità 

L’evoluzione della tecnologia e l’ascesa dell’intelligenza artificiale (IA) stanno rivoluzionando ogni aspetto della nostra società, ivi compresa la sicurezza informatica e nazionale. L’IA opportunamente utilizzata offre strumenti avanzati per prevenire, rilevare e rispondere a minacce informatiche sempre più complesse. Tuttavia, l’innovazione porta anche nuove sfide, in primis nuove vulnerabilità dei sistemi AI-based e rischi connessi al loro utilizzo. Stiamo assistendo ad un profondo cambiamento del quadro della sicurezza globale. 

È estremamente importante comprendere come l’IA influenzi la sicurezza in vari ambiti, dalla difesa nazionale alla protezione aziendale, con l’obiettivo di sviluppare strategie efficaci che garantiscano un utilizzo sicuro ed etico dell’IA per il contrasto alle minacce al sistema paese.

L’intelligenza artificiale sta trasformando il comparto della difesa nazionale attraverso tecnologie avanzate che migliorano le capacità di sorveglianza, raccolta di informazioni e risposta alle minacce. Riconosciamo ai sistemi basati su IA la capacità di elaborare grandi quantità di dati in tempi estremamente brevi, consentendo l’identificazione di potenziali rischi o anomalie che potrebbero indicare attività ostili nei confronti del nostro paese e delle nostre infrastrutture critiche. 

Spesso si legge dell’utilizzo di IA per lo sviluppo di nuove tecnologie in ambito militare, come sistemi di difesa autonomi. Una nuova generazione di armamenti, come i droni e robot, già trovano impiego in aree di conflitto. Il loro utilizzo, tuttavia, solleva non poche questioni sul fronte etico e relativamente ai rischi connessi a possibili bias.

Con tale termine si riferiscono situazioni in cui i sistemi di analisi dei dati basati su modelli IA mostrano atteggiamenti discriminatori nei confronti di determinati gruppi di persone.

Altro elemento di preoccupazione è il rischio di possibili escalation non controllate in ambito militare dovute ad azioni intraprese in maniera autonoma proprio da questi sistemi.

Gli scenari ipotizzati nel lontano 1983 dal film War Games, potrebbero materializzarsi se si dovessero trascurare gli aspetti di sicurezza di questi sistemi e si consentisse loro di riconoscerci come entità ostili. 

Problemi relativi alla qualità dei dataset utilizzati in fase di addestramento, così come falle nei modelli di apprendimento, potrebbero portarci a scenari imprevedibili. A questo si aggiunga la possibilità che un attore malevolo utilizzi le proprie capacità per inficiare i sistemi AI-based proprio in fase di addestramento oppure sfruttando vulnerabilità nel modello di apprendimento. 

Lo sviluppo di capacità di controllo e l’affidabilità di queste tecnologie in situazioni di crisi sono al centro di accesi dibattiti. L’adozione dell’IA nella difesa nazionale, inoltre, implica una ridefinizione delle politiche di sicurezza e una valutazione delle modalità con cui bilanciare i vantaggi tecnologici con la necessità di sicurezza e controllo umano.

Va inoltre tenuto presente che oltre a essere uno strumento di difesa, l’intelligenza artificiale viene impiegata anche nello sviluppo di minacce in un contesto di guerra ibrida. 

L’utilizzo di deepfake e l’automazione degli attacchi mediante sistemi che usano l’IA consentono a differenti tipologie di attaccanti di lanciare pericolose campagne di disinformazione su larga scala con minimi interventi umani. Questi attacchi spesso mirano a destabilizzare il sistema socio-economico, creando disinformazione e panico tra la popolazione.

Ad utilizzare questi strumenti sono anche attori finanziariamente motivati che li impiego in schemi fraudolenti sempre più complessi. 

L’intelligenza artificiale generativa (IAG) continua a suscitare interesse per le sue applicazioni, ma sta anche trasformando il panorama delle minacce. I deepfake, capaci di creare contenuti multimediali realistici e ingannevoli, sono diventati strumenti potenti per frodi e manipolazioni. 

Secondo uno studio del MIT, nel 2019 i deepfake ingannavano fino al 60% degli utenti, e il livello di sofisticazione da allora è aumentato.

L’IAG è inoltre già impiegata per operazioni di influenza: un recente rapporto pubblicato da Microsoft evidenzia come la Cina la stia usando per condurre campagne di disinformazione mirate a influenzare elettori stranieri, con focus su Stati Uniti e Taiwan, e per dividere l’opinione pubblica. Questi contenuti, come meme e video, mirano a influenzare elezioni e alimentare disordini sociali.

Sul fronte delle frodi finanziarie, l’IAG viene usata per creare e-mail di phishing e falsi profili social, generando interazioni realistiche che ingannano le vittime. Piattaforme come FraudGPT e WormGPT permettono attacchi di phishing e compromissioni aziendali a basso costo. Infine, l’IAG è usata per automatizzare attacchi informatici, producendo varianti di malware capaci di superare i sistemi di rilevamento, aumentando così i rischi per la cybersicurezza globale.

L’uso di IA per scopi malevoli sta influenzando in modo significativo il contesto geopolitico per i motivi menzionati e obbliga gli stati a adottare nuove strategie di sicurezza nazionali. I governi si stanno già dotando di difese tecnologiche avanzate e stanno investendo ingenti in risorse per monitorare le minacce informatiche. Oltre agli Stati Uniti e alla Cina, anche l’Unione Europea e altre potenze emergenti si trovano costrette a rivedere i loro approcci alla sicurezza, collaborando a livello internazionale per definire normative e protocolli comuni.

Il settore privato è anch’esso sempre più esposto a minacce informatiche basate su AI. Le aziende, grandi e piccole, si trovano ad affrontare sfide crescenti legate alla protezione dei dati e delle infrastrutture critiche. Nel panorama nazionale, proprio la sicurezza delle piccole e medie imprese (PMI) è cruciale per la sicurezza dei governi, poiché queste rappresentano una parte consistente del tessuto economico del paese. Tuttavia, molte PMI mancano delle risorse e delle competenze necessarie per affrontare minacce informatiche complesse, soprattutto basate su tecnologie come IA.

Per proteggere i dati aziendali e garantire la continuità operativa, le imprese devono investire in tecnologie di IA che consentano un monitoraggio costante e una risposta rapida agli attacchi. Ad esempio, l’uso di algoritmi di machine learning per il rilevamento di pattern di attacco già nelle fasi iniziali di un’offensiva. 

In conclusione, l’adozione dell’intelligenza artificiale rappresenta un cambiamento epocale nella gestione della sicurezza nazionale e aziendale. Sebbene offra strumenti avanzati per prevenire e rispondere alle minacce, apre anche a nuove sfide e a una ridefinizione delle politiche di sicurezza globali. Per affrontare il futuro, è fondamentale un approccio integrato che includa non solo l’implementazione di soluzioni tecnologiche all’avanguardia, ma anche un investimento significativo nella formazione e nella sensibilizzazione, al fine di creare un ambiente più sicuro e resiliente per tutti i soggetti coinvolti, dallo Stato alle imprese fino ai singoli cittadini.

Bio: Pierluigi Paganini è CEO di CYBHORUS, membro del Cyber Threat Landscape Group dell’ENISA, Adjunct Professor in Cyber Security alla Luiss Guido Carli e Coordinatore scientifico del Master in Cyber Security del Sole24Ore Formazione. Ha fondato Cybaze, acquisito dal gruppo Tinexta, e il blog Security Affairs. Collabora con testate come La Repubblica e ANSA. Nel 2017 ha partecipato al G7 “Ise-Shima Cyber Group” e co-firmato la Dichiarazione di Lucca sulle norme di comportamento degli Stati nel cyberspazio.