La cybersecurity nell’era dell’AI: come è cambiato il panorama delle minacce nel 2023

Nell’ultimo report gli esperti Kaspersky hanno evidenziato la profonda influenza dell’IA sul panorama delle minacce IT del 2023. Grazie a un approccio su più fronti, l'analisi esplora le implicazioni dell'IA, concentrandosi sul suo utilizzo da parte degli addetti alla sicurezza e delle autorità di regolamentazione e valutandone separatamente il possibile utilizzo da parte dei criminali informatici. Questo approfondimento completo, parte del Kaspersky Security Bulletin (KSB), è una raccolta annuale di previsioni e report dettagliati che evidenziano i cambiamenti chiave nel campo della cyber sicurezza

Con il veloce avanzamento del progresso tecnologico e con i cambiamenti della società, il termine “AI” si è affermato nelle conversazioni globali. Grazie alla crescente diffusione dei Large Language Model (LLM), le crescenti preoccupazioni per la sicurezza e la privacy legano direttamente l’AI al settore della cybersecurity.

I ricercatori di Kaspersky spiegano come gli strumenti di intelligenza artificiale abbiano aiutato i criminali informatici nelle loro attività malevole nel 2023, mostrando anche le potenziali applicazioni difensive di questa tecnologia. Inoltre, gli esperti dell’azienda mostrano anche l’evoluzione del panorama delle minacce legate all’AI in futuro, che potrebbero includere:

– vulnerabilità più complesse

Con l’integrazione di LLM che seguono le istruzioni su un numero sempre maggiore di prodotti rivolti agli utenti finali, emergeranno nuove e complesse vulnerabilità nell’intersezione tra l’AI generativa probabilistica e le tecnologie deterministiche tradizionali, ampliando la superficie di attacco che i professionisti della sicurezza informatica devono proteggere. Ciò richiederà agli sviluppatori di studiare nuove misure di protezione, come ad esempio l’approvazione da parte dell’utente per le azioni avviate dagli agenti LLM.

– un assistente AI completo per gli esperti di cybersecurity

I red teamer e i ricercatori sfruttano l’AI generativa per realizzare strumenti innovativi di cybersecurity che potrebbero dare vita a un sistema di assistenza che utilizza i LLM o il machine learning (ML). Questo strumento potrebbe automatizzare le attività di red teaming, offrendo indicazioni basate sui comandi eseguiti in un ambiente pentesting.

– le reti neurali saranno sempre più usate per la creazione di immagini per le truffe

Il prossimo anno i criminali potrebbero migliorare le proprie tattiche utilizzando le reti neurali e sfruttando gli strumenti di intelligenza artificiale per creare contenuti fraudolenti più convincenti. Grazie alla possibilità di generare senza sforzo immagini e video convincenti, i criminali informatici rischiano di aggravare sempre più le minacce legate a frodi e truffe.

L’AI non sarà il driver di un cambiamento radicale nel panorama delle minacce nel 2024

Nonostante le tendenze descritte, gli esperti di Kaspersky rimangono scettici sul fatto che l’AI possa cambiare significativamente il panorama delle minacce in tempi brevi. Se da un lato i criminali informatici adottano l’AI generativa, lo stesso vale per gli addetti alla sicurezza informatica, che utilizzeranno gli stessi strumenti, o addirittura più avanzati, per verificare il miglioramento della sicurezza di software e reti, rendendo improbabile un’alterazione significativa del panorama degli attacchi.

– più iniziative di regolamentazione legate all’AI con il contributo del settore privato

Lo sviluppo tecnologico in rapida crescita diventa una questione di policy e di regolamentazione. Il numero di proposte di regolamentazione legate all’intelligenza artificiale è destinato ad aumentare. Gli attori privati, come le aziende tecnologiche, data la loro esperienza nello sviluppo e nell’utilizzo dell’intelligenza artificiale, possono fornire indicazioni preziose per le discussioni sulla regolamentazione in materia di AI sia a livello globale che nazionale.

– watermark per i contenuti prodotti con l’intelligenza artificiale

Per segnalare o identificare i contenuti generati dall’AI saranno necessarie più normative e policy per i provider, che continueranno a investire in tecnologie di rilevamento. Gli sviluppatori e i ricercatori, dal canto loro, contribuiranno ai metodi di watermarking dei media creati dall’intelligenza artificiale per facilitarne l’identificazione e la tracciabilità.

“L’intelligenza artificiale nella sicurezza informatica è un’arma a doppio taglio. Le sue capacità di adattamento rafforzano le nostre difese, offrendo uno scudo protettivo contro le minacce in evoluzione. Tuttavia, lo stesso dinamismo comporta dei rischi, in quanto gli aggressori sfruttano l’intelligenza artificiale per creare attacchi sempre più sofisticati. Trovare il giusto equilibrio, assicurando un uso responsabile senza un’eccessiva condivisione dei dati sensibili, è fondamentale per garantire la sicurezza”, ha commentato Vladislav Tushkanov, Security Expert di Kaspersky.

Questi articoli fanno parte del Kaspersky Security Bulletin (KSB), serie annuale di previsioni e report analitici sui principali cambiamenti nel mondo della cybersecurity. È possibile consultare gli altri articoli del KSB al seguente link.

Contenuti correlati

• 
  Rivulis trasforma l’agricoltura con l’AI

  Un’azienda che propone soluzioni innovative per la microirrigazione lancia la propria soluzione in grado di offrire ad agricoltori e professionisti del settore consigli personalizzati per migliorare la produttività, l’efficienza e la sostenibilità delle colture Rivulis, azienda che...
• 
  Ingegneria in cloud e assistenti AI nella suite di progettazione B&R

  Alla fiera SPS di quest’anno a Norimberga, in Germania, B&R ha annunciato un importante aggiornamento della sua suite completa di software di progettazione e runtime. Con Automation Studio Code, B&R introduce un’esperienza di progettazione completamente nuova. La...
• 
  I quattro trend nel futuro della supply chain secondo Remira Italia

  Investire nella connettività digitale, spingere verso tracciabilità e trasparenza, trovare nuove strategie per rendere le supply chain più resilienti, garantire l’integrità e la coerenza dei dati: queste le quattro tendenze identificate da Remira Italia, azienda specializzata nell’offerta...
• 
  Rockwell Automation dà vita alle operazioni autonome utilizzando Nvidia Omniverse

  Rockwell Automation ha annunciato l’integrazione delle interfacce di programmazione delle applicazioni (API) di Nvidia Omniverse nel proprio software Digital Twin Emulate3D  per ottimizzare le operazioni di fabbrica tramite l’intelligenza artificiale e la tecnologia di simulazione fisica. I digital twin ottimizzano...
• 
  Controllo di visione? Ci pensa l’AI

  Il software Melsoft Vixio di Mitsubishi Electric, basato sull’intelligenza artificiale, è stato integrato da IDM Automation in un sistema che utilizza un robot collaborativo dotato di telecamera al polso per permettere di identificare difetti superficiali di polveri...
• 
  Mancano 5 milioni di esperti di cybersecurity – e adesso?

  ISC2, la principale organizzazione non-profit al mondo per i professionisti della sicurezza informatica, ha stimato che quest’anno la carenza di professionisti della cybersecurity raggiungerà quota 4,8 milioni, segnando una crescita del 19% su base annua. Il gap...
• 
  Accordo tra PTC e Amazon Web Services nel CAD e PDM cloud-native

  PTC ha annunciato un accordo di collaborazione strategica con Amazon Web Services (AWS) per accelerare la crescita di Onshape, la sua soluzione cloud-native CAD (Computer Aided Design) e PDM (Product Data Management). Gli obiettivi della partnership includono...
• 
  Intelligenza Artificiale, al via il bando ‘Io sono futuro’ rivolto alle start-up

  Valorizzare il talento dei giovani startupper italiani, mettendolo al servizio di progetti innovativi che sfruttino l’intelligenza artificiale come strumento chiave per affrontare le emergenze globali. Questo l’obiettivo del nuovo bando della Fondazione Della Frera, promosso nell’ambito dell’edizione...
• 
  Non c’è innovazione senza cybersecurity: il caso Dolomiti Energia

  La cybersecurity è diventata una priorità per le aziende, da quando la tecnologia e l’innovazione hanno permeato i processi di produzione e di comunicazione. Da questa consapevolezza è nata la necessità del Gruppo Dolomiti Energia, a seguito...
• 
  Nell’ultimo numero di KEYnote, la rivista di Wibu-Systems: proteggere i modelli di AI e ML

  L’ultimo numero della rivista KEYnote, la pubblicazione semestrale presentata dagli specialisti di protezione e licensing di Wibu-Systems, è appena stata rilasciata ed è disponibile in vari formati digitali di facile lettura. L’edizione Autunno/Inverno copre una vasta gamma...