La cybersecurity nell’era dell’AI: come è cambiato il panorama delle minacce nel 2023
Nell’ultimo report gli esperti Kaspersky hanno evidenziato la profonda influenza dell’IA sul panorama delle minacce IT del 2023. Grazie a un approccio su più fronti, l'analisi esplora le implicazioni dell'IA, concentrandosi sul suo utilizzo da parte degli addetti alla sicurezza e delle autorità di regolamentazione e valutandone separatamente il possibile utilizzo da parte dei criminali informatici. Questo approfondimento completo, parte del Kaspersky Security Bulletin (KSB), è una raccolta annuale di previsioni e report dettagliati che evidenziano i cambiamenti chiave nel campo della cyber sicurezza
Con il veloce avanzamento del progresso tecnologico e con i cambiamenti della società, il termine “AI” si è affermato nelle conversazioni globali. Grazie alla crescente diffusione dei Large Language Model (LLM), le crescenti preoccupazioni per la sicurezza e la privacy legano direttamente l’AI al settore della cybersecurity.
I ricercatori di Kaspersky spiegano come gli strumenti di intelligenza artificiale abbiano aiutato i criminali informatici nelle loro attività malevole nel 2023, mostrando anche le potenziali applicazioni difensive di questa tecnologia. Inoltre, gli esperti dell’azienda mostrano anche l’evoluzione del panorama delle minacce legate all’AI in futuro, che potrebbero includere:
– vulnerabilità più complesse
Con l’integrazione di LLM che seguono le istruzioni su un numero sempre maggiore di prodotti rivolti agli utenti finali, emergeranno nuove e complesse vulnerabilità nell’intersezione tra l’AI generativa probabilistica e le tecnologie deterministiche tradizionali, ampliando la superficie di attacco che i professionisti della sicurezza informatica devono proteggere. Ciò richiederà agli sviluppatori di studiare nuove misure di protezione, come ad esempio l’approvazione da parte dell’utente per le azioni avviate dagli agenti LLM.
– un assistente AI completo per gli esperti di cybersecurity
I red teamer e i ricercatori sfruttano l’AI generativa per realizzare strumenti innovativi di cybersecurity che potrebbero dare vita a un sistema di assistenza che utilizza i LLM o il machine learning (ML). Questo strumento potrebbe automatizzare le attività di red teaming, offrendo indicazioni basate sui comandi eseguiti in un ambiente pentesting.
– le reti neurali saranno sempre più usate per la creazione di immagini per le truffe
Il prossimo anno i criminali potrebbero migliorare le proprie tattiche utilizzando le reti neurali e sfruttando gli strumenti di intelligenza artificiale per creare contenuti fraudolenti più convincenti. Grazie alla possibilità di generare senza sforzo immagini e video convincenti, i criminali informatici rischiano di aggravare sempre più le minacce legate a frodi e truffe.
L’AI non sarà il driver di un cambiamento radicale nel panorama delle minacce nel 2024
Nonostante le tendenze descritte, gli esperti di Kaspersky rimangono scettici sul fatto che l’AI possa cambiare significativamente il panorama delle minacce in tempi brevi. Se da un lato i criminali informatici adottano l’AI generativa, lo stesso vale per gli addetti alla sicurezza informatica, che utilizzeranno gli stessi strumenti, o addirittura più avanzati, per verificare il miglioramento della sicurezza di software e reti, rendendo improbabile un’alterazione significativa del panorama degli attacchi.
– più iniziative di regolamentazione legate all’AI con il contributo del settore privato
Lo sviluppo tecnologico in rapida crescita diventa una questione di policy e di regolamentazione. Il numero di proposte di regolamentazione legate all’intelligenza artificiale è destinato ad aumentare. Gli attori privati, come le aziende tecnologiche, data la loro esperienza nello sviluppo e nell’utilizzo dell’intelligenza artificiale, possono fornire indicazioni preziose per le discussioni sulla regolamentazione in materia di AI sia a livello globale che nazionale.
– watermark per i contenuti prodotti con l’intelligenza artificiale
Per segnalare o identificare i contenuti generati dall’AI saranno necessarie più normative e policy per i provider, che continueranno a investire in tecnologie di rilevamento. Gli sviluppatori e i ricercatori, dal canto loro, contribuiranno ai metodi di watermarking dei media creati dall’intelligenza artificiale per facilitarne l’identificazione e la tracciabilità.
“L’intelligenza artificiale nella sicurezza informatica è un’arma a doppio taglio. Le sue capacità di adattamento rafforzano le nostre difese, offrendo uno scudo protettivo contro le minacce in evoluzione. Tuttavia, lo stesso dinamismo comporta dei rischi, in quanto gli aggressori sfruttano l’intelligenza artificiale per creare attacchi sempre più sofisticati. Trovare il giusto equilibrio, assicurando un uso responsabile senza un’eccessiva condivisione dei dati sensibili, è fondamentale per garantire la sicurezza”, ha commentato Vladislav Tushkanov, Security Expert di Kaspersky.
Questi articoli fanno parte del Kaspersky Security Bulletin (KSB), serie annuale di previsioni e report analitici sui principali cambiamenti nel mondo della cybersecurity. È possibile consultare gli altri articoli del KSB al seguente link.
Contenuti correlati
-
Centro Software alla A&T Automation & testing Nordest di Vicenza
Centro Software, azienda di riferimento nel mercato italiano nello sviluppo di soluzioni ERP, partecipa alla Fiera A&T Automation&Testing Nordest di Vicenza, dal 6 all’8 novembre 2024 (Padiglione 6 | Stand C05-C07). La crescita di Centro Software nel...
-
Automazione e compliance alla normativa UE sugli imballaggi con Omron
L’Europa si sta preparando per apportare cambiamenti radicali alla legislazione sugli imballaggi. Patricia Torres, esperta di sostenibilità di Omron Industrial Automation Europe, spiega in che modo l’automazione della tracciabilità digitalizzata può aiutare i produttori di beni di...
-
Rapporto Minsait, AI in produzione già nel 67% delle aziende industriali
L’intelligenza artificiale è diventata un potente strumento di trasformazione del settore industriale. In un contesto in cui l’obiettivo è quello di aumentare la produttività e la competitività, il 67% delle aziende industriali sta già utilizzando l’AI e...
-
Il 20% dei produttori utilizza la sicurezza di rete come prima linea di difesa contro gli attacchi informatici
Secondo un recente sondaggio condotto dalla società di ricerche ABI Research sullo stato della tecnologia nel settore manifatturiero, i produttori hanno individuato la sicurezza OT della rete come principale ambito di investimento per quanto concerne la sicurezza...
-
Dall’università al mondo del lavoro: come colmare il divario di competenze nella sicurezza informatica
Con l’intensificarsi delle minacce informatiche, la sicurezza del software è diventata una priorità per le aziende. È sorprendente notare che oltre il 70% delle organizzazioni è vittima di un crescente accumulo di debiti di sicurezza, con quasi...
-
Black-out digitale: le fabbriche italiane nel mirino dei criminali informatici?
Consideriamo uno scenario plausibile: un attacco ransomware compromette i sistemi OT di un’azienda manifatturiera, crittografando i sistemi di controllo di robot e macchine utensili. L’impatto? Linee di produzione bloccate, interruzione delle attività e richieste di riscatto milionarie....
-
Ottimizzare la logistica con i robot mobili
Logistica e intralogistica si evolvono attraverso un processo di automatizzazione spinta dove robot mobili e cobot ricoprono un ruolo di rilievo. Questo percorso presenta però problematiche quindi i benefici dell’automazione sono tangibili solo se si analizzano fattori...
-
Semiconduttori: la GenAI trasforma il futuro del settore
I chip per AI generativa, in sinergia con strumenti di intelligenza artificiale evoluti, promettono di elevare l’automazione delle infrastrutture di smart manufacturing e le stesse smart factory dedicate alla produzione di circuiti integrati. Leggi l’articolo
-
Ransomware, Kaspersky registra +20% di attacchi ai sistemi industriali
Kaspersky ha pubblicato il report Q2 2024 sulla cybersecurity degli Industrial Control Systems (ICS), rivelando un aumento del 20% degli attacchi ransomware rispetto al trimestre precedente. Il report sottolinea la crescente minaccia ai settori delle infrastrutture critiche...
-
A&T Nordest, dal 6 all’8 novembre a Vicenza idee innovative per il manifatturiero
Oltre 3.000 soluzioni e tecnologie per il mondo industriale. Ma anche i Dimostratori di Intelligenza Artificiale, con uno smart helmet per applicazioni salvavita sui luoghi di lavoro, una piattaforma che si muove autonomamente tra i filari di...