Generative AI e cybersecurity, le implicazioni per il futuro
Nel 2023, la Generative AI è diventata un fenomeno di massa, con un numero maggiore di persone che sfruttano questa tecnologia in tutte le regioni, i settori e i livelli di responsabilità. Nella ricerca di McKinsey “The state of AI in 2023: Generative AI’s breakout year”, il 79% degli intervistati ha dichiarato di aver assistito all’uso di AI generativa per lavoro o al di fuori di esso e il 22% ha affermato di utilizzarla regolarmente nel proprio lavoro.
Sebbene l’adozione e gli investimenti nell’AI generativa siano in aumento, il rapporto di McKinsey ha dimostrato che molte organizzazioni non stanno affrontando i potenziali rischi connessi all’uso della Generative AI. Meno di un terzo degli intervistati ha dichiarato di aver adottato misure per ridurre l’uso di tecnologie avanzate di AI al fine di mitigare i rischi di cybersecurity.
Nel 2024, si prevede che l’AI generativa svolgerà un ruolo ancora più centrale nelle aziende e nella società. Secondo studi recenti, la sua adozione è destinata a crescere in modo esponenziale, con una previsione di aumento del 30% in vari settori. Man mano che i sistemi intelligenti basati sull’AI e sul Machine Learning diventano sempre più radicati nella nostra vita quotidiana, il panorama della cybersecurity è destinato a dover affrontare nuove sfide e innovazioni.
Gli esperti di Vectra AI hanno raccolto le loro previsioni per il 2024 relative alla Generative AI in materia di cybersecurity, sottolineando gli aspetti che tutti i team di sicurezza, i CISO e i responsabili dei SOC dovrebbero tenere bene a mente in vista del nuovo anno.
Prepararsi al futuro: Strategie di sicurezza informatica nell’era dell’IA
Oliver Tavakoli, Chief Technology Officer, prevede che l’AI generativa ridurrà l’efficacia della sicurezza delle e-mail. “Inoltre, l’utilizzo della Generative AI negli attacchi di social engineering servirà a far capire che le attuali linee di difesa sono inadeguate. Di conseguenza, prevedo che le organizzazioni si orienteranno verso approcci di sicurezza ‘a valle’, come Zero Trust, micro-segmentazione e meccanismi di rilevamento e risposta”.
Implicazioni politiche: Il ruolo dell’AI nelle elezioni e l’integrità delle informazioni
Sohrob Kazerounian, ricercatore di AI, ritiene che in vista delle elezioni del 2024 l’AI generativa influenzerà la sfiducia e la disinformazione elettorale. “L’ampia disponibilità di modelli di Generative AI e la relativa facilità d’uso degli stessi avranno effetti di vasta portata, dato che gli Stati Uniti si trovano attualmente in un anno elettorale. La disinformazione su scala, con contenuti di qualità (ad esempio, audio e video di candidati falsificati, fake news di massa mascherate da notizie, ecc) diventerà più facile che mai. L’incapacità di fidarci dei nostri sensi potrebbe portare a sfiducia e paranoia, incrinando ulteriormente le relazioni sociali e politiche tra le persone”.
Nuovi trend di AI: Calano gli LLM, aumentano i deep fake
Christian Borst, CTO EMEA, ritiene che l’uso diffuso degli LLM (Large Language Models) sia destinato a diminuire, mentre i deep fake aumenteranno. “Molte organizzazioni stanno esplorando modi nuovi per utilizzare i Large Language Models dopo l’ondata iniziale di entusiasmo di quest’anno. Ma se si va a scavare sotto la superficie, è chiaro che il fattore novità si esaurirà presto. Gli LLM sono in genere piuttosto difficili da usare, perché non sono in grado di comprendere il contesto o di fornire risultati affidabili e di conseguenza un loro uso pratico più ampio è limitato. L’anno prossimo vedremo, quindi, le aziende ridurre l’uso degli LLM, in attesa che questi strumenti diventino più funzionali e facili da usare”.
“Gli autori delle minacce informatiche dovranno affrontare gli stessi problemi nell’utilizzo degli LLM, quindi probabilmente non vedremo molte attività complesse come la generazione di codice maligno da parte dell’AI. Tuttavia, possiamo aspettarci che i criminali informatici sfruttino la Generative AI per creare deep fake più realistici e sofisticati. In questo modo avranno maggiori possibilità di ingannare gli utenti e indurli a fornire dati sensibili o a cliccare su qualcosa di dannoso utilizzando esche di phishing audio o visive più convincenti”.
Scenario normativo: equilibrio tra innovazione e controllo dell’AI
Quando si parla di Generativa AI – e più in generale di AI – la regolamentazione e la politica giocheranno un ruolo importante nel 2024. Secondo Hitesh Sheth, CEO di Vectra AI, il futuro dell’AI dipenderà dalle decisioni normative. “Nel 2024, prevedo che assisteremo a progressi enormi nella regolamentazione e nella politica dell’AI. Sulla spinta dell’ordine esecutivo in materia di intelligenza artificiale emanato dal presidente degli Stati Uniti Joe Biden, i legislatori valuteranno e metteranno in atto normative più concrete per contenere i rischi dell’AI e sfruttarne i vantaggi. Poiché l’AI continua ad evolversi, sarà importante che queste norme in via di sviluppo trovino un equilibrio tra la difesa della trasparenza e la promozione della continua innovazione che sta avvenendo a ritmo sostenuto”.
Sohrob Kazerounian, ricercatore nel campo dell’AI, è d’accordo e prevede che i dilemmi etici, legali e politici dell’AI saranno oggetto di numerose controversie. “Le questioni etiche, legali e socio-politiche riguardanti l’AI non potranno che diventare più spinose. Data la paralisi politica generale negli Stati Uniti, è improbabile che emergano quadri normativi e legali solidi per la regolamentazione dell’AI con la stessa rapidità con cui sono necessari. E le cause legali riguardanti materiale protetto da copyright utilizzato per addestrare modelli generativi di AI aumenteranno di numero”.
Non c’è dubbio che la Generative AI trasformerà il panorama della cybersecurity in modo significativo. Ha il potenziale per far progredire gli strumenti di sicurezza, migliorare la threat intelligence e trasformare i security operation center. Mentre esploriamo queste opportunità, procediamo con cautela, dotati di conoscenza, resilienza e impegno per stare un passo avanti agli attaccanti.
La Generative AI offre una nuova ed entusiasmante opportunità di utilizzare la tecnologia per contribuire alla lotta contro i cyberattacchi, che è la missione fondante di Vectra AI. Scarica il White Paper per saperne di più sull’AI alla base dell’Attack Signal Intelligence di Vectra.
Contenuti correlati
-
Intelligenza artificiale, come sfruttarla al meglio e 5 ambiti operativi in crescita
“Se si raccolgono abbastanza dati, qualsiasi cosa può essere dimostrata con metodi statistici”: lo scrittore statunitense Arthur Block aveva un’idea chiara sull’importanza dei numeri e delle statistiche, le quali risultano di difficile gestione in un’epoca in cui...
-
Green computing, emissioni di CO2 ridotte fino al 50%
L’uso della tecnologia ha un impatto significativo sull’ambiente e le aziende impegnate nel percorso verso la sostenibilità devono tenerne conto. È per questo che Bitrock, consulting company 100% Made in Italy appartenente al Gruppo Fortitude, ha messo...
-
La GenAI primo motore degli investimenti infrastrutturali
Secondo la più recente Worldwide Future of Digital Infrastructure Sentiment Survey di IDC, quasi otto aziende su dieci hanno dichiarato di ritenere l’infrastruttura digitale “importante” o “mission critical” per il successo delle proprie iniziative di business. La...
-
AI e sicurezza: come prevenire gli infortuni sul lavoro
Di Marco Bavazzano, Amministratore Delegato di Axitea Ciclicamente, e con dispiacere, ci troviamo a leggere o ascoltare di storie di infortuni sul lavoro che hanno purtroppo spesso un epilogo tragico, con conseguenti bilanci, commenti e iniziative sulle...
-
Palo Alto Networks: il 41% delle aziende italiane subisce attacchi agli ambienti OT
Un nuovo report di Palo Alto Networks, realizzato in collaborazione con ABI Research, rivela che 2 imprese italiane su 5 (41%) subiscono mensilmente attacchi informatici ai loro ambienti di tecnologia operativa (OT). Ciononostante, solo un quarto considera...
-
AI per le intranet: uno strumento che integra e potenzia le capacità umane, senza sostituirle
Già da tempo l’intelligenza artificiale fa parte della nostra vita quotidiana ed è usata da moltissime aziende, in Italia e nel mondo. Gli algoritmi intelligenti sono capaci di apprendere ed elaborare le informazioni e suggeriscono alle persone...
-
Il mercato dell’Internet of Things cresce e sfiora i 9 miliardi di euro
Non si arresta la corsa del mercato italiano dell’Internet of Things. Nel 2023 ha raggiunto un valore di 8,9 miliardi di euro, +9% rispetto al 2022. Tra i diversi ambiti, la fetta più grande del mercato è...
-
Direttiva NIS2 e organizzazioni italiane: le risposte di Sangfor Technologies
Per preparare meglio gli Stati dell’UE contro le minacce informatiche, la Direttiva NIS2 ha incluso requisiti organizzativi più severi, estesi in 4 aree: la gestione del rischio, la responsabilità aziendale, gli obblighi di rendicontazione e la continuità...
-
Un chiaro focus su cybersecurity e licensing software: Wibu-Systems ad Hannover Messe 2024
Quest’anno, Wibu-Systems è particolarmente orgogliosa di presentare ad Hannover Messe 2024 una serie speciale di tour guidati, condotti da Oliver Winzenried stesso, CEO e fondatore dell’azienda. Questi viaggi unici nel cuore dell’innovazione industriale proporranno ai partecipanti uno...
-
Schneider Electric presenta EcoStruxure Secure Connect
Schneider Electric va incontro alle crescenti esigenze di cybersecurity in ambito industriale proponendo EcoStruxure Secure Connect. Nel settore dell’automazione industriale, stiamo assistendo a un aumento significativo di macchine installate e connesse, per le quali la cybersecurity rappresenta un requisito fondamentale. Da...