Generative AI e cybersecurity, le implicazioni per il futuro

Nel 2023, la Generative AI è diventata un fenomeno di massa, con un numero maggiore di persone che sfruttano questa tecnologia in tutte le regioni, i settori e i livelli di responsabilità. Nella ricerca di McKinsey “The state of AI in 2023: Generative AI’s breakout year”, il 79% degli intervistati ha dichiarato di aver assistito all’uso di AI generativa per lavoro o al di fuori di esso e il 22% ha affermato di utilizzarla regolarmente nel proprio lavoro.

Sebbene l’adozione e gli investimenti nell’AI generativa siano in aumento, il rapporto di McKinsey ha dimostrato che molte organizzazioni non stanno affrontando i potenziali rischi connessi all’uso della Generative AI. Meno di un terzo degli intervistati ha dichiarato di aver adottato misure per ridurre l’uso di tecnologie avanzate di AI al fine di mitigare i rischi di cybersecurity.

Nel 2024, si prevede che l’AI generativa svolgerà un ruolo ancora più centrale nelle aziende e nella società. Secondo studi recenti, la sua adozione è destinata a crescere in modo esponenziale, con una previsione di aumento del 30% in vari settori. Man mano che i sistemi intelligenti basati sull’AI e sul Machine Learning diventano sempre più radicati nella nostra vita quotidiana, il panorama della cybersecurity è destinato a dover affrontare nuove sfide e innovazioni.

Gli esperti di Vectra AI hanno raccolto le loro previsioni per il 2024 relative alla Generative AI in materia di cybersecurity, sottolineando gli aspetti che tutti i team di sicurezza, i CISO e i responsabili dei SOC dovrebbero tenere bene a mente in vista del nuovo anno.

Prepararsi al futuro: Strategie di sicurezza informatica nell’era dell’IA

Oliver Tavakoli, Chief Technology Officer, prevede che l’AI generativa ridurrà l’efficacia della sicurezza delle e-mail. “Inoltre, l’utilizzo della Generative AI negli attacchi di social engineering servirà a far capire che le attuali linee di difesa sono inadeguate. Di conseguenza, prevedo che le organizzazioni si orienteranno verso approcci di sicurezza ‘a valle’, come Zero Trust, micro-segmentazione e meccanismi di rilevamento e risposta”.

Implicazioni politiche: Il ruolo dell’AI nelle elezioni e l’integrità delle informazioni 

Sohrob Kazerounian, ricercatore di AI, ritiene che in vista delle elezioni del 2024 l’AI generativa influenzerà la sfiducia e la disinformazione elettorale. “L’ampia disponibilità di modelli di Generative AI e la relativa facilità d’uso degli stessi avranno effetti di vasta portata, dato che gli Stati Uniti si trovano attualmente in un anno elettorale. La disinformazione su scala, con contenuti di qualità (ad esempio, audio e video di candidati falsificati, fake news di massa mascherate da notizie, ecc) diventerà più facile che mai. L’incapacità di fidarci dei nostri sensi potrebbe portare a sfiducia e paranoia, incrinando ulteriormente le relazioni sociali e politiche tra le persone”.

Nuovi trend di AI: Calano gli LLM, aumentano i deep fake

Christian Borst, CTO EMEA, ritiene che l’uso diffuso degli LLM (Large Language Models) sia destinato a diminuire, mentre i deep fake aumenteranno. “Molte organizzazioni stanno esplorando modi nuovi per utilizzare i Large Language Models dopo l’ondata iniziale di entusiasmo di quest’anno. Ma se si va a scavare sotto la superficie, è chiaro che il fattore novità si esaurirà presto. Gli LLM sono in genere piuttosto difficili da usare, perché non sono in grado di comprendere il contesto o di fornire risultati affidabili e di conseguenza un loro uso pratico più ampio è limitato. L’anno prossimo vedremo, quindi, le aziende ridurre l’uso degli LLM, in attesa che questi strumenti diventino più funzionali e facili da usare”.

“Gli autori delle minacce informatiche dovranno affrontare gli stessi problemi nell’utilizzo degli LLM, quindi probabilmente non vedremo molte attività complesse come la generazione di codice maligno da parte dell’AI. Tuttavia, possiamo aspettarci che i criminali informatici sfruttino la Generative AI per creare deep fake più realistici e sofisticati. In questo modo avranno maggiori possibilità di ingannare gli utenti e indurli a fornire dati sensibili o a cliccare su qualcosa di dannoso utilizzando esche di phishing audio o visive più convincenti”.

Scenario normativo: equilibrio tra innovazione e controllo dell’AI

Quando si parla di Generativa AI – e più in generale di AI – la regolamentazione e la politica giocheranno un ruolo importante nel 2024. Secondo Hitesh Sheth, CEO di Vectra AI, il futuro dell’AI dipenderà dalle decisioni normative. “Nel 2024, prevedo che assisteremo a progressi enormi nella regolamentazione e nella politica dell’AI. Sulla spinta dell’ordine esecutivo in materia di intelligenza artificiale emanato dal presidente degli Stati Uniti Joe Biden, i legislatori valuteranno e metteranno in atto normative più concrete per contenere i rischi dell’AI e sfruttarne i vantaggi. Poiché l’AI continua ad evolversi, sarà importante che queste norme in via di sviluppo trovino un equilibrio tra la difesa della trasparenza e la promozione della continua innovazione che sta avvenendo a ritmo sostenuto”.

Sohrob Kazerounian, ricercatore nel campo dell’AI, è d’accordo e prevede che i dilemmi etici, legali e politici dell’AI saranno oggetto di numerose controversie. “Le questioni etiche, legali e socio-politiche riguardanti l’AI non potranno che diventare più spinose. Data la paralisi politica generale negli Stati Uniti, è improbabile che emergano quadri normativi e legali solidi per la regolamentazione dell’AI con la stessa rapidità con cui sono necessari. E le cause legali riguardanti materiale protetto da copyright utilizzato per addestrare modelli generativi di AI aumenteranno di numero”.

Non c’è dubbio che la Generative AI trasformerà il panorama della cybersecurity in modo significativo. Ha il potenziale per far progredire gli strumenti di sicurezza, migliorare la threat intelligence e trasformare i security operation center. Mentre esploriamo queste opportunità, procediamo con cautela, dotati di conoscenza, resilienza e impegno per stare un passo avanti agli attaccanti.

La Generative AI offre una nuova ed entusiasmante opportunità di utilizzare la tecnologia per contribuire alla lotta contro i cyberattacchi, che è la missione fondante di Vectra AI. Scarica il White Paper per saperne di più sull’AI alla base dell’Attack Signal Intelligence di Vectra.

Contenuti correlati

• 
  Aumentare l’efficienza in agricoltura

  Raccontiamo come l’intelligenza artificiale e le tecnologie dei sensori incrementano la produttività agricola L’intelligenza artificiale sta trasformando i settori industriali in tutto il mondo, e l’agricoltura non fa eccezione. È essenziale monitorare ogni aspetto del ciclo di...
• 
  Scuole e cybersecurity, ecco il patentino di cittadinanza digitale per gli studenti

  “Noi cittadini digitali” è la nuova iniziativa di education di Trend Micro indirizzata agli studenti delle scuole italiane in collaborazione con Junior Achievement Italia, parte di Junior Achievement Worldwide, la più vasta organizzazione non profit al mondo...
• 
  Ingegneria in cloud e assistenti AI nella suite di progettazione B&R

  Alla fiera SPS di quest’anno a Norimberga, in Germania, B&R ha annunciato un importante aggiornamento della sua suite completa di software di progettazione e runtime. Con Automation Studio Code, B&R introduce un’esperienza di progettazione completamente nuova. La...
• 
  I quattro trend nel futuro della supply chain secondo Remira Italia

  Investire nella connettività digitale, spingere verso tracciabilità e trasparenza, trovare nuove strategie per rendere le supply chain più resilienti, garantire l’integrità e la coerenza dei dati: queste le quattro tendenze identificate da Remira Italia, azienda specializzata nell’offerta...
• 
  Rockwell Automation dà vita alle operazioni autonome utilizzando Nvidia Omniverse

  Rockwell Automation ha annunciato l’integrazione delle interfacce di programmazione delle applicazioni (API) di Nvidia Omniverse nel proprio software Digital Twin Emulate3D  per ottimizzare le operazioni di fabbrica tramite l’intelligenza artificiale e la tecnologia di simulazione fisica. I digital twin ottimizzano...
• 
  Mancano 5 milioni di esperti di cybersecurity – e adesso?

  ISC2, la principale organizzazione non-profit al mondo per i professionisti della sicurezza informatica, ha stimato che quest’anno la carenza di professionisti della cybersecurity raggiungerà quota 4,8 milioni, segnando una crescita del 19% su base annua. Il gap...
• 
  Accordo tra PTC e Amazon Web Services nel CAD e PDM cloud-native

  PTC ha annunciato un accordo di collaborazione strategica con Amazon Web Services (AWS) per accelerare la crescita di Onshape, la sua soluzione cloud-native CAD (Computer Aided Design) e PDM (Product Data Management). Gli obiettivi della partnership includono...
• 
  Intelligenza Artificiale, al via il bando ‘Io sono futuro’ rivolto alle start-up

  Valorizzare il talento dei giovani startupper italiani, mettendolo al servizio di progetti innovativi che sfruttino l’intelligenza artificiale come strumento chiave per affrontare le emergenze globali. Questo l’obiettivo del nuovo bando della Fondazione Della Frera, promosso nell’ambito dell’edizione...
• 
  Non c’è innovazione senza cybersecurity: il caso Dolomiti Energia

  La cybersecurity è diventata una priorità per le aziende, da quando la tecnologia e l’innovazione hanno permeato i processi di produzione e di comunicazione. Da questa consapevolezza è nata la necessità del Gruppo Dolomiti Energia, a seguito...
• 
  Nell’ultimo numero di KEYnote, la rivista di Wibu-Systems: proteggere i modelli di AI e ML

  L’ultimo numero della rivista KEYnote, la pubblicazione semestrale presentata dagli specialisti di protezione e licensing di Wibu-Systems, è appena stata rilasciata ed è disponibile in vari formati digitali di facile lettura. L’edizione Autunno/Inverno copre una vasta gamma...