Navigare l’era dell’AI aziendale: dalla spontaneità alla strategia di sicurezza

L’ intelligenza artificiale (AI) è diventata onnipresente. Secondo recenti studi, circa il 79% delle aziende italiane ha adottato l’AI nel proprio contesto lavorativo nel 2024, segnando una crescita significativa rispetto agli anni precedenti.

Il mercato italiano dell’intelligenza artificiale ha raggiunto un valore record di 1,2 miliardi di euro nel 2024, con un incremento del 58% rispetto al 2023. Questo boom è trainato soprattutto dalle sperimentazioni di AI generativa, che rappresentano il 43% del valore complessivo del mercato.

Tuttavia, questa rapida adozione spesso avviene senza un’adeguata attenzione alla sicurezza, creando vulnerabilità significative. L’AI è un’arma a doppio taglio: offre enormi opportunità, ma anche rischi significativi per la sicurezza aziendale.

I rischi inerenti all’AI: vulnerabilità e minacce

Le vulnerabilità intrinseche dell’AI sono molteplici. Si va dalla manipolazione dei modelli, che può portare a decisioni errate o discriminatorie, alla generazione di deepfake, utilizzabili per campagne di disinformazione o attacchi di social engineering. Esempi concreti, come ChatGPT trasformato in bot razzista o modelli AI dannosi diffusi su piattaforme come Hugging Face, dimostrano il potenziale per un uso dannoso di questo strumento.

Ma non solo. I criminali stanno sfruttando l’AI per automatizzare e sofisticare i loro attacchi, rendendo la cybersecurity ancora più complessa. Il rapporto Cybersecurity Forecast 2025 di Google Cloud prevede un aumento dell’uso dell’intelligenza artificiale soprattutto per attività di phishing, deepfake e ricerca di vulnerabilità.

Le sfide in azienda: perdita di controllo e Shadow AI

Anche all’interno delle imprese l’AI pone sfide specifiche, tra cui la perdita di dati sensibili, l’uso incontrollato dei risultati e la saturazione delle licenze a causa di un’implementazione non pianificata. Un problema sempre più pressante è la cosiddetta “Shadow AI”, ovvero l’uso dell’AI al di fuori dei canali IT ufficiali. Questo fenomeno, in crescita, espone le aziende a rischi significativi, come la condivisione di dati sensibili in prompt o la violazione della proprietà intellettuale.

A livello globale, l’adozione interna dell’AI generativa è cresciuta rapidamente, passando dal 55% al 78% tra il 2023 e il 2024 secondo McKinsey, spesso senza una governance strutturata a supporto. Questo incremento evidenzia i rischi legati alla mancanza di controllo e supervisione IT nelle organizzazioni.

AI customizzata: un’arma a doppio taglio

L’integrazione dell’AI nei processi aziendali critici introduce nuove vulnerabilità, come quelle nella supply chain, la manipolazione dell’addestramento dei modelli e la mancanza di trasparenza. Vista la sua duplice natura e i rischi intrinseci che la caratterizzano, è fondamentale considerare l’AI sotto tutti i suoi aspetti e adottare un approccio strategico e proattivo al suo utilizzo.

Dalla spontaneità alla strategia: un approccio proattivo

Per affrontare queste sfide, le aziende devono passare da un approccio spontaneo all’AI a una strategia di sicurezza ben definita. Ecco alcuni passi fondamentali:

• Valutazione a 360

Effettuare una valutazione completa dell’ecosistema AI aziendale, includendo sia le soluzioni gestite dall’IT che gli usi spontanei.

• Consapevolezza e formazione

Educare gli utenti sui rischi dell’AI generativa e sensibilizzare il team dirigenziale. La formazione del personale è spesso insufficiente e non adeguata alle nuove minacce basate su AI, dando vita a un “anello debole” nella catena di difesa aziendale. Un recente report di Kantar Media mostra che anche il 36% dei team marketing non possiede le competenze necessarie per l’AI generativa.

• Governance e policy

Definire una politica di sicurezza dell’AI e integrare la cybersicurezza nella sua governance. Le aziende italiane sono chiamate a sviluppare una gestione integrata che includa valutazioni complete dei rischi, formazione continua, policy di sicurezza dedicate e tecnologie per mitigare le minacce.

• Soluzioni di sicurezza

Implementare soluzioni tecnologiche per rilevare e limitare i rischi dell’AI, come proxy, CASB e altre soluzioni equivalenti.

• AI by Design

Integrare la sicurezza fin dalla progettazione dei sistemi AI, seguendo i principi di ML SecOps e gestendo la sicurezza delle terze parti per poterne sfruttare tutto il potenziale. Ad esempio, il machine learning può essere utilizzato per il rilevamento di attacchi informatici, mentre la GenAI può supportare la mitigazione degli attacchi.

Agire ora per un futuro sicuro

È urgente agire ora per gettare le basi per un uso sicuro dell’AI. Un approccio proattivo e strategico è essenziale per mitigarli e la collaborazione tra IT, sicurezza e business è fondamentale per un’implementazione di successo. È consigliabile iniziare identificando gli usi dell’AI in azienda, determinando le azioni di sensibilizzazione più efficaci e costruendo un piano di gestione del rischio informatico.

Inoltre, bisogna ricordare che presto entrerà in vigore anche l’AI Act che, come il GDPR, richiederà alle aziende di mappare e governare gli usi dell’intelligenza artificiale.
In un contesto in cui l’82% delle aziende italiane ha subito incidenti legati all’intelligenza artificiale nell’ultimo anno, la sicurezza dell’AI non è più un’opzione, ma una necessità. Affrontare l’AI con una strategia solida è fondamentale per proteggere i dati, la reputazione e il futuro del vostro business.

Di Cristina Mariano, Country Manager Italia di Advens - www.advens.com

Contenuti correlati

• 
  Tavola rotonda: “Industrial Cyber Security” – Introduzione

  Gli ultimi dati relativi alla cybersecurity OT mostrano un quadro allarmante di crescita degli attacchi. Abbiamo parlato di Industrial Cyber Security con i rappresentanti di alcune note aziende del settore. Presentiamo qui di seguito le loro risposte. Conoscere...
• 
  Chi risponde degli errori dell’intelligenza artificiale?

  L’espansione dell’AI generativa pone sfide di responsabilità algoritmica. L’AI compliance manager emerge come figura chiave per garantire conformità normativa, gestire rischi sistemici e trasformare la compliance da obbligo a leva strategica per la crescita delle imprese Leggi...
• 
  Ispezioni di qualità con l’AI

  AI per vision inspection applicata a controllo qualità e continuità produttiva: esigenze e requisiti delle aziende manifatturiere Leggi l’articolo
• 
  Bausano celebra 80 anni di innovazione e partecipa a tre fiere dedicate alle materie plastiche

  Nel mese di giugno, Bausano celebra e porta in scena 80 anni di innovazione continua nel mondo dell’ estrusione, partecipando alle tre principali fiere europee dedicate alla filiera della plastica: France Innovation Plasturgie (FIP) a Lione (2-5...
• 
  La produzione intelligente nel settore automotive: white paper di Rockwell Automation e CAR

  Rockwell Automation ha collaborato con il Center for Automotive Research (CAR) per pubblicare il report Smart Manufacturing in Automotive: Deployment and Impact, redatto dal CAR utilizzando dati di Rockwell Automation per descrivere in dettaglio come l’intelligenza artificiale (AI),...
• 
  Una fabbrica più intelligente

  Le tecnologie per costruire fabbriche più intelligenti ed efficienti esistono già, ma la loro implementazione richiede tempo e risorse Leggi l’articolo
• 
  OT cybersecurity: scadenze, obblighi e opportunità al centro di una giornata di Consorzio PI

  Sala piena e persone in piedi: è stata un indubbio successo la giornata di studio dedicata al tema “OT Cyber Security: dalla teoria alla fabbrica”, organizzata da Consorzio PI Italia a Cavenago Brianza, alle porte di Milano. Un...
• 
  AI: “All’Europa non serve inseguire Usa e Cina”

  “L’Europa non deve inseguire Stati Uniti e Cina sul terreno dei modelli sempre più grandi. La nostra sfida è un’altra: sviluppare un’intelligenza artificiale sostenibile, affidabile e costruita attorno alle esigenze delle imprese e dei territori”. È il...
• 
  Tra continuità operativa, governance e auditability

  Nel settore industriale, e in quello farmaceutico in particolare, la sicurezza non si valuta solo in termini di protezione, ma anche per la capacità di garantire la continuità della produzione nel rispetto dei requisiti di compliance. L’approccio...
• 
  Dispositivi medici: sicurezza vitale

  La cybersecurity dei dispositivi medici è cruciale nell’era digitale: protegge dati e pazienti dagli attacchi, garantendo continuità delle cure e conformità normativa. AI e soluzioni integrate aiutano a gestire i rischi lungo il ciclo di vita dei...