Attenzione all’intelligenza artificiale non gestita: può creare rischi di business, alla reputazione e normativi

L’ultimo studio Trend Micro evidenzia che i rischi sono maggiori per le organizzazioni che operano a livello globale o che utilizzano l’intelligenza artificiale in diverse aree geografiche

L’adozione di modelli linguistici di grandi dimensioni (LLM) senza un’adeguata governance, verifica e supervisione, rischia di esporre a danni legali, finanziari e di reputazione. Il dato emerge da “Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models”, l’ultima ricerca Trend Micro: i sistemi di intelligenza artificiale possono generare risultati diversi a seconda della posizione geografica, della lingua, della progettazione del modello e dei controlli integrati.

Nei settori dove si lavora a contatto con i clienti o si prendono decisioni importanti, queste incoerenze possono minare la fiducia, allontanare da regolamenti locali o norme culturali e portare a costose conseguenze per il business.

Lo studio di Trend Micro 

Lo studio Trend Micro ha coinvolto oltre 100 modelli di intelligenza artificiale e ha utilizzato più di 800 prompt mirati progettati per valutare i bias, la consapevolezza politica e culturale, i comportamenti di geofencing, i segnali di sovranità dei dati e le limitazioni contestuali. Sono stati condotti migliaia di esperimenti, per misurare come gli output cambiano nel tempo e nei luoghi e sono stati analizzati più di 60 milioni di token di input e oltre 500 milioni di token di output.

I risultati rivelano che prompt identici possono produrre risposte diverse a seconda dell’area geografica e dei modelli e persino variare nel corso di interazioni ripetute con lo stesso sistema.

In scenari politicamente critici, come nel caso di territori contesi o di identità nazionale, i modelli hanno mostrato chiare differenze di allineamento a seconda del luogo. In altri test, i modelli hanno restituito risultati obsoleti o incoerenti in aree che richiedevano precisione, ad esempio calcoli finanziari e informazioni dove il tempo giocava un ruolo chiave.

Afferma Marco Fanuli, technical director di Trend Micro Italia:

“In molte organizzazioni, si pensa che l’intelligenza artificiale si comporti come un software tradizionale e che lo stesso input produca in modo affidabile lo stesso output. La nostra ricerca mostra che questo pensiero non è corretto”.

“I LLM possono fornire risposte diverse in base all’area geografica, alla lingua, ai guardrail e possono anche cambiare da un’interazione all’altra. Quando i risultati dell’intelligenza artificiale vengono utilizzati direttamente dai clienti o per prendere decisioni di business, il rischio è di perdere il controllo sulla comunicazione, sulla compliance e sul rispetto delle norme culturali”.

Lo studio evidenzia che i rischi sono maggiori per le organizzazioni che operano a livello globale o utilizzano l’intelligenza artificiale in diverse aree geografiche.

Un servizio basato sull’intelligenza artificiale potrebbe essere regolamentato da diversi quadri giuridici, politici e socioculturali. Le criticità coinvolgono anche il settore pubblico. In questo caso, i risultati generati dall’intelligenza artificiale potrebbero essere interpretati come una guida ufficiale e la dipendenza da modelli non localizzati o non verificati potrebbe introdurre rischi di sovranità e di accessibilità.

“L’intelligenza artificiale non dovrebbe essere trattata come uno strumento di produttività plug-and-play” conclude Fanuli. “Le organizzazioni devono considerare i rischi di dipendenza, adottare una governance chiara, definire le responsabilità e introdurre la verifica umana per qualsiasi output rivolto agli utenti. Questo include la trasparenza dei fornitori di intelligenza artificiale su come si comportano i modelli, su quali dati si basano e dove vengono applicati i guardrail. L’intelligenza artificiale promuove innovazione ed efficienza, ma solo quando viene utilizzata con una chiara comprensione dei suoi limiti e con controlli che verificano come i sistemi si comportano negli ambienti del mondo reale”.

Contenuti correlati

• 
  Industrial Cyber Security: l’evoluzione attesa

  Gli ultimi dati relativi alla cybersecurity OT mostrano un quadro allarmante di crescita degli attacchi. Abbiamo parlato di Industrial Cyber Security con i rappresentanti di alcune note aziende del settore. Presentiamo qui di seguito le loro risposte. In che direzione...
• 
  Eplan Copilot: l’AI diventa un partner affidabile per la progettazione

  Eplan Copilot, presentato in anteprima durante Eplan Next26, affianca gli utenti nel lavoro quotidiano come un partner affidabile. Costituisce una fonte di informazioni sicura e sempre disponibile. Combina competenze di progettazione, funzionalità della piattaforma e compiti specifici...
• 
  Industrial Cyber Security: il ‘piano B’ e il ‘fattore uomo’

  Gli ultimi dati relativi alla cybersecurity OT mostrano un quadro allarmante di crescita degli attacchi. Abbiamo parlato di Industrial Cyber Security con i rappresentanti di alcune note aziende del settore. Presentiamo qui di seguito le loro risposte. Una volta subito...
• 
  Sicurezza IT-OT: come ottenerla?

  Gli ultimi dati relativi alla cybersecurity OT mostrano un quadro allarmante di crescita degli attacchi. Abbiamo parlato di Industrial Cyber Security con i rappresentanti di alcune note aziende del settore. Presentiamo qui di seguito le loro risposte. A fronte di...
• 
  Robotica e AI: caccia agli unicorni

  Nel 2026 l’intelligenza artificiale non è più soltanto una questione di software e modelli digitali: il vero salto in avanti riguarda la capacità di tradurre l’AI in azione concreta nel mondo reale… Leggi l’articolo
• 
  Tavola rotonda: “Industrial Cyber Security” – Introduzione

  Gli ultimi dati relativi alla cybersecurity OT mostrano un quadro allarmante di crescita degli attacchi. Abbiamo parlato di Industrial Cyber Security con i rappresentanti di alcune note aziende del settore. Presentiamo qui di seguito le loro risposte. Conoscere...
• 
  Chi risponde degli errori dell’intelligenza artificiale?

  L’espansione dell’AI generativa pone sfide di responsabilità algoritmica. L’AI compliance manager emerge come figura chiave per garantire conformità normativa, gestire rischi sistemici e trasformare la compliance da obbligo a leva strategica per la crescita delle imprese Leggi...
• 
  Ispezioni di qualità con l’AI

  AI per vision inspection applicata a controllo qualità e continuità produttiva: esigenze e requisiti delle aziende manifatturiere Leggi l’articolo
• 
  Bausano celebra 80 anni di innovazione e partecipa a tre fiere dedicate alle materie plastiche

  Nel mese di giugno, Bausano celebra e porta in scena 80 anni di innovazione continua nel mondo dell’ estrusione, partecipando alle tre principali fiere europee dedicate alla filiera della plastica: France Innovation Plasturgie (FIP) a Lione (2-5...
• 
  La produzione intelligente nel settore automotive: white paper di Rockwell Automation e CAR

  Rockwell Automation ha collaborato con il Center for Automotive Research (CAR) per pubblicare il report Smart Manufacturing in Automotive: Deployment and Impact, redatto dal CAR utilizzando dati di Rockwell Automation per descrivere in dettaglio come l’intelligenza artificiale (AI),...