Attenzione all’intelligenza artificiale non gestita: può creare rischi di business, alla reputazione e normativi

L’ultimo studio Trend Micro evidenzia che i rischi sono maggiori per le organizzazioni che operano a livello globale o che utilizzano l’intelligenza artificiale in diverse aree geografiche

L’adozione di modelli linguistici di grandi dimensioni (LLM) senza un’adeguata governance, verifica e supervisione, rischia di esporre a danni legali, finanziari e di reputazione. Il dato emerge da “Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models”, l’ultima ricerca Trend Micro: i sistemi di intelligenza artificiale possono generare risultati diversi a seconda della posizione geografica, della lingua, della progettazione del modello e dei controlli integrati.

Nei settori dove si lavora a contatto con i clienti o si prendono decisioni importanti, queste incoerenze possono minare la fiducia, allontanare da regolamenti locali o norme culturali e portare a costose conseguenze per il business.

Lo studio di Trend Micro 

Lo studio Trend Micro ha coinvolto oltre 100 modelli di intelligenza artificiale e ha utilizzato più di 800 prompt mirati progettati per valutare i bias, la consapevolezza politica e culturale, i comportamenti di geofencing, i segnali di sovranità dei dati e le limitazioni contestuali. Sono stati condotti migliaia di esperimenti, per misurare come gli output cambiano nel tempo e nei luoghi e sono stati analizzati più di 60 milioni di token di input e oltre 500 milioni di token di output.

I risultati rivelano che prompt identici possono produrre risposte diverse a seconda dell’area geografica e dei modelli e persino variare nel corso di interazioni ripetute con lo stesso sistema.

In scenari politicamente critici, come nel caso di territori contesi o di identità nazionale, i modelli hanno mostrato chiare differenze di allineamento a seconda del luogo. In altri test, i modelli hanno restituito risultati obsoleti o incoerenti in aree che richiedevano precisione, ad esempio calcoli finanziari e informazioni dove il tempo giocava un ruolo chiave.

Afferma Marco Fanuli, technical director di Trend Micro Italia:

“In molte organizzazioni, si pensa che l’intelligenza artificiale si comporti come un software tradizionale e che lo stesso input produca in modo affidabile lo stesso output. La nostra ricerca mostra che questo pensiero non è corretto”.

“I LLM possono fornire risposte diverse in base all’area geografica, alla lingua, ai guardrail e possono anche cambiare da un’interazione all’altra. Quando i risultati dell’intelligenza artificiale vengono utilizzati direttamente dai clienti o per prendere decisioni di business, il rischio è di perdere il controllo sulla comunicazione, sulla compliance e sul rispetto delle norme culturali”.

Lo studio evidenzia che i rischi sono maggiori per le organizzazioni che operano a livello globale o utilizzano l’intelligenza artificiale in diverse aree geografiche.

Un servizio basato sull’intelligenza artificiale potrebbe essere regolamentato da diversi quadri giuridici, politici e socioculturali. Le criticità coinvolgono anche il settore pubblico. In questo caso, i risultati generati dall’intelligenza artificiale potrebbero essere interpretati come una guida ufficiale e la dipendenza da modelli non localizzati o non verificati potrebbe introdurre rischi di sovranità e di accessibilità.

“L’intelligenza artificiale non dovrebbe essere trattata come uno strumento di produttività plug-and-play” conclude Fanuli. “Le organizzazioni devono considerare i rischi di dipendenza, adottare una governance chiara, definire le responsabilità e introdurre la verifica umana per qualsiasi output rivolto agli utenti. Questo include la trasparenza dei fornitori di intelligenza artificiale su come si comportano i modelli, su quali dati si basano e dove vengono applicati i guardrail. L’intelligenza artificiale promuove innovazione ed efficienza, ma solo quando viene utilizzata con una chiara comprensione dei suoi limiti e con controlli che verificano come i sistemi si comportano negli ambienti del mondo reale”.

Contenuti correlati

• 
  Innovazione nell’industria ancora una volta al centro: il sunto di SPS Italia 2026

  Si è chiusa a Parma la quattordicesima edizione di SPS Italia, appuntamento di riferimento per l’innovazione nel mondo produttivo. Con 720 espositori e 37.528 presenze, in crescita rispetto al 2025, la manifestazione è stata vetrina delle tecnologie...
• 
  XIA, il copilota di TEX per la programmazione di PLC e CNC

  XIA è l’avanguardia tecnologica nata dalla visione di TEX. Non è un semplice assistente virtuale, ma un vero e proprio “copilota” per il programmatore PLC e CNC, progettato per massimizzare la produttività e azzerare gli errori di sviluppo tramite un’integrazione profonda con...
• 
  Ricerca di Rockwell Automation: i produttori italiani sono sempre più orientati all’esecuzione e alla crescita

  Rockwell Automation ha annunciato i risultati relativi all’Italia dell’11ª edizione del suo State of Smart Manufacturing Report. La ricerca evidenzia un cambiamento nell’approccio dei produttori italiani alla trasformazione digitale: oggi, infatti, crescita ed espansione della capacità produttiva...
• 
  L’AI fa sempre parte dell’equazione

  Notizie e opinioni relative all’AI intasano continuamente la barra laterale di potenziali post del mio blog. Dai, provateci! Provate a vedete se riuscite a passare un’ora senza imbattervi in qualche clamoroso commento o terribile avvertimento sull’AI. Leggi...
• 
  AI al servizio delle infrastrutture critiche

  TXT e-Solutions (www.txtgroup.com), gruppo italiano quotato sul segmento Star di Borsa Italiana e attivo nello sviluppo di soluzioni software ad alto contenuto tecnologico, rafforza la propria strategia nell’ambito delle infrastrutture critiche con la nascita di TXT InfraWise,...
• 
  Aveva World 2026: AI al centro dell’industria. Ecco le novità annunciate a Milano

  Aveva ha annunciato ad Aveva World 2026 un ampio pacchetto di innovazioni che coinvolgono l’intero portafoglio software dell’azienda. L’obiettivo è consentire alle imprese industriali di valorizzare più rapidamente i propri dati operativi, prendere decisioni più efficaci e adottare l’AI...
• 
  The smarter E Europe: networking sicuro per infrastrutture energetiche critiche con Moxa

  Moxa Europe GmbH, azienda punto di riferimento nelle soluzioni di comunicazione e networking industriale, presenterà a EM-Power Europe, nell’ambito di The smarter E Europe (Messe München dal 23 al 25 giugno 2026), presso il Padiglione B.5, Stand...
• 
  Un’architettura open per l’automotive

  L’azienda torinese IDT, in collaborazione con SDProget Industrial Software, ha realizzato una linea di assemblaggio e test per celle batteria destinata a un primario Tier 1 dell’automotive, riducendo del 50% i tempi di sviluppo grazie a una...
• 
  IFS Connect Milano: le aziende italiane sono pronte all’era AI driven?

  L’Industrial AI entra in una nuova fase: meno sperimentazione, più applicazioni concrete e scalabili nei processi industriali. È questo il messaggio emerso dalla prima edizione italiana di IFS Connect 2026, che ha incluso Milano nel roadshow internazionale...
• 
  Si delinea il programma di secsolutionforum 2026

  Secsolutionforum 2026 torna in presenza il 7 e 8 ottobre 2026 a BolognaFiere, all’interno di Urban Tech 2026 – The Urban Technology Show, l’ecosistema dedicato a e-mobility, traffic, commuting, tlc & data ed environment. Dopo sei edizioni...