Attenzione all’intelligenza artificiale non gestita: può creare rischi di business, alla reputazione e normativi
L’ultimo studio Trend Micro evidenzia che i rischi sono maggiori per le organizzazioni che operano a livello globale o che utilizzano l’intelligenza artificiale in diverse aree geografiche
L’adozione di modelli linguistici di grandi dimensioni (LLM) senza un’adeguata governance, verifica e supervisione, rischia di esporre a danni legali, finanziari e di reputazione. Il dato emerge da “Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models”, l’ultima ricerca Trend Micro: i sistemi di intelligenza artificiale possono generare risultati diversi a seconda della posizione geografica, della lingua, della progettazione del modello e dei controlli integrati.
Nei settori dove si lavora a contatto con i clienti o si prendono decisioni importanti, queste incoerenze possono minare la fiducia, allontanare da regolamenti locali o norme culturali e portare a costose conseguenze per il business.
Lo studio di Trend Micro
Lo studio Trend Micro ha coinvolto oltre 100 modelli di intelligenza artificiale e ha utilizzato più di 800 prompt mirati progettati per valutare i bias, la consapevolezza politica e culturale, i comportamenti di geofencing, i segnali di sovranità dei dati e le limitazioni contestuali. Sono stati condotti migliaia di esperimenti, per misurare come gli output cambiano nel tempo e nei luoghi e sono stati analizzati più di 60 milioni di token di input e oltre 500 milioni di token di output.
I risultati rivelano che prompt identici possono produrre risposte diverse a seconda dell’area geografica e dei modelli e persino variare nel corso di interazioni ripetute con lo stesso sistema.
In scenari politicamente critici, come nel caso di territori contesi o di identità nazionale, i modelli hanno mostrato chiare differenze di allineamento a seconda del luogo. In altri test, i modelli hanno restituito risultati obsoleti o incoerenti in aree che richiedevano precisione, ad esempio calcoli finanziari e informazioni dove il tempo giocava un ruolo chiave.
Afferma Marco Fanuli, technical director di Trend Micro Italia:
“In molte organizzazioni, si pensa che l’intelligenza artificiale si comporti come un software tradizionale e che lo stesso input produca in modo affidabile lo stesso output. La nostra ricerca mostra che questo pensiero non è corretto”.
“I LLM possono fornire risposte diverse in base all’area geografica, alla lingua, ai guardrail e possono anche cambiare da un’interazione all’altra. Quando i risultati dell’intelligenza artificiale vengono utilizzati direttamente dai clienti o per prendere decisioni di business, il rischio è di perdere il controllo sulla comunicazione, sulla compliance e sul rispetto delle norme culturali”.
Lo studio evidenzia che i rischi sono maggiori per le organizzazioni che operano a livello globale o utilizzano l’intelligenza artificiale in diverse aree geografiche.
Un servizio basato sull’intelligenza artificiale potrebbe essere regolamentato da diversi quadri giuridici, politici e socioculturali. Le criticità coinvolgono anche il settore pubblico. In questo caso, i risultati generati dall’intelligenza artificiale potrebbero essere interpretati come una guida ufficiale e la dipendenza da modelli non localizzati o non verificati potrebbe introdurre rischi di sovranità e di accessibilità.
“L’intelligenza artificiale non dovrebbe essere trattata come uno strumento di produttività plug-and-play” conclude Fanuli. “Le organizzazioni devono considerare i rischi di dipendenza, adottare una governance chiara, definire le responsabilità e introdurre la verifica umana per qualsiasi output rivolto agli utenti. Questo include la trasparenza dei fornitori di intelligenza artificiale su come si comportano i modelli, su quali dati si basano e dove vengono applicati i guardrail. L’intelligenza artificiale promuove innovazione ed efficienza, ma solo quando viene utilizzata con una chiara comprensione dei suoi limiti e con controlli che verificano come i sistemi si comportano negli ambienti del mondo reale”.
Contenuti correlati
-
Innodisk presenta a Computex 2026 con un ecosistema integrato per l’intelligenza artificiale edge a 5 livelli
Innodisk presenterà il suo ecosistema completo per l’AI edge alla fiera Computex 2026, dimostrando come le aziende e i clienti industriali possano accelerare l’adozione dell’AI con applicazioni pronte ad entrare in produzione. Costruito su cinque livelli essenziali –...
-
Il backup nel mirino dei cybercriminali: perché la capacità di recupero dei dati è diventata la nuova frontiera della sicurezza
Per molto tempo il backup è stato considerato il pilastro fondamentale di qualsiasi strategia di protezione dei dati. Disporre di una copia delle informazioni aziendali era ritenuto sinonimo di sicurezza e rappresentava una garanzia sufficiente per proteggersi...
-
Advantech presenta le sue nuove soluzioni basate su Qualcomm Dragonwing IQ-9 per l’intelligenza visiva di livello industriale
Advantech è orgogliosa di presentare le ultime soluzioni di edge AI basate sul processore Qualcomm Dragonwing IQ-9075, tra cui il modulo SMARC AOM-6741, i controller robotici ASR-A503 e AFE-A503 e il sistema edge AI AIR-055. Progettate per...
-
Sicuro anche in presenza di polvere e fumo: sistema radar LBK di Leuze
Le persone presenti nella zona di pericolo vengono rilevate in modo affidabile dal sistema radar 3D di Leuze, anche in condizioni ambientali difficili: gli oggetti statici non provocano l’arresto dell’impianto. Le persone non devono poter accedere inosservate...
-
Reply inaugura Reply House: nel cuore di Torino nasce un campus aperto alla ricerca e all’innovazione
Reply inaugura Reply House, il nuovo headquarter del Gruppo a Torino. Un campus dove laboratori per l’AI applicata, uffici, ambienti immersivi, spazi di condivisione e aree verdi compongono un sistema flessibile, capace di connettere competenze diverse e trasformare...
-
Logistica, è carenza di capitale umano: mancano 60.000 figure professionali
Il settore italiano della logistica conto terzi, con un fatturato di 111 miliardi di euro, sale al 43,3% del mercato rispetto al 36,4% del 2009, trainato da piattaforme digitali e sistemi avanzati per ottimizzare la produttività, nonostante...
-
Ignition e AI insieme per una gestione più intelligente delle risorse idriche
Ignition, la piattaforma software di Inductive Automation, distribuita in Italia da EFA Automazione/Relatech, conferma ancora una volta la propria capacità di evolvere insieme alle esigenze degli utenti e di integrarsi con le tecnologie più innovative. Lo dimostra...
-
Equilibrare l’utilizzo dell’intelligenza artificiale e della simulazione nella progettazione del prodotto
La progettazione di qualsiasi prodotto, nel mondo odierno, è un processo complesso e articolato in più fasi, basato in larga misura sull’utilizzo della tecnologia di simulazione. Le simulazioni ad elevata fedeltà permettono ad ingegneri e progettisti di...
-
Un futuro con la Physical AI: Ferrari e Pirelli protagonisti ai Tech Talks 2026 di Siemens
Si è recentemente svolta la terza edizione dei Tech Talks, l’appuntamento annuale di Siemens che riunisce imprese e partner per confrontarsi sulle principali sfide e opportunità della trasformazione digitale e sostenibile. Con il titolo “Where Real meets Digital”, l’edizione 2026 ha...
-
Industrial Cyber Security: come agire sotto attacco
Gli ultimi dati relativi alla cybersecurity OT mostrano un quadro allarmante di crescita degli attacchi. Abbiamo parlato di Industrial Cyber Security con i rappresentanti di alcune note aziende del settore. Presentiamo qui di seguito le loro risposte. In caso di...















