AI Act, nuova sfida per le aziende che utilizzano la videosorveglianza

Analizziamo le variazioni normative apportate dall’AI Act europeo e l’impatto potenziale sulle iniziative aziendali di protezione

Pubblicato il 18 ottobre 2023

A inizio estate, il Parlamento europeo ha approvato in prima istanza l’ AI Act. La normativa dovrebbe ricevere l’approvazione finale entro fine 2023 ed entrare in vigore nel 2024.

La rapida evoluzione dell’intelligenza artificiale ha determinato una trasformazione significativa nell’approccio alla videosorveglianza. Grazie all’utilizzo di sistemi IoT, è possibile rendere le registrazioni, una volta passive, “intelligenti”, ovvero arricchite di dati e informazioni aggiuntive che le rendono più precise e fruibili. Questo significa che il sistema stesso è in grado di eliminare i falsi positivi e rendere l’analisi quasi immediata, ovvero in tempo reale. Allo stesso tempo, però, le istituzioni europee si sono mosse affinché venga tutelata la privacy dei cittadini.

Alla luce del fatto che, secondo gli ultimi dati del Politecnico di Milano, il 61% delle grandi aziende italiane ha avviato progetti legati all’intelligenza artificiale e il 34% sta già utilizzando queste tecnologie, l’introduzione di nuove normative potrebbe avere un effetto deterrente per l’implementazione di progetti di AI, o per lo meno potrebbe rallentarne l’integrazione, poiché può risultare complesso per le imprese tradurre le disposizioni delle normative all’interno della propria organizzazione mentre ancora cercano di comprendere come integrare la tecnologia.

Cosa prevede l’ AI Act per i sistemi di sicurezza

Le norme contenute nell’AI Act sono state ideate al fine di coniugare privacy e sviluppo e garantire un utilizzo responsabile e sicuro dell’intelligenza artificiale. L’approccio basato sul rischio assicura che gli obblighi siano proporzionati al livello di rischio associato all’AI. Ad esempio, i sistemi di AI ad alto rischio, come quelli utilizzati per il social scoring, saranno completamente vietati poiché rappresentano una minaccia per la sicurezza delle persone.

L’europarlamento sostiene il divieto totale di utilizzo di tecnologie di riconoscimento biometrico ad intelligenza artificiale in tempo reale nei luoghi pubblici. È stato infatti bocciato l’emendamento del Ppe (Partito Popolare Europeo) che chiedeva di inserire nell’AI Act, alcune eccezioni per permettere l’uso di telecamere riconoscimento facciale nelle strade e ai confini dell’Ue per motivi di sicurezza nazionale o nei casi di minori scomparsi. Il riconoscimento “biometrico” (facciale ma non solo) ex-post (su video registrati) è possibile ma solo con autorizzazione del giudice; solo per crimini gravi e solo per reati già commessi.

Gli impatti della nuova normativa europea sulla compliance delle aziende

L’obiettivo principale delle soluzioni di sicurezza fisica integrate con AI è quello di accrescere l’efficacia della videosorveglianza, migliorando la capacità di monitorare e prevenire attività criminali o comportamenti indesiderati. L’integrazione dell’intelligenza artificiale offre vantaggi significativi, come la riduzione dei falsi allarmi e la capacità di reagire in modo più tempestivo agli eventi critici, consentendo in parallelo di sfruttare al massimo i sistemi di videosorveglianza esistenti senza doverli sostituire, rappresentando così una soluzione più conveniente ed efficiente.

Ad ogni modo, l’uso dell’intelligenza artificiale per i sistemi di videosorveglianza impone il rispetto di norme volte a tutelare i diritti e le libertà delle persone fisiche. Per essere in regola con le normative esistenti e soprattutto per garantire compliance nel tempo alla luce di nuove normative, come l’AI Act, le organizzazioni dovranno adottare un nuovo processo di gestione dei rischi legato allo sviluppo e all’utilizzo delle applicazioni di intelligenza artificiale. Questo processo non riguarda solo la gestione dei dati, ma anche l’implementazione di un sistema strutturato di governance dell’AI che parta dall’analisi dei processi interni alle aziende per utilizzare gli algoritmi in modo efficace e responsabile.

Come le aziende possono prepararsi agli effetti dell’ AI Act

Per le aziende è necessario iniziare ad agire fin d’ora per assicurare un’integrazione quanto più fluida e agile possibile delle indicazioni dell’AI Act all’interno della propria organizzazione e assicurare il pieno rispetto di tutte le normative.
Innanzitutto, bisognerà lavorare su una definizione quanto più precisa possibile delle finalità della videosorveglianza intelligente, per identificare un perimetro di utilizzo dell’AI che possa essere facilmente controllato.

In secondo luogo, è necessario effettuare una valutazione di impatto del trattamento (D.P.I.A., cioè Data Protection Impact Assessment) specificatamente pensata per i sistemi di intelligenza artificiale e delineare policy adeguate. Dato lo scopo di un DPIA di gestire gli eventuali rischi per i diritti e le libertà delle persone derivanti dal trattamento dei dati, è facile intuire che nel caso dell’intelligenza artificiale i rischi sono particolarmente elevati: pensiamo, ad esempio, al diritto a non essere discriminati, per cui nella DPIA si dovrà verificare se l’algoritmo non contenga valori discriminatori nel codice stesso o non abbia impatti discriminatori in fase di utilizzo.

Di conseguenza, dovranno essere identificate policy specifiche per assicurare tutela contro i rischi emersi dall’assessment, dall’adozione di misure informative esplicite alla definizione e implementazione di garanzie per i diritti dell’interessato e per la sorveglianza umana.

Inoltre, va assicurata la sicurezza dei dati contro ogni possibilità di corruzione o accesso non autorizzato presso tutti i punti di acquisizione, elaborazione e gestione. L’utilizzo di sistemi di sorveglianza con AI, infatti, comporta rischi in materia cybersecurity di Data Poisoning non solo nei sistemi di elaborazione centrale, ma anche all’edge, ovunque i dati siano raccolti o lavorati.
Per tutte queste ragioni, dunque, la prima azione fondamentale da intraprendere è un’adeguata formazione di tutto il personale coinvolto nell’utilizzo degli strumenti di intelligenza artificiale, al fine di creare la giusta consapevolezza e responsabilizzazione a lungo termine.

Senza dimenticare, infine, che la responsabilità va condivisa anche a livello di filiera, e va quindi considerata anche la disposizione di contratti di distribuzione delle responsabilità tra tutti i partner e i vendor coinvolti nello sviluppo e nella fornitura, implementazione e gestione dei sistemi.

Come Axitea, ci stiamo impegnando per integrare l’intelligenza artificiale nei servizi offerti alle imprese per garantire totale compliance sia per le tecnologie utilizzate (come AI Video Solution), che all’interno dei processi relativi al loro utilizzo, mettendo a disposizione servizi di consulenza per le aziende che utilizzano e sviluppano intelligenza artificiale al fine di essere conformi alla normativa.

Fonte foto Pixabay_geralt

Maria Formato, Lead Consultant di Axitea

Tavola rotonda: “Industrial Cyber Security” – Introduzione
Gli ultimi dati relativi alla cybersecurity OT mostrano un quadro allarmante di crescita degli attacchi. Abbiamo parlato di Industrial Cyber Security con i rappresentanti di alcune note aziende del settore. Presentiamo qui di seguito le loro risposte. Conoscere...
Bausano celebra 80 anni di innovazione e partecipa a tre fiere dedicate alle materie plastiche
Nel mese di giugno, Bausano celebra e porta in scena 80 anni di innovazione continua nel mondo dell’ estrusione, partecipando alle tre principali fiere europee dedicate alla filiera della plastica: France Innovation Plasturgie (FIP) a Lione (2-5...
La produzione intelligente nel settore automotive: white paper di Rockwell Automation e CAR
Rockwell Automation ha collaborato con il Center for Automotive Research (CAR) per pubblicare il report Smart Manufacturing in Automotive: Deployment and Impact, redatto dal CAR utilizzando dati di Rockwell Automation per descrivere in dettaglio come l’intelligenza artificiale (AI),...
OT cybersecurity: scadenze, obblighi e opportunità al centro di una giornata di Consorzio PI
Sala piena e persone in piedi: è stata un indubbio successo la giornata di studio dedicata al tema “OT Cyber Security: dalla teoria alla fabbrica”, organizzata da Consorzio PI Italia a Cavenago Brianza, alle porte di Milano. Un...
AI: “All’Europa non serve inseguire Usa e Cina”
“L’Europa non deve inseguire Stati Uniti e Cina sul terreno dei modelli sempre più grandi. La nostra sfida è un’altra: sviluppare un’intelligenza artificiale sostenibile, affidabile e costruita attorno alle esigenze delle imprese e dei territori”. È il...
Tra continuità operativa, governance e auditability
Nel settore industriale, e in quello farmaceutico in particolare, la sicurezza non si valuta solo in termini di protezione, ma anche per la capacità di garantire la continuità della produzione nel rispetto dei requisiti di compliance. L’approccio...
Dispositivi medici: sicurezza vitale
La cybersecurity dei dispositivi medici è cruciale nell’era digitale: protegge dati e pazienti dagli attacchi, garantendo continuità delle cure e conformità normativa. AI e soluzioni integrate aiutano a gestire i rischi lungo il ciclo di vita dei...
L’agentic AI trasforma il lavoro e accelera i rischi
Nel luglio 2025, un software engineer stava testando un agente di codifica basato su AI quando ha osservato qualcosa di inaspettato: l’agente ha ignorato le sue istruzioni, ha acceduto autonomamente a un database in produzione e cancellato...
Stormshield amplia la propria gamma di firewall industriali con SNi50
Stormshield annuncia il lancio del nuovo firewall industriale SNi50, sviluppato per ampliare il portafoglio esistente e coprire una gamma ancora più vasta di scenari applicativi critici. La sua architettura assicura un’affidabilità molto elevata, tale da soddisfare i...
Quattro problemi, un’unica risposta: la fabbrica intelligente non si improvvisa
Quando si visita uno stabilimento produttivo italiano, ciò che colpisce di più non è ciò che manca, è ciò che coesiste. L’impressione è quella di un organismo in cui ogni organo funziona, ma il sistema non ha...