L’open source come strumento per un’intelligenza artificiale sempre più affidabile

AI e ML sono temi particolarmente caldi oggi: sempre più aziende si affidano a queste tecnologie per implementare le proprie operazioni e i processi produttivi, e le istituzioni finanziarie non fanno certo eccezione. In questo contesto, l’affidabilità dell’AI è sempre più cruciale, anche visti i crescenti requisiti normativi. La tracciabilità e la spiegabilità dei modelli di AI/ML sono importanti per creare fiducia e accettazione nella loro adozione e assicurarne il miglioramento continuo. Strategie, tecnologie e soluzioni open source trasparenti avranno quindi un ruolo centrale per la loro implementazione

AI e ML sono già utilizzati da molte imprese di quasi tutti i settori, con il successo di ChatGPT che ne ha reso ancor più visibili i benefici e ha contribuito ad accelerarne l’adozione. Di conseguenza, è naturale prevedere un incremento nell’uso di AI e ML anche nel settore finanziario, persino nei sistemi centrali. Le soluzioni che soddisfano il criterio di “AI affidabile” svolgeranno un ruolo importante in questo senso. Dopotutto, gli istituti finanziari sono vincolati da rigidi requisiti normativi.

AI Act: un quadro normativo per definire le direzioni di sviluppo

L’AI Act (Artificial Intelligence Act) dell’UE, una normativa dedicata allo sviluppo e all’utilizzo dell’AI, sarà di grande importanza in futuro. L’AI Act conterrà un quadro normativo che si applicherà anche al settore finanziario. Sebbene la configurazione finale non sia ancora definita, si può presumere che la normativa conterrà requisiti rigorosi per l’uso dei sistemi di AI, che determineranno, ad esempio, se le banche potranno gestire applicazioni per la valutazione del rischio, utilizzando ad esempio i modelli di AI per valutare l’affidabilità creditizia di un cliente.

Attualmente esistono diverse iniziative volte a promuovere l’applicazione dell’AI affidabile nelle aziende, tra cui spicca la più estesa in Europa, appliedAI. Nata nel 2017 da UnternehmerTUM, l’iniziativa mira a rafforzare l’innovazione europea nel campo dell’AI: grazie alla partecipazione di NVIDIA, NetApp, Red Hat e Munich Re, appliedAI ha esaminato l’uso dell’AI affidabile in vari ambiti, tra cui finanza e assicurazioni. Una stretta collaborazione tra diverse aziende è comunque indispensabile per il successo dell’introduzione delle applicazioni di AI. Di norma, nell’implementazione sono sempre coinvolti tre tipologie di partner: un fornitore e gestore di piattaforme, un fornitore di software indipendente con soluzioni di AI e ML e un Global System Integrator.

I principi dell’open source alla base di un’AI affidabile

Ma quali sono i prerequisiti per fornire un’AI affidabile? Qui che entrano in gioco strategie, tecnologie e soluzioni open source, proprio per le loro intrinseche proprietà di trasparenza e collaborazione. La trasparenza, infatti, è sinonimo di dati facilmente accessibili e processi decisionali tracciabili, mentre la collaborazione garantisce uno scambio continuo tra tutte le parti, che porta a risultati migliori, più efficienti e più sostenibili. Questo approccio open source può anche costituire un punto di riferimento per l’AI/ML in termini di affidabilità. L’affidabilità dell’AI riguarda in ultima analisi aspetti quali spiegabilità, equità, trasparenza, tracciabilità, riproducibilità, robustezza e monitorabilità dei modelli.

Le piattaforme ibride favoriscono l’implementazione dell’AI

L’open source è quindi un aspetto cruciale nel percorso verso un’AI affidabile. Allo stesso modo, le piattaforme cloud ibride aperte basate su Kubernetes con controlli di sicurezza, versioning e archiviazione possono costituire la base sia per l’implementazione di AI e ML che per lo sviluppo, l’addestramento e l’incorporazione di nuovi modelli di AI in tutte le applicazioni, anche in ambito bancario.

In genere, per modellare l’AI, i data scientist conducono dei processi di formazione, test e riadattamento al di fuori dell’ambiente IT produttivo degli istituti finanziari. Il passaggio, poi, all’implementazione delle applicazioni di AI in un ambiente produttivo e, nello specifico, la loro integrazione nei sistemi bancari, richiede di rispettare le specifiche best practice e le norme di sicurezza, di conformità e di governance dell’istituto finanziario. È proprio per favorire questi compiti e processi che le piattaforme aperte rappresentano un’ottima base, in quanto consentono di progettare i modelli in modo affidabile e accelerare il cambio di passo tra la fase di sperimentazione l’operatività.

I concetti di MLOps (Machine Learning Operations), in particolare, stanno acquisendo crescente importanza. Questi si basano su collaudati principi DevOps e mirano allo sviluppo, alla fornitura, alla gestione e alla manutenzione efficiente dei modelli di apprendimento automatico. I modelli di ML sono quindi confezionati in container e distribuiti in modo sicuro utilizzando le procedure DevOps. Il grande vantaggio dei processi MLOps è che possono supportare sia i data scientist nella fase di sviluppo sia i team operativi nella distribuzione dei modelli di ML in un ambiente di produzione.

Il concetto di piattaforma porta a un’elevata flessibilità e resilienza

Una piattaforma open hybrid cloud può anche offrire alle aziende maggiore flessibilità in termini di infrastruttura utilizzata, consentendo di gestire a piacimento il passaggio da ambienti on-premise a cloud. Tale concetto di piattaforma consente, ad esempio, lo sviluppo e l’addestramento del modello di ML nel cloud utilizzando dati di test sintetici, con il successivo incorporamento del modello nell’applicazione on-premise. Al contrario, è possibile addestrare i modelli con i propri dati altamente sensibili nel proprio data center e poi utilizzarli nel cloud.

Inoltre, una strategia open source e di cloud ibrido è vantaggiosa per garantire la conformità ai nuovi regolamenti DORA (Digital Operational Resilience Act) dell’UE, che obbligano le società finanziarie ad assicurare la resilienza delle tecnologie utilizzate per i processi e le applicazioni business-critical e la stabilità operativa dei sistemi digitali. Basandosi su un’infrastruttura cloud ibrida, le aziende possono eseguire le applicazioni in ambienti diversi, supportando al contempo la portabilità delle applicazioni. Ciò contribuisce in modo significativo a rafforzare la resilienza digitale.

Per fare in modo che l’utilizzo dell’AI sia accettato sia da un punto di vista politico-normativo che sociale, la fiducia è un criterio decisivo. In molti settori che devono soddisfare requisiti normativi elevati, sarà quindi indispensabile creare un’AI affidabile che sia spiegabile e rispetti i principi legali ed etici. Nell’implementazione dei corrispondenti scenari di AI, i principi dell’open source svolgeranno un ruolo cruciale.

Di Armin M. Warda, Chief Technologist FSI EMEA di Red Hat

Contenuti correlati

• 
  SAP inaugura il suo primo Customer Experience Centre dedicato all’AI

  SAP Labs France, la filiale di SAP dedicata alle attività di ricerca e sviluppo (R&S) dell’azienda, annuncia l’inaugurazione del nuovo Customer Experience Centre dedicato all’Intelligenza Artificiale (AI) a Sophia Antipolis, vicino a Nizza. L’innovativo Centro rappresenta un...
• 
  La Space Economy è pronta a decollare

  L’Economia dello Spazio, definita dall’OCSE come un complesso di attività che generano valore e vantaggi attraverso l’esplorazione, la ricerca e l’utilizzo dello Spazio, si estende su un’ampia gamma di settori. Da un lato si concentra su tutto...
• 
  AI e sicurezza: come prevenire gli infortuni sul lavoro

  Di Marco Bavazzano, Amministratore Delegato di Axitea Ciclicamente, e con dispiacere, ci troviamo a leggere o ascoltare di storie di infortuni sul lavoro che hanno purtroppo spesso un epilogo tragico, con conseguenti bilanci, commenti e iniziative sulle...
• 
  AI per le intranet: uno strumento che integra e potenzia le capacità umane, senza sostituirle

  Già da tempo l’intelligenza artificiale fa parte della nostra vita quotidiana ed è usata da moltissime aziende, in Italia e nel mondo. Gli algoritmi intelligenti sono capaci di apprendere ed elaborare le informazioni e suggeriscono alle persone...
• 
  MCMA di primavera: 4.0 e AI per la manutenzione

  Manca poco all’appuntamento con MCMA Bergamo, evento per la Manutenzione Industriale e Asset Management,  in programma il 17 aprile alla Fiera di Bergamo. In Italia il mercato dell’intelligenza artificiale cresce in maniera energica. Nel 2023 segna un +52%, raggiungendo il valore...
• 
  AI verso un futuro più ‘umano’ e sostenibile

  Creare dei microprocessori in grado di replicare i sistemi di apprendimento biologico, così da rendere l’intelligenza artificiale più flessibile, efficiente e sostenibile anche dal punto di vista ambientale. È questa la sfida lanciata da un gruppo internazionale...
• 
  Un chiaro focus su cybersecurity e licensing software: Wibu-Systems ad Hannover Messe 2024

  Quest’anno, Wibu-Systems è particolarmente orgogliosa di presentare ad Hannover Messe 2024 una serie speciale di tour guidati, condotti da Oliver Winzenried stesso, CEO e fondatore dell’azienda. Questi viaggi unici nel cuore dell’innovazione industriale proporranno ai partecipanti uno...
• 
  AI: argomento di discussione globale

  Un’intelligenza artificiale affidabile può reinventare le aziende e contribuire a risolvere le sfide globali “Vago ma eccitante”. Queste parole sono state l’eufemismo del XX secolo, scarabocchiate a margine del famoso articolo di Tim Berners-Lee del 1989 in...
• 
  Nuove frontiere per robotica e AI

  Marc Segura, presidente della Divisione Robotics di ABB, individua tre fattori trainanti per le soluzioni di AI guidate dalla robotica “Il 2024 vedrà una crescente attenzione relativamente al ruolo dell’AI. Da robot mobili e cobot, all’abilitazione di...
• 
  AI e sicurezza fisica: come prevenire gli infortuni sul lavoro secondo Axitea

  Ciclicamente, e con dispiacere, ci troviamo a leggere o ascoltare di storie di infortuni sul lavoro che hanno purtroppo spesso un epilogo tragico, con conseguenti bilanci, commenti e iniziative sulle misure da intraprendere per evitare che tali...