AO_442

96 | NOVEMBRE-DICEMBRE 2022 AUTOMAZIONE OGGI 442 iò di cui l’intelligenza artificiale ha bisogno ora, più di ogni altra cosa, è un’iniezione di umiltà”. Così risponde l’informatico Michael Wooldridge al coro di guru e fu- turisti che insistono nel consacrare questa tecnologia come La Grande Minaccia o La Grande Speranza dell’umanità. La verità è che non sappiamo se riusciremo mai a rag- giungere un’intelligenza artificiale ‘forte’ o ‘generale’, con autocoscienza e modi di pensare complessi pari o superiori a quelli umani. Quella che abbiamo oggi è un’intel- ligenza artificiale ‘debole’ che presenta già sfide importanti e un enorme potenziale per contribuire a migliorare le nostre economie e società. Il buon uso di questo strumento richiede una riflessione etica e un dibattito democratico sui suoi scopi, usi e contesti. Questa riflessione sull’intelligenza artificiale per il bene comune implica che ci si inter- roghi sul ruolo che la tecnologia dovrebbe avere nel nostro futuro e, per estensione, sul futuro che vogliamo costruire con essa. Per molti rappresenta un pilastro del cosiddetto Umanesimo Digitale. Lo ha espresso al meglio Giovanni Lo Storto, direttore generale dell’u- niversità Luiss di Roma, per il quale il nuovo umanesimo “non può rinunciare alla ricerca del significato profondo e dell’impatto della tecnologia, che spesso accettiamo acritica- mente”. Tre concetti possono forse aiutarci a ordinare questa riflessione. Il primo è il concetto di Uguaglianza . Forse a causa della preminenza della ricerca statu- nitense, le obiezioni ai sistemi di IA hanno posto l’accento sulla non discriminazione, sulla correzione dei pregiudizi sulla base dell’etnia, del luogo di provenienza o del genere. La discriminazione nei sistemi di intelligenza artificiale è stata messa in di- scussione dopo il caso del sistema Compas ( Correctional Offender Management Profi- ling for Alternative Sanctions ), utilizzato dal Dipartimento di Giustizia degli Stati Uniti per determinare il rischio di recidiva dei detenuti. A causa di un pregiudizio nell’al- goritmo, opportunamente rafforzato in seguito dai pregiudizi dei giudici che inter- pretavano le raccomandazioni del sistema, il Compas suggeriva che i neri erano a maggior rischio di recidiva rispetto ai loro concittadini bianchi. Da allora si sono accu- mulati casi di sistemi discriminatori causati da pregiudizi dei programmatori o dai dati distorti che ‘addestrano’ gli algoritmi. Gli sforzi per combattere i pregiudizi nell’IA sono lodevoli e necessari. Ma la giustizia algoritmica deve andare oltre, perché la provenienza o il genere non sono le uniche fonti di discriminazione ed esclusione, che in molti casi sono radicate nella povertà e nella disuguaglianza, e perché la non di- scriminazione non sempre equivale all’u- guaglianza. La giustizia algoritmica può e deve anche combattere la discriminazione e l’esclusione causate dalla disuguaglianza e dalla povertà, e diventare uno strumento di equità e giustizia sociale. Il secondo concetto deriva dal precedente: la Dignità , intesa come l’opposto di disu- guaglianza, esclusione, discriminazione e violenza: uno dei pilastri del nostro modello di convivenza e ‘pietra angolare del nostro impegno’ civile, secondo le parole del Pre- sidente Sergio Mattarella durante il suo di- scorso di accettazione della Presidenza della Repubblica. Un’IA etica, come pilastro dell’U- manesimo Digitale, deve essere al servizio della dignità umana. Il terzo concetto è quello di Responsabilità , che deriva dall’autonomia e senza il quale non c’è agency morale. Solo se avessimo un’IA ‘forte’, con sistemi autoconsapevoli e autonomi, potremmo parlare di vera re- sponsabilità dei sistemi di intelligenza artifi- ciale. Oggi siamo ancora lontani da questo scenario (se mai si realizzerà): le decisioni prese dai nostri sistemi di IA possono avere conseguenze e implicazioni morali, ma sono decisioni guidate o programmate e non il risultato di una capacità di giudizio auto- noma, cioè di una piena agenzia morale. Da qui l’importanza di delimitare le responsabi- lità degli attuali sistemi di IA, uno dei punti centrali della futura legislazione europea in materia: a tal proposito, nel quadro legisla- tivo attualmente in discussione a Bruxelles l’accountability viene riversata sugli attori che danno forma all’IA. Uguaglianza, Dignità e Responsabilità: tre concetti che potrebbero aiutarci a riflettere sull’intelligenza artificiale che vogliamo. I si- stemi di intelligenza artificiale (o, piuttosto, alcuni degli apologeti dell’intelligenza artifi- ciale) possono aver bisogno, come ha sotto- lineatoWooldridge, di un’iniezione di umiltà, ma ciò di cui tutti noi abbiamo certamente bisogno è un’iniezione di etica. “C Roberto Carrozzo , head of Intelligence & Data Minsait ( www.minsait.com ) AUTOMAZIONE OGGI AO DOMANI Tre concetti per il raggiungimento di un’IA etica