AO_444

MARZO 2023 AUTOMAZIONE OGGI 444 | 13 consapevolezza degli usi e costumi teutonici, il traduttore rispose con un ‘La birra è buona, ma l’arrosto è andato a male’. Pochi giorni fa, si parlava con alcuni colleghi in università del tema del momento, ovvero ChatGPT, da più parti indicato come stra- biliante successo dell’AI. Qualcuno l’aveva provato, sottoponendolo sia a richieste di scrivere del codice per risolvere determinati problemi, sia a domande di natura non tec- nica, e aveva ricevuto risposte di ottima qua- lità. Un altro collega, tuttavia, aveva proposto a ChatGPT il paradosso di Russell (‘Se in un paese il barbiere è colui che rade coloro che non si radono da sé, chi rade il barbiere?’), solo per riceverne la deludente risposta ‘Il barbiere è un’attività commerciale. Vuoi pre- notare un taglio di capelli?’. Dai due aneddoti si potrebbe forse dedurre che l’AI, esattamente come noi poveri esseri umani, ha problemi con la debolezza della carne (e chi se lo sarebbe aspettato?) e con le affermazioni autocontraddittorie (non per nulla mediante la formulazione matematica di un’affermazione autocontraddittoria Kurt Gödel giunse al celeberrimo teorema di in- completezza, con le sue forti implicazioni in termini dei limiti nella capacità deduttiva di ogni algoritmo di AI). Ma, fuor d’ironia, credo che ci sia un altro aspetto importante da sot- tolineare, che ci riguarda ormai molto da vi- cino, vista la crescente adozione di tecniche di AI anche nell’ambito dell’automazione. In entrambi i racconti sicuramente stupisce il risultato inatteso, al di sotto delle aspettative (e sulle aspettative probabilmente esagerate che l’AI ha generato a più riprese nei decenni passati, molto si è già scritto...), ma in realtà tale risultato deludente era un destino già scritto nei due testi forniti all’AI, testi che per un essere umano portano con sé significati ben più profondi di quanto non si possa intu- ire dalle semplici parole che li compongono. È un po’ come inserire valori alfabetici in un campo di un form che si aspetta solo valori numerici: le conseguenze possono essere di- sastrose... Per questo in un caso del genere un programmatore accorto inserirebbe del codice di validazione degli input, in tal modo non solo evitando risultati inattesi, insoddi- sfacenti dal punto di vista della prestazione, ma soprattutto limitando il rischio che il campo diventi il pertugio attraverso il quale iniettare un cyberattacco. Ma come si valida l’input per un’AI? I due racconti mostrano come tale ‘validazione dell’input’ è ben più complessa che non il limitare i valori inseriti in un campo ai soli valori numerici. Sembrerebbe che per difen- dere un’AI da input non conformi occorra un’ulteriore meta-AI, ma essa sarebbe tut- tavia a sua volta soggetta ad altre fragilità... Strumenti più potenti forniscono risultati migliori, ma al prezzo di maggiori cautele. Quanta parte dell’informazione sull’AI è oggi bilanciata e oggettiva in tal senso? iù di venti anni fa ebbi il piacere di cono- scere Channapattana Venkata Ramayya Vishveshwara, un fisico indiano autore di con- tributi fondamentali per la comprensione dei buchi neri, ma ancor prima di ciò una persona umanamente ricca e dotata di un sottile e vi- vace senso dell’umorismo. Non molto tempo prima aveva fatto parlare di sé un nuovo programma di intelligenza artificiale, acces- sibile direttamente da Internet, in grado di tradurre in maniera stupefacente fra molte lingue. Da buon fisico, Vishveshwara decise di fare un esperimento per testarne la qua- lità dei risultati, e in particolare volle vedere se traducendo dall’inglese al tedesco e poi traducendo il risultato di nuovo in inglese, il traduttore avrebbe riproposto la fase iniziale. La fama del traduttore e l’importanza dell’e- sperimento richiedevano un testo all’altezza, e la scelta ricadde su un solenne ‘Lo spirito è forte, ma la carne è debole’. Da un certo punto di vista, il risultato della doppia tradu- zione non fu deludente: mostrando una certa La birra buona, i barbieri e la validazione degli input Sergio Galeani, Comitato tecnico di Automazione Oggi, Fieldbus&Networks, Soluzioni Software per l’Industria AUTOMAZIONE OGGI IL PUNTO P