AS 8

Novembre - Dicembre 2024 n Automazione e Strumentazione Primo piano 16 SCENARI molecole e la correzione degli errori nelle rea- zioni biochimiche. Aveva poi indirizzato la sua attenzione sui fenomeni collettivi che si verifi- cano frequentemente nei sistemi fisici, come nel caso dei domini nei sistemi magnetici e dei vor- tici nel flusso dei fluidi. Hopfield si chiese se i fenomeni collettivi emergenti in grandi raccolte di neuroni potessero dare origine ad abilità com- putazionali; notando che le proprietà collettive in molti sistemi fisici sono robuste ai cambia- menti nei dettagli del modello, affrontò questa domanda utilizzando una rete neurale con N nodi binari e arrivò nel 1982 a pubblicare un modello dinamico per una memoria associativa basata su una semplice rete neurale ricorrente . Hopfield ha quindi utilizzato il suo modello come memo- ria associativa o come metodo per la correzione degli errori o il completamento di pattern: un sistema inizializzato con un pattern non corretto, ad esempio una parola scritta male, è attratto dal minimo di energia locale più vicino nel suo modello, per cui si verifica una correzione. Il modello ha acquisito ulteriore importanza quando è diventato chiaro che le proprietà di base, come la capacità di archiviazione, potevano essere comprese analiticamente, utilizzando metodi tratti dalla teoria del vetro di spin. Da bravo fisico teorico, Hopfield ha continuato a utilizzare il suo modello dinamico per esplorare sistemi fisici complessi e per cercare soluzioni a difficili problemi di ottimizzazione discreta; nel far questo, ha dato un contributo fondamentale alla nostra comprensione delle capacità computa- zionali delle reti neurali. È la volta di Hinton Nel periodo 1983-1985 Geoffrey Hinton , insieme a Terrence Sejnowski e altri colle- ghi, ha sviluppato un’estensione stocastica del modello di Hopfield, chiamata macchina di Boltzmann. Quello di Hinton è un modello generativo e, a differenza di quello di Hopfield, si concentra sulle distribuzioni statistiche di pattern piuttosto che sui pattern individuali. Contiene nodi visibili che corrispondono ai pattern da apprendere, nonché nodi nascosti aggiuntivi, dove questi ultimi sono inclusi per consentire la modellazione di distribuzioni di probabilità più generali. Sebbene teoricamente interessante, la mac- china di Boltzmann era inizialmente di uso limitato. Tuttavia, una sua versione ridotta con meno pesi, chiamata macchina di Boltzmann ristretta , è stata sviluppata sempre da Hinton, come vedremo, in uno strumento più versatile. Sia il modello di Hopfield che la macchina di Boltzmann sono reti neurali ricorrenti. Gli anni 80 hanno anche visto importanti progressi nelle reti feedforward. Un progresso fonda- mentale è stata la dimostrazione - da parte di Hinton stesso, con David Rumelhart e Ronald Williams nel 1986 - di come le architetture con uno o più strati nascosti potessero essere addestrate per la classificazione utilizzando Le reti neurali artificiali sono impiegate come approssimatori di funzioni, per esempio, nello studio di problemi di meccanica quantistica a molti corpi