Prerequisiti
Nozioni base di teoria degli insiemi, logica, nozione di limite, derivata e integrale, massimizzazione di funzioni di una o più variabili.
Obiettivi formativi
Conoscenza delle nozioni di base di: teoria della stima (stima a massima verosimiglianza, stima a posteriori); identificazione di modelli mediante reti neurali; processi casuali (media, autocovarianza, densità spettrale di potenza, predizione ottima); identificazione di modelli ARMAX. Capacità di risolvere problemi di identificazione e predizione a partire dalla formalizzazione del problema di identificazione fino all’uso di strumenti informatici per stimare i parametri ed effettuare simulazioni.
Programma e contenuti
La teoria dell'identificazione raggruppa un insieme di metodologie che consentono di costruire modelli matematici di sistemi e segnali a partire dalla rilevazione di dati sperimentali. In presenza di sistemi complessi il cui comportamento è difficilmente riconducibile a leggi note, il ricorso a tecniche di identificazione è spesso l'unico modo per ottenere modelli matematici da usare per la previsione, la simulazione e il controllo. I metodi presentati nel corso sono largamente applicati in settori eterogenei quali i controlli automatici, l'econometria, l'idrologia, la bioingegneria, la geofisica e le telecomunicazioni. Vengono richiamate alcune nozioni fondamentali di probabilità, teoria della stima e processi casuali. Vengono anche presentate le principali proprietà (stabilità e relazioni ingresso-uscita nel dominio del tempo e delle frequenze) dei sistemi lineari a tempo discreto. Nell'ambito dell'identificazione parametrica, ampio spazio è dedicato alla validazione dei modelli e alla scelta della loro complessità. Vengono anche illustrati e discussi alcuni metodi di identificazione basati sull'uso di reti neurali, analizzando vantaggi e svantaggi rispetto alle tecniche di identificazione tradizionali. Lo studio dei modelli dinamici affronta tre argomenti principali: la predizione ottima di processi casuali stazionari (filtraggio alla Wiener), l'identificazione di sistemi dinamici a tempo discreto e la stima spettrale (sia non parametrica che a massima entropia).
Fondamenti di calcolo delle probabilità:
nozione di probabilità;
indipendenza statistica, probabilità condizionata, teorema della probabilità totale e di Bayes;
prove di Bernoulli, eventi di Poisson;
nozione di variabile casuale (V.C.), funzione di distribuzione e densità di probabilità, funzioni di V.C.;
moda, mediana e momenti di una V.C.,
V.C. congiunte: distribuzione, densità, momenti, indipendenza, incorrelazione, funzioni di V.C. congiunte;
legge dei grandi numeri, V.C. gaussiane, teorema fondamentale della convergenza stocastica.
Fondamenti di statistica:
Nozione di stimatore, proprietà degli stimatori;
momenti campionari e loro proprietà principali
intervalli di confidenza per la media campionaria, la V.C. "t di Student"
Identificazione di modelli lineari nei parametri
Il metodo dei minimi quadrati, equazioni normali, identificabilità;
Best Linear Unbiased Estimator: stimatore, varianza dei parametri;
Validazione e scelta della complessità: test chi quadrato, test F, criteri FPE, AIC, MDL.
Teoria della stima:
il criterio della massima verosimiglianza: proprietà ed esempi;
stima "a posteriori": stimatore di Bayes;
crossvalidazione, effetti della complessità dei modelli su polarizzazione e varianza;
identificazione di modelli non lineari nei parametri.
Identificazione mediante reti neurali:
reti neurali a base radiale;
reti di percettroni;
generalizzazione, overfitting, dimensionamento delle reti.
Processi casuali e predizione ottima:
media, autocorrelazione, autocovarianza, indipendenza, incorrelazione;
rumore bianco, passeggiata casuale, processi MA, AR, ARMA, equazioni di Yule-Walker;
stazionarietà, densità spettrale di potenza, stima spettrale non parametrica;
teorema della fattorizzazione spettrale, predittore ottimo.
Identificazione di modelli dinamici:
modelli a errore di uscita, ARX, ARMAX;
l'approccio predittivo all'identificazione;
stima ai minimi quadrati di modelli ARX: analisi probabilistica, persistente eccitazione.