Un modello semiparametrico è un tipo di modello statistico, spesso usato nell'apprendimento automatico, che combina componenti parametriche (con numero finito e fisso di parametri) e componenti non parametriche (con numero di parametri potenzialmente infinito dipendente dalla dimensione del campione).
Questo approccio si colloca come compromesso ideale tra la rigidità strutturale e semplicità (interpretabilità) dei modelli parametrici e la flessibilità, in mancanza di assunzioni forti sulle distribuzioni, dei modelli non parametrici.
Definizione
Sia un campione di variabili casuali indipendenti e identicamente distribuite (i.i.d.) generate da una distribuzione congiunta descritta da un modello statistico .
Un modello si dice semiparametrico se lo spazio dei parametri associato a può essere decomposto nel prodotto cartesiano di due sottospazi:
dove: è il vettore dei parametri di interesse (di dimensione finita ). è il parametro di disturbo (o nuisance parameter), appartenente a uno spazio funzionale di dimensione infinita (ad esempio, lo spazio delle funzioni continue, crescenti o di densità di probabilità).
Il problema principale nell'inferenza semiparametrica consiste nello stimare in modo efficiente il parametro in presenza del parametro (non parametrico) oppure nel predire la risposta mantenendo l'interpretabilità dei parametri di interesse.
Esempi classici
Modello a rischi proporzionali di Cox Utilizzato nell'analisi di sopravvivenza, il modello, sviluppato da David Cox, descrive la funzione di rischio istantaneo al tempo dato un vettore di covariate :
componente parametrica: , stimato mediante la verosimiglianza parziale (partial likelihood); componente non parametrica: , la funzione di rischio di base (baseline hazard), la quale non assume alcuna forma analitica prefissata (come, ad es., la Weibull o l'esponenziale).
Modello additivo parziale Nella regressione, il modello additivo parziale estende il modello lineare classico introducendo una componente non lineare su una o più variabili continue:
dove: e sono vettori di covariate. è il vettore dei coefficienti lineari da stimare. è una funzione liscia (smooth) sconosciuta da stimare tramite tecniche non parametriche (come spline o stimatori con kernel). è un errore casuale a media nulla e varianza .
Modello ad indice singolo Utilizzato frequentemente in econometria e per la riduzione della dimensionalità nell'apprendimento automatico, definisce la risposta condizionata come:
componente parametrica: la combinazione lineare dei regressori ; componente non parametrica: la funzione di legame (link function) , assumendo soltanto proprietà di regolarità (ad es. la derivabilità) e non una forma analitica rigida come nei modelli lineari generalizzati (GLM).
Stima efficiente semiparametrica
L'inferenza nei modelli semiparametrici poggia su concetti avanzati della teoria asintotica e della teoria dell'efficienza semiparametrica, sviluppati nella letteratura scientifica riguardante l'efficienza statistica:
Score efficiente e funzione d'influenza In presenza del parametro di disturbo di dimensione infinita, la funzione di score ordinaria per viene proiettata sullo spazio ortogonale allo spazio tangente generato da . Tale proiezione prende il nome di score efficiente .
La matrice di informazione di Fisher efficiente per è definita come:
Se uno stimatore soddisfa la condizione di normalità asintotica con varianza-limite pari all'inverso della matrice:
lo stimatore viene detto semiparametricamente efficiente.
Vantaggi e limitazioni
Vantaggi Flessibilità: riduce il rischio di errore di specifica del modello (misspecification bias) legato a ipotesi arbitrarie sui parametri; Interpretabilità: mantiene la struttura parametrica sui regressori primari, facilitando l'interpretazione causale o marginale dei coefficienti ; Superamento della maledizione della dimensionalità: modellando solo un sottoinsieme di variabili in modo non parametrico si evita il rapido deterioramento delle prestazioni tipico dei modelli completamente non parametrici in spazi ad alta dimensionalità.
Limitazioni Complessità computazionale: la stima simultanea o iterativa della componente parametrica e non parametrica richiede algoritmi intensivi (ad es. metodi di verosimiglianza di profilo, backfitting o approcci EM); Teoria asintotica complessa: le dimostrazioni di consistenza e di normalità asintotica richiedono strumenti avanzati della teoria dei processi empirici e della convergenza della misura.
Note
Voci correlate Statistica parametrica Statistica non parametrica Analisi di sopravvivenza Funzione spline Maledizione della dimensionalità
Categoria:Statistica Categoria:Apprendimento automatico Categoria:Econometria