En estadística, la regressió lineal multivariant bayesiana és un enfocament bayesià de la regressió lineal multivariant, és a dir, una regressió lineal on el resultat predit és un vector de variables aleatòries correlacionades en lloc d'una única variable aleatòria escalar. Un tractament més general d'aquest plantejament es pot trobar a l'article Estimador MMSE.

Detalls miniatura|Punts de dades aleatoris i la seva regressió lineal. Considerem un problema de regressió on la variable dependent a predir no és un únic escalar amb valor real, sinó un vector de longitud m de nombres reals correlacionats. Com en la configuració de regressió estàndard, hi ha n observacions, on cada observació i consta de k −1 variables explicatives, agrupades en un vector de longitud k (on s'ha afegit una variable fictícia amb valor d'1 per permetre un coeficient d'intersecció). Això es pot veure com un conjunt de m problemes de regressió relacionats per a cada observació i: on el conjunt d'errors estan tots correlacionats. De manera equivalent, es pot veure com un problema de regressió única on el resultat és un vector de files i els vectors de coeficients de regressió s'apilen un al costat de l'altre, de la següent manera:

La matriu de coeficients B és una matriu on els vectors de coeficients per a cada problema de regressió s'apilen horitzontalment: El vector de soroll

per a cada observació i és conjuntament normal, de manera que els resultats per a una observació donada estan correlacionats:

Podem escriure tot el problema de regressió en forma matricial com: on Y i E són matrius. La matriu de disseny X és una matriu amb les observacions apilades verticalment, com en la configuració estàndard de regressió lineal: La solució clàssica de mínims quadrats lineals freqüentistes és simplement estimar la matriu de coeficients de regressió

utilitzant el pseudoinvers de Moore-Penrose:

Per obtenir la solució bayesiana, cal especificar la probabilitat condicional i després trobar la inicial conjugada adequada. Igual que amb el cas univariant de la regressió bayesiana lineal, trobarem que podem especificar una funció a priori conjugada condicional natural (que depèn de l'escala).

Escrivim la nostra probabilitat condicional com a escrivint l'error en termes de i rendiments

Busquem un conjugat a priori natural: una densitat conjunta que té la mateixa forma funcional que la probabilitat. Com que la probabilitat és quadràtica en , reescrivim la probabilitat de manera que sigui normal en (la desviació de l'estimació mostral clàssica).

Utilitzant la mateixa tècnica que amb la regressió lineal bayesiana, descomponem el terme exponencial utilitzant una forma matricial de la tècnica de suma de quadrats. Aquí, però, també haurem d'utilitzar el càlcul diferencial matricial (producte de Kronecker i transformacions de vectorització).

Primer, apliquem la suma de quadrats per obtenir una nova expressió per a la probabilitat: Volem desenvolupar una forma condicional per als a priori:

on és una distribució inversa de Wishart i és alguna forma de distribució normal a la matriu . Això s'aconsegueix mitjançant la transformació de vectorització, que converteix la probabilitat d'una funció de les matrius a una funció dels vectors

Escriure Sigui

on denota el producte de Kronecker de les matrius A i B, una generalització del producte exterior que multiplica un matriu per una matriu per generar una matriu, que consisteix en cada combinació de productes d'elements de les dues matrius.

Aleshores la qual cosa conduirà a una probabilitat que és normal en .

Amb la probabilitat en una forma més tractable, ara podem trobar una conjugació a priori natural (condicional).

Referències

Categoria:Estadística multivariant