Bayesowska regresja liniowa - Bayesian linear regression

W statystykach , Bayesa regresji liniowej jest podejście do regresji liniowej , w którym analiza statystyczna jest podejmowane w kontekście Bayesa wnioskowania . Gdy model regresji zawiera błędy, które mają rozkład normalny i jeśli założono określoną formę wcześniejszego rozkładu , dostępne są jawne wyniki dla późniejszych rozkładów prawdopodobieństwa parametrów modelu.

Konfiguracja modelu

Rozważmy standardowy regresji liniowej problem, w którym dla określamy średnią z rozkładu warunkowego w danym o wektorze predyktora : ${\ Displaystyle i = 1, \ ldots, n}$ ${\ displaystyle y_ {i}}$ ${\ Displaystyle k \ razy 1}$ ${\ displaystyle \ mathbf {x} _ {i}}$

{\ Displaystyle y_ {i} = \ mathbf {x} _ {i} ^ {\ rm {T}} {\ boldsymbol {\ beta}} + \ varepsilon _ {i},}

gdzie jest wektorem, a zmienne losowe są niezależne i mają identyczny rozkład normalny : ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ Displaystyle k \ razy 1}$ ${\ displaystyle \ varepsilon _ {i}}$

{\ Displaystyle \ varepsilon _ {i} \ sim N (0, \ sigma ^ {2}).}

Odpowiada to następującej funkcji prawdopodobieństwa :

{\ Displaystyle \ rho (\ mathbf {r} \ mid \ mathbf {X}, {\ boldsymbol {\ beta}}, \ sigma ^ {2}) \ propto (\ sigma ^ {2}) ^ {- n / 2} \ exp \ left (- {\ frac {1} {2 \ sigma ^ {2}}} (\ mathbf {y} - \ mathbf {X} {\ boldsymbol {\ beta}}) ^ {\ rm { T}} (\ mathbf {y} - \ mathbf {X} {\ boldsymbol {\ beta}}) \ right).}

Zwykłe kwadraty najmniej Roztwór ten jest stosowany w celu oszacowania wektora współczynnik pomocą pseudoinverse Moore-Penrose :

{\ Displaystyle {\ kapelusz {\ boldsymbol {\ beta}}} = (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X}) ^ {- 1} \ mathbf {X} ^ {\ rm {T}} \ mathbf {y}}

gdzie jest macierz projektowa , której każdy wiersz jest wektorem predykcyjnym ; i jest kolumną -vector . ${\ displaystyle \ mathbf {X}}$ ${\ Displaystyle n \ razy (k + 1)}$ ${\ displaystyle \ mathbf {x} _ {i} ^ {\ rm {T}}}$ ${\ displaystyle \ mathbf {y}}$ ${\ displaystyle n}$ ${\ Displaystyle [y_ {1} \; \ cdots \; y_ {n}] ^ {\ rm {T}}}$

Jest to podejście częste i zakłada, że jest wystarczająco dużo pomiarów, aby powiedzieć o czymś sensownym . W podejściu bayesowskim dane są uzupełniane dodatkowymi informacjami w postaci wcześniejszego rozkładu prawdopodobieństwa . Wcześniejsze przekonanie o parametrach jest łączone z funkcją wiarygodności danych zgodnie z twierdzeniem Bayesa, aby uzyskać późniejsze przekonanie o parametrach i . Przeor może przybierać różne formy funkcjonalne w zależności od domeny i informacji, które są dostępne a priori . ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ displaystyle \ sigma}$

Ze sprzężonymi poprzednikami

Koniuguj wcześniejszą dystrybucję

W przypadku arbitralnej, wcześniejszej dystrybucji, może nie być analitycznego rozwiązania dla późniejszej dystrybucji . W tej części rozważymy tak zwany koniugat, dla którego można analitycznie wyprowadzić rozkład późniejszy.

Przeor jest sprzężony z tą funkcją prawdopodobieństwa, jeśli ma tę samą postać funkcjonalną w odniesieniu do i . Ponieważ logarytm prawdopodobieństwa jest kwadratowy , logarytm prawdopodobieństwa jest ponownie zapisywany w taki sposób, że prawdopodobieństwo staje się normalne w . pisać ${\ Displaystyle \ rho ({\ boldsymbol {\ beta}}, \ sigma ^ {2})}$ ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ displaystyle \ sigma}$ ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ Displaystyle ({\ boldsymbol {\ beta}} - {\ kapelusz {\ boldsymbol {\ beta}}})}$

{\ Displaystyle (\ mathbf {r} - \ mathbf {X} {\ boldsymbol {\ beta}}) ^ {\ rm {T}} (\ mathbf {y} - \ mathbf {X} {\ boldsymbol {\ beta }}) = (\ mathbf {y} - \ mathbf {X} {\ hat {\ boldsymbol {\ beta}}}) ^ {\ rm {T}} (\ mathbf {y} - \ mathbf {X} { \ hat {\ boldsymbol {\ beta}}}) + ({\ boldsymbol {\ beta}} - {\ hat {\ boldsymbol {\ beta}}}) ^ {\ rm {T}} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X}) ({\ boldsymbol {\ beta}} - {\ hat {\ boldsymbol {\ beta}}}).}

Prawdopodobieństwo zostało teraz ponownie zapisane jako

{\ Displaystyle \ rho (\ mathbf {r} | \ mathbf {X}, {\ boldsymbol {\ beta}}, \ sigma ^ {2}) \ propto (\ sigma ^ {2}) ^ {- {\ frac {v} {2}}} \ exp \ left (- {\ frac {vs ^ {2}} {2 {\ sigma} ^ {2}}} \ right) (\ sigma ^ {2}) ^ {- {\ frac {nv} {2}}} \ exp \ left (- {\ frac {1} {2 {\ sigma} ^ {2}}} ({\ boldsymbol {\ beta}} - {\ hat {\ boldsymbol {\ beta}}}) ^ {\ rm {T}} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X}) ({\ boldsymbol {\ beta}} - {\ hat { \ boldsymbol {\ beta}}}) \ right),}

gdzie

{\ Displaystyle vs ^ {2} = (\ mathbf {y} - \ mathbf {X} {\ kapelusz {\ boldsymbol {\ beta}}}) ^ {\ rm {T}} (\ mathbf {y} - \ mathbf {X} {\ hat {\ boldsymbol {\ beta}}}) \ quad {\ text {i}} \ quad v = nk,}

gdzie jest liczbą współczynników regresji. ${\ displaystyle k}$

Sugeruje to formę dla przeora:

{\ Displaystyle \ rho ({\ boldsymbol {\ beta}}, \ sigma ^ {2}) = \ rho (\ sigma ^ {2}) \ rho ({\ boldsymbol {\ beta}} \ mid \ sigma ^ { 2}),}

gdzie jest odwrotna dystrybucja gamma ${\ Displaystyle \ rho (\ sigma ^ {2})}$

{\ Displaystyle \ rho (\ sigma ^ {2}) \ propto (\ sigma ^ {2}) ^ {- {\ Frac {v_ {0}} {2}} - 1} \ exp \ left (- {\ frac {v_ {0} s_ {0} ^ {2}} {2 \ sigma ^ {2}}} \ right).}

W notacji wprowadzonego do dystrybucji odwrotny gamma wyrobu, to jest, że gęstość jego rozkładu o a z a co wcześniejszych wartości i , odpowiednio. Równoważnie można go również opisać jako skalowany odwrotny rozkład chi kwadrat , ${\ displaystyle {\ text {Inv-Gamma}} (a_ {0}, b_ {0})}$ ${\ displaystyle a_ {0} = {\ tfrac {v_ {0}} {2}}}$ ${\ displaystyle b_ {0} = {\ tfrac {1} {2}} v_ {0} s_ {0} ^ {2}}$ ${\ displaystyle v_ {0}}$ ${\ Displaystyle s_ {0} ^ {2}}$ ${\ displaystyle v}$ ${\ Displaystyle s ^ {2}}$ ${\ Displaystyle {\ text {Inv Scale -}} \ chi ^ {2} (v_ {0}, s_ {0} ^ {2}).}$

Ponadto warunkowa poprzednia gęstość jest rozkładem normalnym , ${\ Displaystyle \ rho ({\ boldsymbol {\ beta}} | \ sigma ^ {2})}$

{\ Displaystyle \ rho ({\ boldsymbol {\ beta}} \ mid \ sigma ^ {2}) \ propto (\ sigma ^ {2}) ^ {- k / 2} \ exp \ lewo (- {\ Frac { 1} {2 \ sigma ^ {2}}} ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {0}) ^ {\ rm {T}} \ mathbf {\ Lambda} _ {0} ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {0}) \ right).}

W zapisie rozkładu normalnego warunkowy rozkład poprzedni to ${\ Displaystyle {\ mathcal {N}} \ lewo ({\ boldsymbol {\ mu}} _ {0}, \ sigma ^ {2} \ mathbf {\ Lambda} _ {0} ^ {- 1} \ po prawej) .}$

Dystrybucja tylna

Po określeniu wcześniejszego rozkładu późniejszego można wyrazić jako

{\ Displaystyle {\ rozpocząć {wyrównane} \ rho ({\ boldsymbol {\ beta}}, \ sigma ^ {2} \ mid \ mathbf {y}, \ mathbf {X}) & \ propto \ rho (\ mathbf { y} \ mid \ mathbf {X}, {\ boldsymbol {\ beta}}, \ sigma ^ {2}) \ rho ({\ boldsymbol {\ beta}} \ mid \ sigma ^ {2}) \ rho (\ sigma ^ {2}) \\ & \ propto (\ sigma ^ {2}) ^ {- n / 2} \ exp \ left (- {\ frac {1} {2 {\ sigma} ^ {2}}} (\ mathbf {y} - \ mathbf {X} {\ boldsymbol {\ beta}}) ^ {\ rm {T}} (\ mathbf {y} - \ mathbf {X} {\ boldsymbol {\ beta}}) \ right) (\ sigma ^ {2}) ^ {- k / 2} \ exp \ left (- {\ frac {1} {2 \ sigma ^ {2}}} ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {0}) ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {0} ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu} } _ {0}) \ right) (\ sigma ^ {2}) ^ {- (a_ {0} +1)} \ exp \ left (- {\ frac {b_ {0}} {\ sigma ^ {2 }}} \ right) \ end {aligned}}}

Po pewnym ponownym ułożeniu, późniejsze można zapisać ponownie, tak aby późniejsza średnia wektora parametrów mogła być wyrażona w postaci estymatora najmniejszych kwadratów i wcześniejszej średniej , z siłą poprzedniej wskazaną przez poprzednią macierz precyzji ${\ displaystyle {\ boldsymbol {\ mu}} _ {n}}$ ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ displaystyle {\ hat {\ boldsymbol {\ beta}}}}$ ${\ displaystyle {\ boldsymbol {\ mu}} _ {0}}$ ${\ displaystyle {\ boldsymbol {\ Lambda}} _ {0}}$

{\ Displaystyle {\ boldsymbol {\ mu}} _ {n} = (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + {\ boldsymbol {\ Lambda}} _ {0}) ^ {-1} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} {\ hat {\ boldsymbol {\ beta}}} + {\ boldsymbol {\ Lambda}} _ {0} {\ boldsymbol {\ mu}} _ {0}).}

Aby uzasadnić, że jest to rzeczywiście późniejsza średnia, wyrażenia kwadratowe w wykładnictwie można przeorganizować w formę kwadratową w . ${\ displaystyle {\ boldsymbol {\ mu}} _ {n}}$ ${\ Displaystyle {\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {n}}$

{\ Displaystyle (\ mathbf {r} - \ mathbf {X} {\ boldsymbol {\ beta}}) ^ {\ rm {T}} (\ mathbf {y} - \ mathbf {X} {\ boldsymbol {\ beta }}) + ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {0}) ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {0} ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {0}) = ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {n}) ^ {\ rm {T }} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + {\ boldsymbol {\ Lambda}} _ {0}) ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {n}) + \ mathbf {y} ^ {\ rm {T}} \ mathbf {y} - {\ boldsymbol {\ mu}} _ {n} ^ {\ rm {T}} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + {\ boldsymbol {\ Lambda}} _ {0}) {\ boldsymbol {\ mu}} _ {n} + {\ boldsymbol {\ mu }} _ {0} ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {0} {\ boldsymbol {\ mu}} _ {0}.}

Teraz a posterior można wyrazić jako rozkład normalny pomnożony przez odwrotny rozkład gamma :

{\ Displaystyle \ rho ({\ boldsymbol {\ beta}}, \ sigma ^ {2} \ mid \ mathbf {y}, \ mathbf {X}) \ propto (\ sigma ^ {2}) ^ {- k / 2} \ exp \ left (- {\ frac {1} {2 {\ sigma} ^ {2}}} ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {n}) ^ {\ rm {T}} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + \ mathbf {\ Lambda} _ {0}) ({\ boldsymbol {\ beta}} - {\ boldsymbol {\ mu}} _ {n}) \ right) (\ sigma ^ {2}) ^ {- {\ frac {n + 2a_ {0}} {2}} - 1} \ exp \ left (- { \ frac {2b_ {0} + \ mathbf {y} ^ {\ rm {T}} \ mathbf {y} - {\ boldsymbol {\ mu}} _ {n} ^ {\ rm {T}} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + {\ boldsymbol {\ Lambda}} _ {0}) {\ boldsymbol {\ mu}} _ {n} + {\ boldsymbol {\ mu} } _ {0} ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {0} {\ boldsymbol {\ mu}} _ {0}} {2 \ sigma ^ {2}}} \ right ).}

Dlatego rozkład a posteriori można sparametryzować w następujący sposób.

{\ Displaystyle \ rho ({\ boldsymbol {\ beta}}, \ sigma ^ {2} \ mid \ mathbf {y}, \ mathbf {X}) \ propto \ rho ({\ boldsymbol {\ beta}} \ mid \ sigma ^ {2}, \ mathbf {y}, \ mathbf {X}) \ rho (\ sigma ^ {2} \ mid \ mathbf {y}, \ mathbf {X}),}

gdzie dwa czynniki odpowiadają gęstościom i rozkładom, z parametrami tych podanymi przez ${\ Displaystyle {\ mathcal {N}} \ lewo ({\ boldsymbol {\ mu}} _ {n}, \ sigma ^ {2} {\ boldsymbol {\ Lambda}} _ {n} ^ {- 1} \ dobrze)\,}$ ${\ Displaystyle {\ tekst {Inv-Gamma}} \ lewo (a_ {n}, b_ {n} \ prawo)}$

{\ Displaystyle {\ boldsymbol {\ Lambda}} _ {n} = (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + \ mathbf {\ Lambda} _ {0}), \ quad {\ boldsymbol {\ mu}} _ {n} = ({\ boldsymbol {\ Lambda}} _ {n}) ^ {- 1} (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X } {\ hat {\ boldsymbol {\ beta}}} + {\ boldsymbol {\ Lambda}} _ {0} {\ boldsymbol {\ mu}} _ {0}),}

{\ Displaystyle a_ {n} = a_ {0} + {\ Frac {n} {2}}, \ qquad b_ {n} = b_ {0} + {\ Frac {1} {2}} (\ mathbf { y} ^ {\ rm {T}} \ mathbf {y} + {\ boldsymbol {\ mu}} _ {0} ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {0} {\ boldsymbol {\ mu}} _ {0} - {\ boldsymbol {\ mu}} _ {n} ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {n} {\ boldsymbol {\ mu} } _ {n.}).}

Można to zinterpretować jako uczenie bayesowskie, w którym parametry są aktualizowane zgodnie z poniższymi równaniami.

{\ Displaystyle {\ boldsymbol {\ mu}} _ {n} = (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + {\ boldsymbol {\ Lambda}} _ {0}) ^ {-1} ({\ boldsymbol {\ Lambda}} _ {0} {\ boldsymbol {\ mu}} _ {0} + \ mathbf {X} ^ {\ rm {T}} \ mathbf {X} {\ kapelusz {\ boldsymbol {\ beta}}}),}

{\ Displaystyle {\ boldsymbol {\ Lambda}} _ {n} = (\ mathbf {X} ^ {\ rm {T}} \ mathbf {X} + {\ boldsymbol {\ Lambda}} _ {0}), }

{\ displaystyle a_ {n} = a_ {0} + {\ frac {n} {2}},}

{\ Displaystyle b_ {n} = b_ {0} + {\ Frac {1} {2}} (\ mathbf {y} ^ {\ rm {T}} \ mathbf {y} + {\ boldsymbol {\ mu} } _ {0} ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {0} {\ boldsymbol {\ mu}} _ {0} - {\ boldsymbol {\ mu}} _ {n} ^ {\ rm {T}} {\ boldsymbol {\ Lambda}} _ {n} {\ boldsymbol {\ mu}} _ {n}).}

Wzorcowe dowody

Modelu dowodem jest prawdopodobieństwo danych podanych modelu . Jest również znane jako prawdopodobieństwo krańcowe i poprzednia gęstość predykcyjna . Tutaj model jest definiowany przez funkcję wiarygodności i wcześniejszy rozkład parametrów, tj . Dowody modelowe wychwytują w jednej liczbie, jak dobrze taki model wyjaśnia obserwacje. Dowody modelu Bayesowskiego modelu regresji liniowej przedstawione w tej sekcji można wykorzystać do porównania konkurujących modeli liniowych przez porównanie modeli bayesowskich . Modele te mogą różnić się liczbą i wartościami zmiennych predykcyjnych, a także ich wyprzedzeniem względem parametrów modelu. Złożoność modelu jest już brana pod uwagę przez dowody modelu, ponieważ marginalizuje parametry poprzez całkowanie wszystkich możliwych wartości i . ${\ Displaystyle p (\ mathbf {y} \ mid m)}$ ${\ displaystyle m}$ ${\ Displaystyle p (\ mathbf {y} \ mid \ mathbf {X}, {\ boldsymbol {\ beta}}, \ sigma)}$ ${\ Displaystyle p ({\ boldsymbol {\ beta}}, \ sigma)}$ ${\ Displaystyle p (\ mathbf {y}, {\ boldsymbol {\ beta}}, \ sigma \ mid \ mathbf {X})}$ ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ displaystyle \ sigma}$

{\ Displaystyle p (\ mathbf {r} | m) = \ int p (\ mathbf {r} \ mid \ mathbf {X}, {\ boldsymbol {\ beta}}, \ sigma) \, p ({\ boldsymbol {\ beta}}, \ sigma) \, d {\ boldsymbol {\ beta}} \, d \ sigma}

Całkę tę można obliczyć analitycznie, a rozwiązanie podano w poniższym równaniu.

{\ Displaystyle p (\ mathbf {r} \ mid m) = {\ Frac {1} {(2 \ pi) ^ {n / 2}}} {\ sqrt {\ Frac {\ det ({\ boldsymbol {\ Lambda}} _ {0})} {\ det ({\ boldsymbol {\ Lambda}} _ {n})}}} \ cdot {\ frac {b_ {0} ^ {a_ {0}}} {b_ { n} ^ {a_ {n}}}} \ cdot {\ frac {\ Gamma (a_ {n})} {\ Gamma (a_ {0})}}}

Tutaj oznacza funkcję gamma . Ponieważ wcześniej wybraliśmy koniugat, prawdopodobieństwo krańcowe można również łatwo obliczyć, oceniając następującą równość dla dowolnych wartości i . ${\ displaystyle \ Gamma}$ ${\ displaystyle {\ boldsymbol {\ beta}}}$ ${\ displaystyle \ sigma}$

{\ Displaystyle p (\ mathbf {r} \ mid m) = {\ Frac {p ({\ boldsymbol {\ beta}}, \ sigma | m) \, p (\ mathbf {y} \ mid \ mathbf {X }, {\ boldsymbol {\ beta}}, \ sigma, m)} {p ({\ boldsymbol {\ beta}}, \ sigma \ mid \ mathbf {y}, \ mathbf {X}, m)}}

Zauważ, że to równanie jest niczym innym jak ponownym ułożeniem twierdzenia Bayesa . Wstawienie wzorów na wcześniejsze, prawdopodobieństwo i późniejsze oraz uproszczenie wynikowego wyrażenia prowadzi do wyrażenia analitycznego podanego powyżej.

Inne przypadki

Ogólnie rzecz biorąc, analityczne wyznaczenie późniejszego rozkładu może być niemożliwe lub niepraktyczne. Możliwe jest jednak przybliżenie późniejszego za pomocą przybliżonej metody wnioskowania bayesowskiego , takiej jak próbkowanie Monte Carlo lub wariacyjny Bayes .

Szczególny przypadek nazywa się regresją kalenicy . ${\ Displaystyle {\ boldsymbol {\ mu}} _ {0} = 0, \ mathbf {\ Lambda} _ {0} = c \ mathbf {I}}$

Podobną analizę można przeprowadzić dla ogólnego przypadku regresji wielowymiarowej, a część z nich przewiduje bayesowskie estymacje macierzy kowariancji : patrz Bayesowska wielowymiarowa regresja liniowa .

Zobacz też

Uwagi

Bibliografia

Pudełko, GEP ; Tiao, GC (1973). Wnioskowanie bayesowskie w analizie statystycznej . Wiley. ISBN 0-471-57428-7 .
Carlin, Bradley P .; Louis, Thomas A. (2008). Bayesian Methods for Data Analysis, wydanie trzecie . Boca Raton, FL: Chapman and Hall / CRC. ISBN 1-58488-697-8 .
Fahrmeir, L .; Kneib, T .; Lang, S. (2009). Regresja. Modelle, Methoden und Anwendungen (wyd. Drugie). Heidelberg: Springer. doi : 10.1007 / 978-3-642-01837-4 . ISBN 978-3-642-01836-7 .
Fornalski KW; Parzych G .; Pylak M .; Satuła D .; Dobrzyński L. (2010). „Zastosowanie rozumowania bayesowskiego i metody maksymalnej entropii do niektórych problemów rekonstrukcji” . Acta Physica Polonica . 117 (6): 892–899. doi : 10.12693 / APhysPolA.117.892 .
Fornalski, Krzysztof W. (2015). „Zastosowania solidnej analizy regresji bayesowskiej”. International Journal of Society Systems Science . 7 (4): 314–333. doi : 10.1504 / IJSSS.2015.073223 .
Gelman, Andrew ; Carlin, John B .; Stern, Hal S .; Rubin, Donald B. (2003). Bayesian Data Analysis, wydanie drugie . Boca Raton, FL: Chapman and Hall / CRC. ISBN 1-58488-388-X .
Goldstein, Michael; Wooff, David (2007). Statystyka liniowa Bayesa, teoria i metody . Wiley. ISBN 978-0-470-01562-9 .
Minka, Thomas P. (2001) Bayesian Linear Regression , strona badawcza firmy Microsoft
Rossi, Peter E .; Allenby, Greg M .; McCulloch, Robert (2006). Statystyki Bayesa i marketing . John Wiley & Sons. ISBN 0470863676 .
O'Hagan, Anthony (1994). Wnioskowanie bayesowskie . Zaawansowana teoria statystyki Kendalla. 2B (pierwsze wyd.). Halsted. ISBN 0-340-52922-9 .
Sivia, DS; Umiejętności, J. (2006). Analiza danych - samouczek Bayesa (wyd. Drugie). Oxford University Press.
Walter, Gero; Augustin, Thomas (2009). „Bayesowska regresja liniowa - różne modele sprzężone i ich (nie) wrażliwość na konflikt danych wcześniejszych” (PDF) . Raport techniczny nr 069, Wydział Statystyki Uniwersytetu Monachijskiego .

Linki zewnętrzne

Estymacja bayesowska modeli liniowych (wikibook programowania R) . Bayesa regresji liniowej wprowadzone w R .

Languages

In other projects