Rekurencyjna estymacja bayesowska - Recursive Bayesian estimation

W teorii prawdopodobieństwa , statystyki i uczenia maszynowego , rekurencyjnego Twierdzenia Bayesa , znany również jako filtr Bayesa , to ogólny probabilistyczny podejście do szacowania nieznanej funkcji gęstości prawdopodobieństwa ( PDF ) rekurencyjnie w czasie za pomocą pomiarów przychodzących i model matematyczny procesu. Proces ten w dużej mierze opiera się na koncepcjach i modelach matematycznych, które są opracowywane w ramach badania prawdopodobieństw wcześniejszych i późniejszych, znanych jako statystyka bayesowska .

W robotyce

Filtr Bayesa to algorytm używany w informatyce do obliczania prawdopodobieństwa wielu przekonań, aby umożliwić robotowi wywnioskowanie jego pozycji i orientacji. Zasadniczo filtry Bayesa umożliwiają robotom ciągłe aktualizowanie ich najbardziej prawdopodobnej pozycji w układzie współrzędnych, na podstawie ostatnio uzyskanych danych z czujników. To jest algorytm rekurencyjny. Składa się z dwóch części: przewidywania i innowacji. Jeśli zmienne mają rozkład normalny, a przejścia są liniowe, filtr Bayesa staje się równy filtrowi Kalmana .

W prostym przykładzie robot poruszający się po siatce może mieć kilka różnych czujników, które dostarczają mu informacji o jego otoczeniu. Robot może wystartować z pewnością, że znajduje się na pozycji (0,0). Jednak w miarę jak robot porusza się coraz dalej od swojej pierwotnej pozycji, robot ma coraz mniej pewności co do swojej pozycji; przy użyciu filtra Bayesa do przekonania robota o jego aktualnej pozycji można przypisać prawdopodobieństwo, które może być stale aktualizowane na podstawie dodatkowych informacji z czujnika.

Model

Zakłada się, że stan prawdziwy jest nieobserwowanym procesem Markowa , a pomiary są obserwacjami modelu ukrytego Markowa (HMM). Poniższy rysunek przedstawia sieć bayesowską HMM. ${\displaystyle x}$${\displaystyle z}$

Ze względu na założenie Markowa prawdopodobieństwo aktualnego stanu rzeczywistego przy danym bezpośrednio poprzedzającym jest warunkowo niezależne od innych stanów wcześniejszych.

${\ Displaystyle p ({\ textbf {x}} _ {k} | {\ textbf {x}} _ {k-1}, {\ textbf {x}} _ {k-2}, \ kropki, {\ textbf {x}}_{0})=p({\textbf {x}}_{k}|{\textbf {x}}_{k-1})}$

Podobnie, pomiar w k-tym kroku czasowym zależy tylko od aktualnego stanu, więc jest warunkowo niezależny od wszystkich innych stanów przy danym stanie bieżącym.

${\ Displaystyle p ({\ textbf {z}} _ {k} | {\ textbf {x}} _ {k}, {\ textbf {x}} _ {k-1}, \ kropki, {\ textbf { x}}_{0})=p({\textbf {z}}_{k}|{\textbf {x}}_{k})}$

Korzystając z tych założeń, rozkład prawdopodobieństwa we wszystkich stanach HMM można zapisać po prostu jako:

${\ Displaystyle p ({\ textbf {x}} _ {0}, \ kropki, {\ textbf {x}} _ {k}, {\ textbf {z}} _ {1}, \ kropki, {\ textbf {z}}_{k})=p({\textbf {x}}_{0})\prod _{i=1}^{k}p({\textbf {z}}_{i}| {\textbf {x}}_{i})p({\textbf {x}}_{i}|{\textbf {x}}_{i-1}).}$

Jednakże, gdy stosuje się filtr Kalmana do oszacowania stanu x , interesujący rozkład prawdopodobieństwa jest powiązany z bieżącymi stanami uwarunkowanymi pomiarami aż do bieżącego kroku czasowego. (Uzyskuje się to poprzez marginalizowanie poprzednich stanów i dzielenie przez prawdopodobieństwo zestawu pomiarowego.)

Prowadzi to do przewidywania i aktualizacji etapów filtru Kalmana zapisanego probabilistycznie. Rozkład prawdopodobieństwa związany z przewidywanym stanem jest sumą (całką) iloczynów rozkładu prawdopodobieństwa związanego z przejściem z ( k -1)-tego kroku czasowego do k -tego oraz rozkładu prawdopodobieństwa związanego z poprzednim stanem, ponad wszystkie możliwe . ${\ Displaystyle x_ {k-1}}$

${\ Displaystyle p ({\ textbf {x}} _ {k} | {\ textbf {z}} _ {1: k-1}) = \ int p ({\ textbf {x}} _ {k} | {\textbf {x}}_{k-1})p({\textbf {x}}_{k-1}|{\textbf {z}}_{1:k-1})\,d{ \textbf {x}}_{k-1}}$

Rozkład prawdopodobieństwa aktualizacji jest proporcjonalny do iloczynu prawdopodobieństwa pomiaru i stanu przewidywanego.

${\ Displaystyle p ({\ textbf {x}} _ {k} | {\ textbf {z}} _ {1: k}) = {\ Frac {p ({\ textbf {z}} _ {k} | {\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})}{p({\textbf { z}}_{k}|{\textbf {z}}_{1:k-1})}}\propto p({\textbf {z}}_{k}|{\textbf {x}}_ {k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})}$

Mianownik

${\ Displaystyle p ({\ textbf {z}} _ {k} | {\ textbf {z}} _ {1: k-1}) = \ int p ({\ textbf {z}} _ {k} | {\textbf {x}}_{k})p({\textbf {x}}_{k}|{\textbf {z}}_{1:k-1})d{\textbf {x}} _{k}}$

jest stała względem , więc zawsze możemy ją zastąpić współczynnikiem , który w praktyce zwykle można zignorować. Licznik można obliczyć, a następnie po prostu znormalizować, ponieważ jego całka musi być jednością. ${\displaystyle x}$${\ Displaystyle \ alfa}$

Aplikacje

• Filtr Kalmana , rekurencyjny filtr bayesowski dla wielowymiarowych rozkładów normalnych
• Filtr cząstek , technika sekwencyjna oparta na Monte Carlo (SMC), która modeluje plik PDF przy użyciu zestawu dyskretnych punktów
• Estymatory oparte na siatce, które dzielą plik PDF na deterministyczną dyskretną siatkę

Sekwencyjne filtrowanie bayesowskie

Sekwencyjne filtrowanie bayesowskie jest rozszerzeniem estymacji bayesowskiej dla przypadku, gdy obserwowana wartość zmienia się w czasie. Jest to metoda oszacowania rzeczywistej wartości obserwowanej zmiennej, która ewoluuje w czasie.

Metoda nosi nazwę:

filtracja

przy szacowaniu aktualnej wartości z uwagi na przeszłe i aktualne obserwacje,

wygładzanie

przy szacowaniu przeszłych wartości biorąc pod uwagę przeszłe i aktualne obserwacje oraz

Prognoza

przy szacowaniu prawdopodobnej przyszłej wartości na podstawie obserwacji przeszłych i bieżących.

Pojęcie sekwencyjnego filtrowania bayesowskiego jest szeroko stosowane w sterowaniu i robotyce .

Zewnętrzne linki

• Arulampalam, M. Sanjeev; Maskell, Szymon; Gordon, Neil (2002). „Samouczek na filtry cząstek dla on-line nieliniowego / niegaussowskiego śledzenia Bayesa”. Transakcje IEEE dotyczące przetwarzania sygnałów . 50 (2): 174–188. CiteSeerX  10.1.1.117.1144 . doi : 10.1109/78.978374 .
• Burkhart, Michael C. (2019). „Rozdział 1. Przegląd filtrowania bayesowskiego”. Dyskryminacyjne podejście do filtrowania bayesowskiego z aplikacjami do dekodowania neuronowego człowieka . Providence, RI, USA: Brown University. doi : 10.26300/nhfp-xv22 .
• Chen, Zhe Sage (2003). „Filtrowanie bayesowskie: od filtrów Kalmana do filtrów cząstek i nie tylko”. Statystyka: czasopismo statystyki teoretycznej i stosowanej . 182 (1): 1-69.
• Diard, Julien; Bessiere, Pierre; Mazer, Emmanuel (2003). „Ankieta modeli probabilistycznych z wykorzystaniem metodologii programowania bayesowskiego jako ramy ujednolicającej” (PDF) . cogprints.org.
• Wołkow, Aleksander (2015). „Granice dokładności niegaussowskiego śledzenia Bayesa w środowisku NLOS”. Przetwarzanie sygnału . 108 : 498–508. doi : 10.1016/j.sigpro.2014.10.025 .
• Särkkä, Simo (2013). Filtrowanie i wygładzanie Bayesa (PDF) . Wydawnictwo Uniwersytetu Cambridge.