Proces stochastyczny - Stochastic process

Symulowana komputerowo realizacja procesu ruchu Wienera lub Browna na powierzchni kuli. Proces Wienera jest powszechnie uważany za najbardziej zbadany i centralny proces stochastyczny w teorii prawdopodobieństwa.

W teorii prawdopodobieństwa i pokrewnych dziedzin, stochastyczne ( / e t K ® y t ɪ k / ), albo proces losowego jest przedmiotem matematyczny zwykle określa się jako rodzina o zmiennych losowych . Procesy stochastyczne są szeroko stosowane jako matematyczne modele systemów i zjawisk, które wydają się zmieniać w sposób losowy. Przykłady obejmują wzrost populacji bakterii , wahania prądu elektrycznego spowodowane szumem termicznym lub ruch cząsteczki gazu . Procesy stochastyczne mają zastosowanie w wielu dziedzinach, takich jak biologii , chemii , ekologii , neurologii , fizyki , przetwarzania obrazu , przetwarzania sygnałów , teorii sterowania , teorii informacji , informatyki , kryptografii i telekomunikacji . Co więcej, pozornie przypadkowe zmiany na rynkach finansowych zmotywowały do ​​szerokiego wykorzystania procesów stochastycznych w finansach .

Aplikacje i badanie zjawisk zainspirowały z kolei propozycję nowych procesów stochastycznych. Przykładami takich procesów stochastycznych są proces Wienera lub proces ruchu Browna, wykorzystywany przez Louisa Bacheliera do badania zmian cen na giełdzie paryskiej , oraz proces Poissona , wykorzystywany przez AK Erlanga do badania liczby połączeń telefonicznych występujących w określonym przedziale czasu. . Te dwa procesy stochastyczne są uważane za najważniejsze i centralne w teorii procesów stochastycznych i były wielokrotnie i niezależnie odkrywane, zarówno przed, jak i po Bachelier i Erlangu, w różnych miejscach i krajach.

Termin funkcja losowa jest również używany w odniesieniu do procesu stochastycznego lub losowego, ponieważ proces stochastyczny może być również interpretowany jako element losowy w przestrzeni funkcji . Terminy proces stochastyczny i proces losowy są używane zamiennie, często bez określonej przestrzeni matematycznej dla zbioru indeksującego zmienne losowe. Ale często te dwa terminy są używane, gdy zmienne losowe są indeksowane przez całkowite lub przerwą na prostej rzeczywistej . Jeśli zmienne losowe są indeksowane przez płaszczyznę kartezjańską lub jakąś wysokowymiarową przestrzeń euklidesową , to zbiór zmiennych losowych jest zwykle nazywany polem losowym . Wartości procesu stochastycznego nie zawsze są liczbami i mogą być wektorami lub innymi obiektami matematycznymi.

Na podstawie ich własności matematyczne, procesy stochastyczne można podzielić na różne kategorie, które zawierają losowe spacery , Martyngały , procesy Markowa , procesy Levy , procesy gaussowskie , pól losowych, procesy odnowy i procesy rozgałęzienia . Badanie procesów stochastycznych wykorzystuje wiedzę i techniki matematyczne z zakresu prawdopodobieństwa , rachunku różniczkowego , algebry liniowej , teorii mnogości i topologii, a także gałęzi analizy matematycznej, takich jak analiza rzeczywista , teoria miary , analiza Fouriera i analiza funkcjonalna . Teoria procesów stochastycznych jest uważana za ważny wkład do matematyki i nadal jest aktywnym tematem badań zarówno ze względów teoretycznych, jak i zastosowań.

Wstęp

Proces stochastyczny lub losowy można zdefiniować jako zbiór zmiennych losowych, które są indeksowane przez pewien zbiór matematyczny, co oznacza, że ​​każda zmienna losowa procesu stochastycznego jest jednoznacznie powiązana z elementem w zbiorze. Zestaw używany do indeksowania zmiennych losowych nazywany jest zestawem indeksowym . Historycznie rzecz biorąc, zestaw wskaźnik był jakiś podzbiór o prostej , jak na przykład liczb naturalnych , co daje wskaźnik ustawić interpretację czasu. Każda zmienna losowa w kolekcji przyjmuje wartości z tej samej przestrzeni matematycznej zwanej przestrzenią stanów . Tą przestrzenią stanów mogą być na przykład liczby całkowite, prosta rzeczywista lub -wymiarowa przestrzeń euklidesowa. Przyrost jest kwota, że proces stochastyczny zmienia się pomiędzy dwoma wartościami indeksu, często interpretowane jako dwóch punktach czasowych. Proces stochastyczny może mieć wiele wyników ze względu na swoją losowość, a pojedynczy wynik procesu stochastycznego nazywany jest m.in. funkcją próbki lub realizacją .

Pojedyncza symulowana komputerowo funkcja próbki lub realizacja m.in. trójwymiarowego procesu Wienera lub Browna dla czasu 0 ≤ t ≤ 2. Zbiorem wskaźników tego procesu stochastycznego są liczby nieujemne, natomiast jego przestrzeń stanów jest trójwymiarową przestrzenią euklidesową.

Klasyfikacje

Proces stochastyczny można klasyfikować na różne sposoby, na przykład według jego przestrzeni stanów, zestawu indeksów lub zależności między zmiennymi losowymi. Jednym z powszechnych sposobów klasyfikacji jest liczność zbioru indeksów i przestrzeni stanów.

W przypadku interpretacji jako czas, jeśli zbiór indeksów procesu stochastycznego ma skończoną lub policzalną liczbę elementów, takich jak skończony zbiór liczb, zbiór liczb całkowitych lub liczb naturalnych, wówczas mówi się, że proces stochastyczny jest dyskretny czas . Jeśli zestaw indeksów jest pewnym przedziałem linii rzeczywistej, wtedy mówi się, że czas jest ciągły . Te dwa typy procesów stochastycznych są odpowiednio określone jako dyskretne i stały w czasie procesów stochastycznych . Procesy stochastyczne w czasie dyskretnym są uważane za łatwiejsze do zbadania, ponieważ procesy w czasie ciągłym wymagają bardziej zaawansowanych technik matematycznych i wiedzy, szczególnie ze względu na to, że zbiór indeksów jest niepoliczalny. Jeśli zbiorem indeksów są liczby całkowite lub ich podzbiór, to proces stochastyczny można również nazwać ciągiem losowym .

Jeśli przestrzenią stanów są liczby całkowite lub naturalne, to proces stochastyczny nazywany jest procesem stochastycznym dyskretnym lub o wartościach całkowitych . Jeśli przestrzenią stanów jest linia rzeczywista, to proces stochastyczny jest określany jako proces stochastyczny o wartościach rzeczywistych lub proces z ciągłą przestrzenią stanów . Jeżeli przestrzeń stan jest wymiarowa przestrzeń euklidesowa, proces stochastyczny nazywany jest - wymiarowy wektor proces lub - proces wektor .

Etymologia

Słowo stochastyczne w języku angielskim było pierwotnie używane jako przymiotnik z definicją „odnoszący się do domysłów” i wywodziło się z greckiego słowa oznaczającego „celować w znak, zgadywać”, a Oxford English Dictionary podaje rok 1662 jako najwcześniejsze wystąpienie . W swojej pracy o prawdopodobieństwie Ars Conjectandi , pierwotnie opublikowanej po łacinie w 1713 roku, Jakob Bernoulli użył wyrażenia „Ars Conjectandi sive Stochastice”, które zostało przetłumaczone jako „sztuka domysłów lub stochastyka”. Zwrotu tego, w odniesieniu do Bernoullego, użył Władysław Bortkiewicz, który w 1917 r. napisał po niemiecku słowo stochastik w znaczeniu losowym. Termin proces stochastyczny pojawił się po raz pierwszy w języku angielskim w artykule Josepha Dooba z 1934 roku . W odniesieniu do tego terminu i konkretnej definicji matematycznej Doob zacytował inny artykuł z 1934 r., W którym termin stochastischer Prozeß został użyty w języku niemieckim przez Aleksandra Khinchina , chociaż niemiecki termin został użyty wcześniej, na przykład przez Andrieja Kołmogorowa w 1931 r.

Według Oxford English Dictionary, wczesne wystąpienia słowa random w języku angielskim w jego obecnym znaczeniu, które odnosi się do przypadku lub szczęścia, sięgają XVI wieku, podczas gdy wcześniej odnotowane użycie pojawiło się w XIV wieku jako rzeczownik oznaczający „popęd, duża prędkość, siła lub przemoc (w jeździe konnej, bieganiu, uderzaniu itp.)”. Samo słowo pochodzi od środkowofrancuskiego słowa oznaczającego „prędkość, pośpiech” i prawdopodobnie pochodzi od francuskiego czasownika oznaczającego „biegać” lub „galopować”. Pierwsze pisemne pojawienie się terminu losowy proces poprzedza proces stochastyczny , który Oxford English Dictionary podaje również jako synonim i został użyty w artykule Francisa Edgewortha opublikowanym w 1888 roku.

Terminologia

Definicja procesu stochastycznego jest różna, ale proces stochastyczny jest tradycyjnie definiowany jako zbiór zmiennych losowych indeksowanych przez pewien zbiór. Terminy proces losowy i proces stochastyczny są traktowane jako synonimy i są używane zamiennie, bez dokładnego określenia zestawu indeksów. Zarówno „zbiór”, jak i „rodzina” są używane, a zamiast „zestawu indeksów” czasami używane są terminy „zestaw parametrów” lub „przestrzeń parametrów”.

Termin funkcja losowa jest również używany w odniesieniu do procesu stochastycznego lub losowego, chociaż czasami jest używany tylko wtedy, gdy proces stochastyczny przyjmuje wartości rzeczywiste. Termin ten jest również używany, gdy zbiory indeksów są przestrzeniami matematycznymi innymi niż rzeczywista linia, podczas gdy terminy proces stochastyczny i proces losowy są zwykle używane, gdy zbiór indeksów jest interpretowany jako czas, a inne terminy są używane, takie jak pole losowe, gdy indeks zbiór to wielowymiarowa przestrzeń euklidesowa lub rozmaitość .

Notacja

Stochastycznego procesu mogą być oznaczone, wśród innych sposobów, przez , , lub po prostu jako albo , chociaż jest traktowane jako nadużycie zapisie funkcyjnym . Na przykład lub służą do odwoływania się do zmiennej losowej z indeksem , a nie do całego procesu stochastycznego. Jeżeli zbiorem indeksów jest , to można napisać np. w celu oznaczenia procesu stochastycznego.

Przykłady

Proces Bernoulliego

Jednym z najprostszych procesów stochastycznych jest proces Bernoulliego , który jest sekwencją niezależnych i identycznie rozłożonych (iid) zmiennych losowych, gdzie każda zmienna losowa przyjmuje albo wartość jeden albo zero, powiedzmy jeden z prawdopodobieństwem i zero z prawdopodobieństwem . Proces ten można powiązać z wielokrotnym rzucaniem monetą, gdzie prawdopodobieństwo uzyskania orła wynosi jeden, a ogona zero. Innymi słowy, proces Bernoulliego jest sekwencją iid zmiennych losowych Bernoulliego, gdzie każdy rzut monetą jest przykładem procesu Bernoulliego .

Losowy spacer

Spacery losowe to procesy stochastyczne, które zwykle definiuje się jako sumy iid zmiennych losowych lub wektorów losowych w przestrzeni euklidesowej, a więc są to procesy, które zmieniają się w dyskretnym czasie. Ale niektórzy używają tego terminu również w odniesieniu do procesów, które zmieniają się w ciągłym czasie, w szczególności procesu Wienera stosowanego w finansach, co doprowadziło do pewnego zamieszania, co doprowadziło do jego krytyki. Istnieją inne rodzaje spacerów losowych, zdefiniowane tak, aby ich przestrzeniami stanów mogły być inne obiekty matematyczne, takie jak kraty i grupy, i ogólnie są one bardzo dobrze zbadane i mają wiele zastosowań w różnych dyscyplinach.

Klasycznym przykładem błądzenia losowego jest proste błądzenie losowe , który jest procesem stochastycznym w dyskretnym czasie z liczbami całkowitymi jako przestrzenią stanów i opiera się na procesie Bernoulliego, w którym każda zmienna Bernoulliego przyjmuje albo wartość dodatnią, albo negatywny. Innymi słowy, proste błądzenie losowe odbywa się na liczbach całkowitych, a jego wartość wzrasta o jeden z prawdopodobieństwem powiedzmy , lub maleje o jeden z prawdopodobieństwem , więc zbiorem indeksów tego losowego błądzenia są liczby naturalne, a jego przestrzeń stanów to liczby całkowite. Jeśli , to błądzenie losowe nazywa się symetrycznym błądzeniem losowym.

Proces Wienera

Proces Wienera jest procesem stochastycznym ze stacjonarnymi i niezależnymi przyrostami, które są normalnie rozłożone na podstawie wielkości przyrostów. Proces Wienera został nazwany na cześć Norberta Wienera , który udowodnił jego matematyczne istnienie, ale proces ten jest również nazywany procesem ruchów Browna lub po prostu ruchem Browna ze względu na jego historyczne powiązanie jako model ruchu Browna w cieczach.

Realizacje procesów Wienera (lub procesów ruchu Browna) z dryftem ( niebieski ) i bez dryfu ( czerwony ).

Odgrywając centralną rolę w teorii prawdopodobieństwa, proces Wienera jest często uważany za najważniejszy i badany proces stochastyczny, mający powiązania z innymi procesami stochastycznymi. Jego zbiór indeksów i przestrzeń stanów są odpowiednio liczbami nieujemnymi i liczbami rzeczywistymi, więc ma zarówno zbiór indeksów ciągłych, jak i przestrzeń stanów. Ale proces można zdefiniować bardziej ogólnie, więc jego przestrzeń stanów może być -wymiarową przestrzenią euklidesową. Jeśli średnia dowolnego przyrostu wynosi zero, to wynikowy proces ruchu Wienera lub Browna ma dryf zerowy. Jeżeli średnia przyrostu dla dowolnych dwóch punktów w czasie jest równa różnicy czasu pomnożonej przez pewną stałą , która jest liczbą rzeczywistą, to mówi się, że wynikowy proces stochastyczny ma dryf .

Prawie na pewno , próbna ścieżka procesu Wienera jest wszędzie ciągła , ale nigdzie nie jest możliwa do zróżnicowania . Można go uznać za ciągłą wersję prostego błądzenia losowego. Proces ten powstaje w wyniku przeskalowania matematycznej granicy innych procesów stochastycznych, takich jak pewne spacery losowe, co jest przedmiotem twierdzenia Donskera lub zasady niezmienności, znanej również jako funkcjonalne centralne twierdzenie graniczne.

Proces Wienera jest członkiem kilku ważnych rodzin procesów stochastycznych, w tym procesów Markowa, procesów Lévy'ego i procesów Gaussa. Proces ten ma również wiele zastosowań i jest głównym procesem stochastycznym stosowanym w rachunku stochastycznym. Odgrywa kluczową rolę w finansach ilościowych, gdzie jest używany na przykład w modelu Blacka–Scholesa–Mertona. Proces ten jest również wykorzystywany w różnych dziedzinach, w tym w większości nauk przyrodniczych, a także w niektórych gałęziach nauk społecznych, jako model matematyczny dla różnych zjawisk losowych.

Proces Poissona

Proces Poissona jest procesem stochastycznym, który ma różne formy i definicje. Można go zdefiniować jako proces liczenia, który jest procesem stochastycznym, który reprezentuje losową liczbę punktów lub zdarzeń do pewnego czasu. Liczba punktów procesu, które znajdują się w przedziale od zera do określonego czasu, jest zmienną losową Poissona, która zależy od tego czasu i jakiegoś parametru. Ten proces ma liczbę naturalną jako swoją przestrzeń stanów i liczby nieujemne jako zbiór indeksów. Proces ten jest również nazywany procesem liczenia Poissona, ponieważ można go interpretować jako przykład procesu liczenia.

Jeśli proces Poissona jest zdefiniowany za pomocą pojedynczej dodatniej stałej, wówczas proces ten nazywa się jednorodnym procesem Poissona. Jednorodny proces Poissona należy do ważnych klas procesów stochastycznych, takich jak procesy Markowa i procesy Lévy'ego.

Jednorodny proces Poissona można definiować i uogólniać na różne sposoby. Można go zdefiniować w taki sposób, że jego zbiorem indeksów jest linia rzeczywista, a ten proces stochastyczny jest również nazywany stacjonarnym procesem Poissona. Jeśli stałą parametru procesu Poissona zastąpimy jakąś nieujemną funkcją całkowalną , otrzymany proces nazywamy niejednorodnym lub niejednorodnym procesem Poissona, gdzie średnia gęstość punktów procesu nie jest już stała. Służąc jako fundamentalny proces w teorii kolejek, proces Poissona jest ważnym procesem dla modeli matematycznych, gdzie znajduje zastosowanie dla modeli zdarzeń losowo występujących w określonych oknach czasowych.

Zdefiniowany na linii rzeczywistej proces Poissona może być interpretowany jako proces stochastyczny, wśród innych obiektów losowych. Ale wtedy można go zdefiniować na dwuwymiarowej przestrzeni euklidesowej lub innych przestrzeniach matematycznych, gdzie często interpretuje się go jako losowy zbiór lub losową miarę liczenia, zamiast jako proces stochastyczny. W tej sytuacji proces Poissona, zwany również procesem punktu Poissona, jest jednym z najważniejszych obiektów w teorii prawdopodobieństwa, zarówno z powodów aplikacyjnych, jak i teoretycznych. Zauważono jednak, że procesowi Poissona nie poświęca się tyle uwagi, ile powinno, częściowo dlatego, że często rozważa się go tylko na linii rzeczywistej, a nie na innych przestrzeniach matematycznych.

Definicje

Proces stochastyczny

Proces stochastyczny jest zdefiniowany jako zbiór zmiennych losowych zdefiniowanych we wspólnej przestrzeni prawdopodobieństwa , gdzie jest przestrzenią prób , jest a - algebrą i jest miarą prawdopodobieństwa ; a zmienne losowe, indeksowane przez pewien zbiór , wszystkie przyjmują wartości w tej samej przestrzeni matematycznej , która musi być mierzalna względem pewnej -algebry .

Innymi słowy, dla danej przestrzeni prawdopodobieństwa i przestrzeni mierzalnej proces stochastyczny jest zbiorem zmiennych losowych o wartościach, które można zapisać jako:

Historycznie w wielu problemach z zakresu nauk przyrodniczych znaczenie czasu miał punkt , podobnie jak zmienna losowa reprezentująca wartość obserwowaną w czasie . Proces stochastyczny można również napisać tak, aby odzwierciedlał, że jest on w rzeczywistości funkcją dwóch zmiennych oraz .

Istnieją inne sposoby rozpatrywania procesu stochastycznego, przy czym powyższą definicję uważa się za tradycyjną. Na przykład, proces stochastyczny można interpretować albo zdefiniowana jako -valued zmiennej losowej, gdzie jest przestrzeń wszystkich możliwych -valued funkcji o tej mapie z zestawu do przestrzeni .

Zestaw indeksów

Zbiór nazywany jest zbiorem indeksów lub zbiorem parametrów procesu stochastycznego. Często ten zbiór jest jakimś podzbiorem prostej rzeczywistej , takim jak liczby naturalne lub interwał, dający zbiorowi interpretację czasu. Oprócz tych zbiorów, zbiór indeksów może być innym zbiorem o porządku całkowitym lub zbiorem bardziej ogólnym, takim jak płaszczyzna kartezjańska lub -wymiarowa przestrzeń euklidesowa, gdzie element może reprezentować punkt w przestrzeni. To powiedziawszy, wiele wyników i twierdzeń jest możliwych tylko dla procesów stochastycznych z całkowicie uporządkowanym zestawem indeksów.

Przestrzeń stanów

Przestrzeń matematyczna procesu stochastycznego nazywana jest jego przestrzenią stanów . Ta matematyczna przestrzeń może być zdefiniowana za pomocą liczb całkowitych , linii rzeczywistych , -wymiarowych przestrzeni euklidesowych , płaszczyzn zespolonych lub bardziej abstrakcyjnych przestrzeni matematycznych. Przestrzeń stanów jest definiowana za pomocą elementów, które odzwierciedlają różne wartości, jakie może przyjąć proces stochastyczny.

Przykładowa funkcja

Funkcja próbki jest pojedynczym wynikiem procesu stochastycznego, więc jest tworzona przez pobranie pojedynczej możliwej wartości każdej zmiennej losowej procesu stochastycznego. Dokładniej, jeśli jest procesem stochastycznym, po czym dla dowolnego punktu The mapowania

nazywana jest funkcją próbki, realizacją lub, szczególnie gdy jest interpretowana jako czas, próbną ścieżką procesu stochastycznego . Oznacza to, że dla stałej istnieje przykładowa funkcja, która odwzorowuje zestaw indeksów na przestrzeń stanów . Inne nazwy przykładowej funkcji procesu stochastycznego to trajektoria , funkcja ścieżki lub ścieżka .

Przyrost

Przyrost o stochastycznego procesu jest to różnica pomiędzy dwiema zmiennymi losowymi tego samego procesu losowego. W przypadku procesu stochastycznego z zestawem indeksów, który można interpretować jako czas, przyrost określa, jak bardzo proces stochastyczny zmienia się w określonym przedziale czasu. Na przykład, jeśli jest to proces stochastyczny z przestrzenią stanów i ustawionym indeksem , to dla dowolnych dwóch liczb nieujemnych i takich , że różnica jest zmienną losową o wartościach zwaną przyrostem. Kiedy interesują się przyrostami, często przestrzenią stanów jest linia rzeczywista lub liczby naturalne, ale może to być wielowymiarowa przestrzeń euklidesowa lub bardziej abstrakcyjne przestrzenie, takie jak przestrzenie Banacha .

Dalsze definicje

Prawo

Dla procesu stochastycznego zdefiniowanego na przestrzeni prawdopodobieństwa , prawo procesu stochastycznego definiuje się jako miarę obrazu :

gdzie jest miarą prawdopodobieństwa, symbol oznacza złożenie funkcji i jest wstępnym obrazem funkcji mierzalnej lub równoważnie zmiennej losowej o wartościach , gdzie jest przestrzenią wszystkich możliwych funkcji o wartościach , a więc prawo stochastycznego proces jest miarą prawdopodobieństwa.

Dla mierzalną podzbioru z , wstępnie obraz daje

więc prawo a można zapisać jako:

Prawo stochastycznego procesu lub zmiennej losowej jest nazywana również prawo prawdopodobieństwa , rozkład prawdopodobieństwa , lub dystrybucji .

Skończenie wymiarowe rozkłady prawdopodobieństwa

Dla procesu stochastycznego z prawem , jego skończenie wymiarowy rozkład dla jest zdefiniowany jako:

Miarą tą jest łączny rozkład wektora losowego ; może być postrzegana jako „projekcja” prawa na skończony podzbiór .

Dla każdego wymiernego podzbioru o krotność mocy kartezjańskiej , że skończenie wymiarowa Rozkłady stochastycznego procesu można zapisać jako:

Skończenie wymiarowe rozkłady procesu stochastycznego spełniają dwa warunki matematyczne znane jako warunki spójności.

Stacjonarność

Stacjonarność jest matematyczną właściwością procesu stochastycznego, gdy wszystkie zmienne losowe tego procesu stochastycznego mają identyczny rozkład. Innymi słowy, jeśli jest stacjonarnym procesem stochastycznym, to dla dowolnej zmiennej losowej ma ten sam rozkład, co oznacza, że ​​dla dowolnego zestawu wartości zestawu indeksów odpowiednie zmienne losowe

wszystkie mają ten sam rozkład prawdopodobieństwa . Zbiór wskaźników stacjonarnego procesu stochastycznego jest zwykle interpretowany jako czas, więc może to być liczba całkowita lub prosta. Ale pojęcie stacjonarności istnieje również dla procesów punktowych i pól losowych, gdzie zbiór indeksów nie jest interpretowany jako czas.

Gdy zestaw indeksów można interpretować jako czas, mówi się, że proces stochastyczny jest stacjonarny, jeśli jego rozkłady skończenie wymiarowe są niezmienne w przypadku przesunięć czasu. Ten rodzaj procesu stochastycznego można wykorzystać do opisania układu fizycznego, który jest w stanie ustalonym, ale nadal doświadcza losowych fluktuacji. Intuicja stojąca za stacjonarnością jest taka, że ​​w miarę upływu czasu rozkład stacjonarnego procesu stochastycznego pozostaje taki sam. Ciąg zmiennych losowych tworzy stacjonarny proces stochastyczny tylko wtedy, gdy zmienne losowe mają identyczny rozkład.

O procesie stochastycznym z powyższą definicją stacjonarności mówi się czasem, że jest ściśle stacjonarny, ale istnieją inne formy stacjonarności. Jednym z przykładów jest sytuacja, w której o procesie stochastycznym w czasie dyskretnym lub ciągłym mówi się, że jest stacjonarny w szerokim tego słowa znaczeniu, wtedy proces ma skończoną sekundę dla wszystkich i kowariancję dwóch zmiennych losowych i zależy tylko od liczby dla wszystkich . Chinchin wprowadził pokrewną koncepcję stacjonarności w szerokim znaczeniu , która ma inne nazwy, w tym stacjonarność kowariancji lub stacjonarność w szerokim tego słowa znaczeniu .

Filtrowanie

Filtracji rosnąca kolejność sigma algebrach opisany w odniesieniu do pewnej przestrzeni prawdopodobieństwa i zestawu indeksu, który ma pewną całkowitą kolejność związek, taki jak w przypadku zestawu indeksowa część podzbiór liczb rzeczywistych. Bardziej formalnie, jeśli proces stochastyczny ma zestaw indeksów z porządkiem całkowitym, to filtracja na przestrzeni prawdopodobieństwa jest rodziną sigma-algebr taką, że dla all , gdzie i oznacza całkowity porządek zbioru indeksów . Dzięki koncepcji filtracji możliwe jest badanie ilości informacji zawartych w procesie stochastycznym w , co można interpretować jako czas . Intuicja kryjąca się za filtrowaniem polega na tym, że w miarę upływu czasu coraz więcej informacji na temat jest znanych lub dostępnych, które są przechwytywane w programie , co skutkuje coraz drobniejszymi podziałami .

Modyfikacja

Modyfikacji o stochastycznego procesu jest inny sposób losowy, który jest ściśle związany z pierwotnego procesu losowego. Mówiąc dokładniej, proces stochastyczny, który ma ten sam zestaw indeksów , przestrzeń zestawu i przestrzeń prawdopodobieństwa co inny proces stochastyczny, jest uważany za modyfikację if dla wszystkich następujących

trzyma. Dwa procesy stochastyczne, które są modyfikacjami siebie nawzajem, mają to samo prawo skończenie wymiarowe i mówi się, że są stochastycznie równoważne lub równoważne .

Zamiast modyfikacji używa się również terminu wersja , jednak niektórzy autorzy używają terminu wersja, gdy dwa procesy stochastyczne mają takie same rozkłady skończenie wymiarowe, ale mogą być definiowane na różnych przestrzeniach probabilistycznych, a więc dwa procesy będące wzajemnymi modyfikacjami, są również wersjami siebie nawzajem w tym drugim znaczeniu, ale nie odwrotnie.

Jeśli proces stochastyczny o wartościach ciągłych w czasie rzeczywistym spełnia określone warunki momentowe na swoich przyrostach, to twierdzenie o ciągłości Kołmogorowa mówi, że istnieje modyfikacja tego procesu, która ma ciągłe ścieżki próbkowania z prawdopodobieństwem jeden, więc proces stochastyczny ma ciągłą modyfikację lub wersja. Twierdzenie można również uogólnić na pola losowe, więc zbiorem indeksów jest -wymiarowa przestrzeń euklidesowa, a także na procesy stochastyczne z przestrzeniami metrycznymi jako ich przestrzeniami stanów.

Nie do odróżnienia

Dwa procesy stochastyczne i zdefiniowane w tej samej przestrzeni prawdopodobieństwa z tym samym zbiorem wskaźników i przestrzenią zbiorów są uważane za nie do odróżnienia, jeśli następujące

trzyma. Jeśli dwa i są modyfikacjami siebie nawzajem i są prawie na pewno ciągłe, to i są nie do odróżnienia.

Rozdzielność

Separowalność jest właściwością procesu stochastycznego opartą na jego indeksie ustalonym w odniesieniu do miary prawdopodobieństwa. Właściwość zakłada się tak, że funkcjonały procesów stochastycznych lub pola losowe o niepoliczalnych zbiorach indeksów mogą tworzyć zmienne losowe. Aby proces stochastyczny był separowalny, oprócz innych warunków, jego zbiór indeksów musi być przestrzenią separowalną , co oznacza, że ​​zbiór indeksów ma gęsty podzbiór policzalny.

Dokładniej, proces stochastyczny o wartościach rzeczywistych w czasie ciągłym z przestrzenią prawdopodobieństwa jest separowalny, jeśli jego zbiór indeksów ma gęsty podzbiór przeliczalny i istnieje zbiór prawdopodobieństwa zerowego, tak że dla każdego zbioru otwartego i każdego zbioru domkniętego , dwa zdarzenia i różnią się od siebie co najwyżej podzbiorem . Definicję separowalności można również podać dla innych zbiorów indeksów i przestrzeni stanów, na przykład w przypadku pól losowych, gdzie zbiór indeksów oraz przestrzeń stanów mogą być -wymiarową przestrzenią euklidesową.

Koncepcję rozdzielności procesu stochastycznego wprowadził Joseph Doob . Podstawową ideą separowalności jest uczynienie przeliczalnego zbioru punktów zbioru wskaźników określających właściwości procesu stochastycznego. Każdy proces stochastyczny z zestawem przeliczalnych indeksów już spełnia warunki separowalności, więc procesy stochastyczne w czasie dyskretnym są zawsze rozłączne. Twierdzenie Dooba, czasami znane jako twierdzenie Dooba o separowalności, mówi, że każdy proces stochastyczny o wartościach rzeczywistych w czasie ciągłym ma rozdzielną modyfikację. Wersje tego twierdzenia istnieją również dla bardziej ogólnych procesów stochastycznych ze zbiorami indeksów i przestrzeniami stanów innymi niż linia rzeczywista.

Niezależność

Dwa procesy stochastyczne i zdefiniowane na tej samej przestrzeni probabilistycznej z tego samego zestawu indeksu mówi be niezależne jeśli dla wszystkich i dla każdego wyboru epok , losowe wektory i są niezależne.

Nieskorelowanie

Dwa procesy stochastyczne i są nazywane nieskorelowanymi, jeśli ich kowariancja krzyżowa wynosi zero przez cały czas. Formalnie:

.

Niezależność implikuje brak korelacji

Jeśli dwa procesy stochastyczne i są niezależne, to są również nieskorelowane.

Ortogonalność

Dwa procesy stochastyczne i nazywane są ortogonalnymi, jeśli ich korelacja krzyżowa wynosi zero przez cały czas. Formalnie:

.

Przestrzeń Skorokhod

Skorokhod przestrzeń , również pisane jako przestrzeni Skorohod , jest matematycznym przestrzeń wszystkich funkcji, które są tuż-ciągły z lewej granicach, określona na pewnym odstępie rzeczywistej linii takich jak lub , i przyjmują wartości na prostej lub na niektóre metryki przestrzeń. Funkcje takie określa się mianem càdlàg lub cadlag functions, od francuskiego akronimu continue à droite, limite à gauche . Przestrzeń funkcji Skorokhod, wprowadzona przez Anatolija Skorokhod , jest często oznaczana literą , więc przestrzeń funkcyjna jest również nazywana przestrzenią . Zapis tej przestrzeni funkcji może również zawierać przedział, na którym zdefiniowane są wszystkie funkcje càdlàg, czyli na przykład oznacza przestrzeń funkcji càdlàg zdefiniowaną na przedziale jednostkowym .

Przestrzenie funkcji Skorokhod są często używane w teorii procesów stochastycznych, ponieważ często zakłada się, że funkcje próbek procesów stochastycznych w czasie ciągłym należą do przestrzeni Skorokhod. Takie przestrzenie zawierają funkcje ciągłe, które odpowiadają przykładowym funkcjom procesu Wienera. Ale przestrzeń ma również funkcje z nieciągłościami, co oznacza, że ​​przykładowe funkcje procesów stochastycznych ze skokami, takie jak proces Poissona (na prostej rzeczywistej), również należą do tej przestrzeni.

Prawidłowość

W kontekście matematycznej konstrukcji procesów stochastycznych termin regularność jest używany przy omawianiu i przyjmowaniu pewnych warunków procesu stochastycznego w celu rozwiązania ewentualnych problemów konstrukcyjnych. Na przykład, aby badać procesy stochastyczne z niepoliczalnymi zestawami indeksów, zakłada się, że proces stochastyczny jest zgodny z pewnym rodzajem warunku regularności, takim jak ciągłość funkcji próbki.

Dalsze przykłady

Procesy i łańcuchy Markowa

Procesy Markowa to procesy stochastyczne, tradycyjnie w czasie dyskretnym lub ciągłym , które mają właściwość Markowa, co oznacza, że ​​kolejna wartość procesu Markowa zależy od wartości bieżącej, ale jest ona warunkowo niezależna od poprzednich wartości procesu stochastycznego. Innymi słowy, zachowanie procesu w przyszłości jest stochastycznie niezależne od jego zachowania w przeszłości, biorąc pod uwagę obecny stan procesu.

Proces ruchów Browna i proces Poissona (w jednym wymiarze) są przykładami procesów Markowa w czasie ciągłym, podczas gdy przypadkowe spacery po liczbach całkowitych i problem ruiny hazardzisty są przykładami procesów Markowa w czasie dyskretnym.

Łańcuch Markowa to rodzaj procesu Markowa, który ma albo dyskretną przestrzeń stanów, albo dyskretny zestaw indeksów (często reprezentujący czas), ale dokładna definicja łańcucha Markowa jest różna. Na przykład, powszechne jest definiowanie łańcucha Markowa jako procesu Markowa w dyskretnym lub ciągłym czasie z policzalną przestrzenią stanów (a więc niezależnie od natury czasu), ale powszechne jest również definiowanie łańcucha Markowa jako posiadającego dyskretny czas w przeliczalnej lub ciągłej przestrzeni stanów (a więc niezależnie od przestrzeni stanów). Argumentowano, że pierwsza definicja łańcucha Markowa, gdzie ma dyskretny czas, jest obecnie używana, mimo że druga definicja była używana przez badaczy takich jak Joseph Doob i Kai Lai Chung .

Procesy Markowa tworzą ważną klasę procesów stochastycznych i mają zastosowanie w wielu obszarach. Na przykład są one podstawą ogólnej metody symulacji stochastycznej znanej jako łańcuch Markowa Monte Carlo , która służy do symulacji obiektów losowych o określonych rozkładach prawdopodobieństwa i znalazła zastosowanie w statystyce bayesowskiej .

Pojęcie własności Markowa pierwotnie dotyczyło procesów stochastycznych w czasie ciągłym i dyskretnym, ale własność została zaadaptowana dla innych zbiorów indeksów, takich jak dwuwymiarowa przestrzeń euklidesowa, co skutkuje zbiorami zmiennych losowych znanych jako pola losowe Markowa.

Martingale

Martyngał to proces stochastyczny w czasie dyskretnym lub ciągłym, którego właściwość polega na tym, że w każdej chwili, przy danej bieżącej wartości i wszystkich przeszłych wartościach procesu, warunkowe oczekiwanie każdej przyszłej wartości jest równe wartości bieżącej. W czasie dyskretnym, jeśli ta właściwość obowiązuje dla następnej wartości, to obowiązuje dla wszystkich przyszłych wartości. Dokładna matematyczna definicja martyngału wymaga dwóch innych warunków sprzężonych z matematyczną koncepcją filtracji, która wiąże się z intuicją zwiększania dostępnych informacji w miarę upływu czasu. Martingale są zwykle definiowane jako wartości rzeczywiste, ale mogą być również wartościami złożonymi lub nawet bardziej ogólnymi.

Symetryczny błądzenie losowe i proces Wienera (z zerowym dryftem) są przykładami martyngałów odpowiednio w czasie dyskretnym i ciągłym. Dla sekwencji na niezależne i jednakowo rozłożonych losowych wartości z zerową średnią, procesem stochastycznym utworzony z kolejnych sum cząstkowych jest martyngał dyskretnych. W tym aspekcie martyngały czasu dyskretnego uogólniają ideę sum cząstkowych niezależnych zmiennych losowych.

Martingale można również tworzyć z procesów stochastycznych, stosując odpowiednie przekształcenia, co ma miejsce w przypadku jednorodnego procesu Poissona (na linii rzeczywistej), w wyniku czego powstaje martyngał zwany skompensowanym procesem Poissona . Martingale można również zbudować z innych wytoków. Na przykład istnieją wytoki oparte na martyngałach procesu Wienera, tworzące martyngały o czasie ciągłym.

Martingale matematycznie formalizują ideę uczciwej gry i pierwotnie zostały opracowane, aby pokazać, że nie można wygrać w uczciwej grze. Ale teraz są używane w wielu obszarach prawdopodobieństwa, co jest jednym z głównych powodów ich badania. Wiele problemów związanych z prawdopodobieństwem zostało rozwiązanych poprzez znalezienie martyngału w zadaniu i przestudiowanie go. Martingale będą zbieżne, biorąc pod uwagę pewne warunki w ich momentach, więc są często używane do uzyskania wyników zbieżności, głównie ze względu na twierdzenia o zbieżności martyngałów .

Martingale mają wiele zastosowań w statystyce, ale zauważono, że ich użycie i zastosowanie nie jest tak rozpowszechnione, jak mogłoby być w dziedzinie statystyki, zwłaszcza wnioskowania statystycznego. Znaleźli zastosowanie w obszarach teorii prawdopodobieństwa, takich jak teoria kolejek i rachunek Palmowy oraz w innych dziedzinach, takich jak ekonomia i finanse.

Proces Lévy'ego

Procesy Lévy'ego to rodzaje procesów stochastycznych, które można uznać za uogólnienia błądzeń losowych w czasie ciągłym. Procesy te mają wiele zastosowań w dziedzinach takich jak finanse, mechanika płynów, fizyka i biologia. Głównymi cechami definiującymi te procesy są ich właściwości stacjonarności i niezależności, dlatego nazwano je procesami o stacjonarnych i niezależnych przyrostach . Innymi słowy, proces stochastyczny jest procesem Lévy'ego, jeśli dla liczb nieujemnych , odpowiednie przyrosty

są od siebie niezależne, a rozkład każdego przyrostu zależy tylko od różnicy czasu.

Proces Lévy'ego można zdefiniować w taki sposób, że jego przestrzeń stanów jest jakąś abstrakcyjną przestrzenią matematyczną, taką jak przestrzeń Banacha , ale procesy są często definiowane w taki sposób, że przyjmują wartości w przestrzeni euklidesowej. Zestaw indeksów to liczby nieujemne , czyli , co daje interpretację czasu. Ważne procesy stochastyczne, takie jak proces Wienera, jednorodny proces Poissona (w jednym wymiarze) i podrzędne to procesy Lévy'ego.

Pole losowe

Pole losowe to zbiór zmiennych losowych indeksowanych przez dwuwymiarową przestrzeń euklidesową lub pewną rozmaitość. Ogólnie rzecz biorąc, pole losowe można uznać za przykład procesu stochastycznego lub losowego, w którym zbiór indeksów niekoniecznie jest podzbiorem linii rzeczywistej. Istnieje jednak konwencja, że ​​indeksowany zbiór zmiennych losowych jest nazywany polem losowym, gdy indeks ma dwa lub więcej wymiarów. Jeśli konkretna definicja procesu stochastycznego wymaga, aby zestaw indeksów był podzbiorem prostej rzeczywistej, to pole losowe można uznać za uogólnienie procesu stochastycznego.

Proces punktowy

Proces punktowy to zbiór punktów losowo umieszczonych w pewnej przestrzeni matematycznej, takiej jak rzeczywista linia, -wymiarowa przestrzeń euklidesowa lub bardziej abstrakcyjne przestrzenie. Czasami termin proces punktowy nie jest preferowany, ponieważ historycznie proces słowny oznaczał ewolucję jakiegoś systemu w czasie, więc proces punktowy jest również nazywany losowym polem punktowym . Istnieją różne interpretacje procesu punktowego, takie jak losowa miara liczenia lub losowy zbiór. Niektórzy autorzy traktują proces punktowy i proces stochastyczny jako dwa różne obiekty, tak że proces punktowy jest obiektem przypadkowym, który powstaje z procesu stochastycznego lub jest z nim związany, chociaż zauważono, że różnica między procesami punktowymi a procesami stochastycznymi nie jest jasna .

Inni autorzy uważają proces punktowy za proces stochastyczny, w którym proces jest indeksowany przez zbiory przestrzeni bazowej, na której jest zdefiniowany, takich jak rzeczywista linia lub dwuwymiarowa przestrzeń euklidesowa. W teorii procesów punktowych badane są inne procesy stochastyczne, takie jak procesy odnowy i liczenia.

Historia

Wczesna teoria prawdopodobieństwa

Teoria prawdopodobieństwa wywodzi się z gier losowych, które mają długą historię, a niektóre gry rozgrywano tysiące lat temu, ale pod kątem prawdopodobieństwa przeprowadzono bardzo niewiele analiz. Rok 1654 jest często uważany za narodziny teorii prawdopodobieństwa, kiedy to francuscy matematycy Pierre Fermat i Blaise Pascal mieli pisemną korespondencję na temat prawdopodobieństwa, motywowani problemem hazardowym . Ale były wcześniejsze prace matematyczne dotyczące prawdopodobieństwa gier hazardowych, takie jak Liber de Ludo Aleae autorstwa Gerolamo Cardano , napisane w XVI wieku, ale opublikowane pośmiertnie później w 1663 roku.

Po Cardano Jakob Bernoulli napisał Ars Conjectandi , które uważa się za znaczące wydarzenie w historii teorii prawdopodobieństwa. Książka Bernoulliego została opublikowana, również pośmiertnie, w 1713 roku i zainspirowała wielu matematyków do badania prawdopodobieństwa. Ale pomimo niektórych znanych matematyków, którzy wnieśli wkład w teorię prawdopodobieństwa, takich jak Pierre-Simon Laplace , Abraham de Moivre , Carl Gauss , Siméon Poisson i Pafnuty Chebyshev , większość społeczności matematycznej nie uważała teorii prawdopodobieństwa za część matematyki aż do XX wieku.

Mechanika statystyczna

W naukach fizycznych naukowcy rozwinęli w XIX wieku dyscyplinę mechaniki statystycznej , w której układy fizyczne, takie jak zbiorniki wypełnione gazami, można traktować lub traktować matematycznie jako zbiory wielu poruszających się cząstek. Chociaż niektórzy naukowcy, tacy jak Rudolf Clausius , podejmowali próby włączenia losowości do fizyki statystycznej , większość prac miała niewielką lub żadną losowość. Zmieniło się to w 1859 roku, kiedy James Clerk Maxwell wniósł znaczący wkład w dziedzinę, a dokładniej w kinetyczną teorię gazów, przedstawiając pracę, w której założył, że cząstki gazu poruszają się w losowych kierunkach z losowymi prędkościami. Kinetyczna teoria gazów i fizyka statystyczna były nadal rozwijane w drugiej połowie XIX wieku, przy czym prace wykonali głównie Clausius, Ludwig Boltzmann i Josiah Gibbs , co później miało wpływ na matematyczny model ruchów Browna Alberta Einsteina. .

Teoria miary i teoria prawdopodobieństwa

Na Międzynarodowym Kongresie Matematyków w Paryżu w 1900 r. David Hilbert przedstawił listę problemów matematycznych , gdzie jego szósty problem wymagał matematycznego potraktowania fizyki i prawdopodobieństwa z wykorzystaniem aksjomatów . Na początku XX wieku matematycy opracowali teorię miary, gałąź matematyki do badania całek funkcji matematycznych, której dwoma założycielami byli francuscy matematycy, Henri Lebesgue i Émile Borel . W 1925 inny francuski matematyk Paul Lévy opublikował pierwszą książkę prawdopodobieństwa, w której wykorzystano idee teorii miary.

W latach dwudziestych fundamentalny wkład w teorię prawdopodobieństwa wnieśli w Związku Radzieckim matematycy tacy jak Siergiej Bernstein , Aleksandr Chinchin i Andriej Kołmogorow . Kołmogorow opublikował w 1929 roku swoją pierwszą próbę przedstawienia matematycznych podstaw, opartych na teorii miary, dla teorii prawdopodobieństwa. Na początku lat trzydziestych Chinchin i Kołmogorow zorganizowali seminaria prawdopodobieństwa, w których uczestniczyli badacze tacy jak Eugene Słucki i Nikołaj Smirnow , a Chinchin podał pierwszą matematyczną definicję procesu stochastycznego jako zestawu zmiennych losowych indeksowanych linią rzeczywistą.

Narodziny nowoczesnej teorii prawdopodobieństwa

W 1933 Andriej Kołmogorow opublikował po niemiecku swoją książkę o podstawach teorii prawdopodobieństwa zatytułowaną Grundbegriffe der Wahrscheinlichkeitsrechnung , w której Kołmogorow wykorzystał teorię miary do opracowania aksjomatycznych ram dla teorii prawdopodobieństwa. Publikacja tej książki jest obecnie powszechnie uważana za narodziny współczesnej teorii prawdopodobieństwa, kiedy teorie prawdopodobieństwa i procesów stochastycznych stały się częścią matematyki.

Po opublikowaniu książki Kołmogorowa dalsze fundamentalne prace nad teorią prawdopodobieństwa i procesami stochastycznymi zostały wykonane przez Chinchina i Kołmogorowa, a także innych matematyków, takich jak Joseph Doob , William Feller , Maurice Fréchet , Paul Lévy , Wolfgang Doeblin i Harald Cramér . Kilkadziesiąt lat później Cramér odniósł się do lat 30. XX wieku jako „heroiczny okres matematycznej teorii prawdopodobieństwa”. II wojna światowa w dużym stopniu przerwała rozwój teorii prawdopodobieństwa, powodując m.in. migrację Fellera ze Szwecji do Stanów Zjednoczonych Ameryki i śmierć Doeblina, uważanego obecnie za pioniera procesów stochastycznych.

Matematyk Joseph Doob wcześnie pracował nad teorią procesów stochastycznych, wnosząc fundamentalny wkład, szczególnie w teorię martyngałów. Jego książka Procesy stochastyczne jest uważana za bardzo wpływową w dziedzinie teorii prawdopodobieństwa.

Procesy stochastyczne po II wojnie światowej

Po II wojnie światowej badania nad teorią prawdopodobieństwa i procesami stochastycznymi przyciągnęły większą uwagę matematyków, wnosząc znaczący wkład w wiele dziedzin prawdopodobieństwa i matematyki, a także tworząc nowe dziedziny. Począwszy od lat czterdziestych, Kiyosi Itô publikował artykuły rozwijające dziedzinę rachunku stochastycznego , który obejmuje całki stochastyczne i stochastyczne równania różniczkowe oparte na procesie Wienera lub Browna.

Również począwszy od lat czterdziestych XX wieku, nawiązano połączenia między procesami stochastycznymi, zwłaszcza martyngałami, a matematycznym polem teorii potencjału , z wczesnymi pomysłami Shizuo Kakutaniego, a następnie pracami Josepha Dooba. Dalsze prace, uważane za pionierskie, zostały wykonane przez Gilberta Hunta w latach pięćdziesiątych, łącząc procesy Markowa i teorię potencjału, co miało znaczący wpływ na teorię procesów Lévy'ego i doprowadziło do większego zainteresowania badaniem procesów Markowa metodami opracowanymi przez Itô.

W 1953 Doob opublikował swoją książkę Procesy stochastyczne , która wywarła silny wpływ na teorię procesów stochastycznych i podkreśliła znaczenie teorii miary w prawdopodobieństwie. Doob rozwinął również głównie teorię martyngałów, z późniejszym znaczącym wkładem Paula-André Meyera . Wcześniejsze prace wykonali Sergei Bernstein , Paul Lévy i Jean Ville , przy czym ten ostatni przyjął termin martingale dla procesu stochastycznego. Metody z teorii martyngałów stały się popularne do rozwiązywania różnych problemów probabilistycznych. Opracowano techniki i teorię do badania procesów Markowa, a następnie zastosowano je do martyngałów. Odwrotnie, metody z teorii martyngałów zostały opracowane do leczenia procesów Markowa.

Opracowano i wykorzystano inne dziedziny prawdopodobieństwa do badania procesów stochastycznych, przy czym jednym z głównych podejść jest teoria dużych odchyleń. Teoria ta ma wiele zastosowań, między innymi w fizyce statystycznej, a jej główne idee sięgają co najmniej lat 30. XX wieku. Później, w latach sześćdziesiątych i siedemdziesiątych, fundamentalną pracę wykonali Alexander Wentzell w Związku Radzieckim oraz Monroe D. Donsker i Srinivasa Varadhan w Stanach Zjednoczonych Ameryki, co później zaowocowało przyznaniem Varadhanowi nagrody Abela w 2007 roku. W latach 90. i 2000. wprowadzono i rozwinięto teorie ewolucji Schramma-Loewnera i szorstkich ścieżek w celu badania procesów stochastycznych i innych obiektów matematycznych w teorii prawdopodobieństwa, co zaowocowało odpowiednio Medalami Fieldsa przyznanymi Wendelinowi Wernerowi w 2008 r. i Martinowi Hairerowi w 2014 r. .

Teoria procesów stochastycznych nadal jest przedmiotem badań, organizując coroczne międzynarodowe konferencje na temat procesów stochastycznych.

Odkrycia specyficznych procesów stochastycznych

Chociaż Khinchin podał matematyczne definicje procesów stochastycznych w latach 30. XX wieku, specyficzne procesy stochastyczne zostały już odkryte w różnych środowiskach, takich jak proces ruchów Browna i proces Poissona. Niektóre rodziny procesów stochastycznych, takich jak procesy punktowe lub procesy odnowy, mają długą i złożoną historię, sięgającą wieków wstecz.

Proces Bernoulliego

Proces Bernoulliego, który może służyć jako model matematyczny do rzucania tendencyjną monetą, jest prawdopodobnie pierwszym zbadanym procesem stochastycznym. Proces ten jest sekwencją niezależnych prób Bernoulliego, nazwanych na cześć Jackoba Bernoulliego, który wykorzystał je do badania gier losowych, w tym problemów prawdopodobieństwa zaproponowanych i zbadanych wcześniej przez Christiaana Huygensa. Prace Bernoulliego, w tym proces Bernoulliego, zostały opublikowane w jego książce Ars Conjectandi w 1713 roku.

Losowe spacery

W 1905 roku Karl Pearson ukuł termin błądzenie losowe , stawiając problem opisujący błądzenie losowe w samolocie, co było motywowane zastosowaniem w biologii, ale takie problemy związane z błądzeniem losowym były już badane w innych dziedzinach. Niektóre problemy hazardowe, które badano wieki wcześniej, można uznać za problemy związane z przypadkowymi spacerami. Na przykład problem znany jako ruina hazardzisty opiera się na prostym spacerze losowym i jest przykładem losowego spaceru z absorbującymi barierami. Pascal, Fermat i Huyens podali numeryczne rozwiązania tego problemu bez uszczegółowienia swoich metod, a następnie bardziej szczegółowe rozwiązania przedstawili Jakob Bernoulli i Abraham de Moivre .

Dla przypadkowych spacery wymiarowej całkowitych krat , George Pólya opublikowane w 1919 i 1921 roku pracy, gdzie studiował prawdopodobieństwo symetrycznego błądzenia losowego wrócić do poprzedniej pozycji w siatce. Pólya wykazała, że ​​symetryczne błądzenie losowe, które ma równe prawdopodobieństwo poruszania się w dowolnym kierunku w siatce, powróci do poprzedniej pozycji w siatce nieskończoną liczbę razy z prawdopodobieństwem jeden w jednym i dwóch wymiarach, ale z prawdopodobieństwem zerowym w trzy lub wyższe wymiary.

Proces Wienera

Proces Wienera lub proces ruchu Browna wywodzi się z różnych dziedzin, w tym statystyki, finansów i fizyki. W 1880 roku Thorvald Thiele napisał artykuł o metodzie najmniejszych kwadratów, w którym wykorzystał ten proces do badania błędów modelu w analizie szeregów czasowych. Prace są obecnie uważane za wczesne odkrycie metody statystycznej znanej jako filtrowanie Kalmana , ale prace te zostały w dużej mierze przeoczone. Uważa się, że idee zawarte w artykule Thiele były zbyt zaawansowane, aby mogły zostać zrozumiane przez szerszą społeczność matematyczno-statystyczną w tamtym czasie.

Norbert Wiener dał pierwszy matematyczny dowód na istnienie procesu Wienera. Ten matematyczny obiekt pojawił się wcześniej w pracach Thorvalda Thiele , Louisa Bacheliera i Alberta Einsteina .

Francuski matematyk Louis Bachelier użył procesu Wienera w swojej pracy 1900 w celu zmiany cen na wzór paryskiej giełdy , na giełdzie , nie wiedząc o pracę Thiele. Spekulowano, że Bachelier czerpał pomysły z modelu błądzenia przypadkowego Julesa Regnaulta , ale Bachelier go nie cytował, a jego teza jest obecnie uważana za pionierską w dziedzinie matematyki finansowej.

Powszechnie uważa się, że praca Bacheliera nie cieszyła się zbytnim zainteresowaniem i przez dziesięciolecia była zapomniana, aż w latach 50. XX wieku została ponownie odkryta przez Leonarda Savage'a , a następnie stała się bardziej popularna po przetłumaczeniu pracy Bacheliera na angielski w 1964 roku. społeczności matematycznej, jak Bachelier opublikował książkę w 1912 roku szczegółowo opisującą jego idee, która była cytowana przez matematyków, w tym Dooba, Fellera i Kołmogorowa. Książka była nadal cytowana, ale potem, począwszy od lat sześćdziesiątych, oryginalna teza Bacheliera zaczęła być cytowana częściej niż jego książka, kiedy ekonomiści zaczęli cytować prace Bacheliera.

W 1905 Albert Einstein opublikował artykuł, w którym badał fizyczną obserwację ruchów Browna lub ruchu Browna, aby wyjaśnić pozornie przypadkowe ruchy cząstek w cieczach, wykorzystując idee z kinetycznej teorii gazów . Einstein wyprowadził równanie różniczkowe , znane jako równanie dyfuzji , opisujące prawdopodobieństwo znalezienia cząstki w określonym obszarze przestrzeni. Krótko po pierwszej pracy Einsteina na temat ruchu Browna Marian Smoluchowski opublikował pracę, w której cytował Einsteina, ale napisał, że niezależnie wyprowadził równoważne wyniki przy użyciu innej metody.

Praca Einsteina, jak również wyniki eksperymentalne uzyskane przez Jeana Perrina , zainspirowały później Norberta Wienera w latach dwudziestych XX wieku do zastosowania teorii miary opracowanej przez Percy Daniella i analizy Fouriera w celu udowodnienia istnienia procesu Wienera jako obiektu matematycznego.

Proces Poissona

Proces Poissona został nazwany na cześć Siméona Poissona , ze względu na jego definicję obejmującą rozkład Poissona , ale Poisson nigdy nie badał tego procesu. Istnieje wiele roszczeń dotyczących wczesnych zastosowań lub odkryć procesu Poissona. Na początku XX wieku proces Poissona powstawał niezależnie w różnych sytuacjach. W Szwecji w 1903 r. Filip Lundberg opublikował tezę zawierającą pracę, obecnie uważaną za fundamentalną i pionierską, w której zaproponował modelowanie roszczeń ubezpieczeniowych za pomocą jednorodnego procesu Poissona.

Kolejne odkrycie miało miejsce w Danii w 1909 roku, kiedy AK Erlang wyprowadził rozkład Poissona podczas opracowywania matematycznego modelu liczby połączeń przychodzących w skończonym przedziale czasu. Erlang nie był wówczas świadomy wcześniejszych prac Poissona i zakładał, że liczba połączeń telefonicznych przychodzących w każdym przedziale czasu jest od siebie niezależna. Następnie znalazł przypadek graniczny, który skutecznie przekształca rozkład Poissona jako granicę rozkładu dwumianowego.

W 1910 roku Ernest Rutherford i Hans Geiger opublikowali wyniki eksperymentalne dotyczące liczenia cząstek alfa. Zmotywowany ich pracą Harry Bateman zbadał problem liczenia i wyprowadził prawdopodobieństwa Poissona jako rozwiązanie rodziny równań różniczkowych, co doprowadziło do niezależnego odkrycia procesu Poissona. Po tym czasie przeprowadzono wiele badań i zastosowań procesu Poissona, ale jego wczesna historia jest skomplikowana, co zostało wyjaśnione przez różne zastosowania tego procesu w wielu dziedzinach przez biologów, ekologów, inżynierów i różnych fizyków.

Procesy Markowa

Procesy Markowa i łańcuchy Markowa zostały nazwane na cześć Andreya Markowa, który badał łańcuchy Markowa na początku XX wieku. Markov był zainteresowany badaniem rozszerzenia niezależnych ciągów losowych. W swoim pierwszym artykule o łańcuchach Markowa, opublikowanym w 1906 roku, Markow wykazał, że w pewnych warunkach średnie wyniki łańcucha Markowa zbiegają się do ustalonego wektora wartości, co dowodzi słabego prawa wielkich liczb bez założenia o niezależności, które było powszechnie uważane za wymóg, aby takie matematyczne prawa były spełnione. Markow później użył łańcuchów Markowa do badania rozmieszczenia samogłosek w Eugeniuszu Onieginie , napisanym przez Aleksandra Puszkina i udowodnił centralne twierdzenie graniczne dla takich łańcuchów.

W 1912 Poincaré badał łańcuchy Markowa na skończonych grupach w celu zbadania tasowania kart. Inne wczesne zastosowania łańcuchów Markowa obejmują model dyfuzji, wprowadzony przez Paula i Tatianę Ehrenfest w 1907 roku, oraz proces rozgałęziania, wprowadzony przez Francisa Galtona i Henry'ego Williama Watsona w 1873 roku, poprzedzający pracę Markowa. Po pracach Galtona i Watsona później ujawniono, że ich proces rozgałęziania został niezależnie odkryty i zbadany około trzy dekady wcześniej przez Irénée-Jules Bienaymé . Od 1928 Maurice Fréchet zainteresował się łańcuchami Markowa, co ostatecznie doprowadziło do opublikowania w 1938 r. szczegółowego opracowania na temat łańcuchów Markowa.

Andriej Kołmogorow rozwinął w artykule z 1931 roku dużą część wczesnej teorii ciągłych procesów Markowa. Kołmogorowa częściowo zainspirowała praca Louisa Bacheliera z 1900 roku na temat wahań na giełdzie, a także praca Norberta Wienera na temat modelu ruchu Browna Einsteina. Wprowadził i przestudiował określony zestaw procesów Markowa, znanych jako procesy dyfuzji, gdzie wyprowadził zestaw równań różniczkowych opisujących te procesy. Niezależnie od pracy Kołmogorowa, Sydney Chapman wyprowadził w artykule z 1928 r. równanie, obecnie nazywane równaniem Chapmana-Kolmogorowa , w sposób mniej rygorystyczny matematycznie niż Kołmogorowa, badając ruchy Browna. Równania różniczkowe są teraz nazywane równaniami Kołmogorowa lub równaniami Kołmogorowa-Chapmana. Inni matematycy, którzy znacząco przyczynili się do powstania procesów Markowa, to William Feller, począwszy od lat 30. XX wieku, a następnie Eugene Dynkin, począwszy od lat 50. XX wieku.

Procesy Lévy'ego

Procesy Lévy'ego, takie jak proces Wienera i proces Poissona (na linii rzeczywistej), zostały nazwane na cześć Paula Lévy'ego, który zaczął je badać w latach 30. XX wieku, ale mają one powiązania z nieskończenie podzielnymi rozkładami, sięgającymi lat 20. XX wieku. W pracy z 1932 r. Kołmogorow wyprowadził charakterystyczną funkcję dla zmiennych losowych związanych z procesami Lévy'ego. Wynik ten został później wyprowadzony w bardziej ogólnych warunkach przez Lévy'ego w 1934 r., a następnie w 1937 r. Khinchin niezależnie nadał alternatywną formę tej charakterystycznej funkcji. Bruno de Finetti i Kiyosi Itô .

Konstrukcja matematyczna

W matematyce potrzebne są konstrukcje obiektów matematycznych, podobnie jak w przypadku procesów stochastycznych, aby udowodnić, że istnieją matematycznie. Istnieją dwa główne podejścia do konstruowania procesu stochastycznego. Jedno podejście obejmuje rozważenie mierzalnej przestrzeni funkcji, zdefiniowanie odpowiedniego mierzalnego odwzorowania z przestrzeni prawdopodobieństwa do tej mierzalnej przestrzeni funkcji, a następnie wyprowadzenie odpowiednich rozkładów skończenie wymiarowych.

Inne podejście obejmuje zdefiniowanie zbioru zmiennych losowych, aby mieć określone rozkłady skończenie wymiarowe, a następnie wykorzystanie twierdzenia Kołmogorowa o istnieniu, aby udowodnić istnienie odpowiedniego procesu stochastycznego. Twierdzenie to, które jest twierdzeniem o istnieniu dla miar na nieskończonych przestrzeniach produktowych, mówi, że jeśli jakiekolwiek rozkłady skończenie wymiarowe spełniają dwa warunki, znane jako warunki zgodności , to istnieje proces stochastyczny z tymi rozkładami skończenie wymiarowymi.

Problemy konstrukcyjne

Przy konstruowaniu procesów stochastycznych w czasie ciągłym pojawiają się pewne trudności matematyczne ze względu na niepoliczalne zbiory wskaźników, które nie występują w procesach czasu dyskretnego. Jednym z problemów jest to, że możliwe jest posiadanie więcej niż jednego procesu stochastycznego z tymi samymi rozkładami skończenie wymiarowymi. Na przykład, zarówno lewo-ciągła modyfikacja, jak i prawo-ciągła modyfikacja procesu Poissona mają te same rozkłady skończenie wymiarowe. Oznacza to, że rozkład procesu stochastycznego niekoniecznie określa jednoznacznie właściwości funkcji próbki procesu stochastycznego.

Innym problemem jest to, że funkcjonały procesu ciągłego czasu, które opierają się na niepoliczalnej liczbie punktów zbioru indeksów, mogą nie być mierzalne, a więc prawdopodobieństwa pewnych zdarzeń mogą nie być dobrze zdefiniowane. Na przykład supremum procesu stochastycznego lub pola losowego niekoniecznie jest dobrze zdefiniowaną zmienną losową. W przypadku procesu stochastycznego w czasie ciągłym inne cechy, które zależą od niepoliczalnej liczby punktów zbioru indeksów, obejmują:

  • funkcją próbki stochastycznego procesu jest funkcją ciągłą w ;
  • funkcją próbki stochastycznego procesu jest brzegowa funkcja z ; oraz
  • próbka funkcją stochastycznego procesu jest funkcją rosnącą od .

Aby przezwyciężyć te dwie trudności, możliwe są różne założenia i podejścia.

Rozwiązywanie problemów budowlanych

Jednym z podejść do unikania matematycznych problemów konstrukcyjnych procesów stochastycznych, zaproponowanym przez Josepha Dooba , jest założenie, że proces stochastyczny jest rozdzielny. Separowalność zapewnia, że ​​rozkłady nieskończenie wymiarowe określają właściwości funkcji próbki, wymagając, aby funkcje próbki były zasadniczo określane przez ich wartości w gęstym, policzalnym zbiorze punktów w zbiorze indeksów. Ponadto, jeśli proces stochastyczny jest separowalny, to funkcjonały o niezliczonej liczbie punktów zbioru wskaźników są mierzalne i można badać ich prawdopodobieństwa.

Możliwe jest inne podejście, pierwotnie opracowane przez Anatolija Skorokhoda i Andrieja Kołmogorowa , dla procesu stochastycznego w czasie ciągłym z dowolną przestrzenią metryczną jako przestrzenią stanów. Do konstrukcji takiego procesu stochastycznego zakłada się, że funkcje próbki procesu stochastycznego należą do pewnej odpowiedniej przestrzeni funkcyjnej, którą jest zwykle przestrzeń Skorokhoda składająca się ze wszystkich prawo-ciągłych funkcji z lewymi granicami. Podejście to jest obecnie częściej stosowane niż założenie o separowalności, ale taki stochastyczny proces oparty na tym podejściu będzie automatycznie rozdzielny.

Chociaż mniej używane, założenie o rozdzielności jest uważane za bardziej ogólne, ponieważ każdy proces stochastyczny ma swoją odrębną wersję. Jest również używany, gdy nie jest możliwe skonstruowanie procesu stochastycznego w przestrzeni Skorokhod. Na przykład zakłada się rozdzielność podczas konstruowania i badania pól losowych, gdzie zbiór zmiennych losowych jest teraz indeksowany przez zbiory inne niż rzeczywista prosta, takie jak dwuwymiarowa przestrzeń euklidesowa.

Zobacz też

Uwagi

Bibliografia

Dalsza lektura

Artykuły

  • Applebaum, David (2004). „Procesy Lévy'ego: od prawdopodobieństwa do finansów i grup kwantowych”. Zawiadomienia AMS . 51 (11): 1336–1347.
  • Cramer, Harald (1976). „Pół wieku z teorią prawdopodobieństwa: niektóre osobiste wspomnienia” . Roczniki prawdopodobieństwa . 4 (4): 509–546. doi : 10.1214/aop/1176996025 . ISSN  0091-1798 .
  • Guttorp, Piotr; Thorarinsdottir, Thordis L. (2012). „Co się stało z dyskretnym chaosem, procesem Quenouille i ostrym Własnością Markowa? Trochę historii stochastycznych procesów punktowych”. Międzynarodowy Przegląd Statystyczny . 80 (2): 253–268. doi : 10.1111/j.1751-5823.2012.00181.x . ISSN  0306-7734 .
  • Jarrow, Robert; Protter, Filip (2004). „Krótka historia integracji stochastycznej i finansów matematycznych: wczesne lata, 1880-1970”. Festschrift dla Hermana Rubina . Instytut Statystyki Matematycznej Notatki do wykładów - seria monografii. s. 75-91. doi : 10.1214/lms/1196285381 . Numer ISBN 978-0-940600-61-4. ISSN  0749-2170 .
  • Meyera, Paula-André (2009). „Procesy stochastyczne od 1950 do chwili obecnej”. Dziennik elektroniczny historii prawdopodobieństwa i statystyki . 5 (1): 1-42.

Książki

Zewnętrzne linki