Ergodic process. In econometrics and signal processing, a stochastic process is said to be ergodic if its statistical properties (such as its mean and variance) can be deduced from a single, sufficiently long sample (realization) of the process. Specific definitions[edit] One can discuss the ergodicity of various properties of a stochastic process. For example, a wide-sense stationary process has mean and autocovariance which do not change with time.
One way to estimate the mean is to perform a time average: If converges in squared mean to as , then the process is said to be mean-ergodic[1] or mean-square ergodic in the first moment.[2] Likewise, one can estimate the autocovariance by performing a time average: If this expression converges in squared mean to the true autocovariance , then the process is said to be autocovariance-ergodic or mean-square ergodic in the second moment.[2] A process which is ergodic in the first and second moments is sometimes called ergodic in the wide sense.[2] See also[edit] Notes[edit] Stationary process. In mathematics, a stationary process (or strict(ly) stationary process or strong(ly) stationary process) is a stochastic process whose joint probability distribution does not change when shifted in time. Consequently, parameters such as the mean and variance, if they are present, also do not change over time and do not follow any trends.
Stationarity is used as a tool in time series analysis, where the raw data is often transformed to become stationary; for example, economic data are often seasonal and/or dependent on a non-stationary price level. An important type of non-stationary process that does not include a trend-like behavior is the cyclostationary process. Note that a "stationary process" is not the same thing as a "process with a stationary distribution". Definition[edit] Formally, let be a stochastic process and let represent the cumulative distribution function of the joint distribution of at times .
Is said to be stationary if, for all , for all , and for all Since does not affect and. Bernoulli scheme. In mathematics, the Bernoulli scheme or Bernoulli shift is a generalization of the Bernoulli process to more than two possible outcomes.[1][2] Bernoulli schemes are important in the study of dynamical systems, as most such systems (such as Axiom A systems) exhibit a repellor that is the product of the Cantor set and a smooth manifold, and the dynamics on the Cantor set are isomorphic to that of the Bernoulli shift.[3] This is essentially the Markov partition. The term shift is in reference to the shift operator, which may be used to study Bernoulli schemes.
The Ornstein isomorphism theorem[4] shows that Bernoulli shifts are isomorphic when their entropy is equal. Finite stationary stochastic processes are isomorphic to the Bernoulli shift; in this sense, Bernoulli shifts are universal. Definition[edit] A Bernoulli scheme is a discrete-time stochastic process where each independent random variable may take on one of N distinct possible values, with the outcome i occurring with probability. Korrelation. Eine Korrelation (vom mittellateinischen correlatio für „(die) Wechselbeziehung“) beschreibt eine Beziehung zwischen zwei oder mehreren Merkmalen, Ereignissen, Zuständen oder Funktionen.
Zwischen Merkmalen, Ereignissen oder Zuständen braucht keine kausale Beziehung zu bestehen: manche Elemente eines Systems beeinflussen sich gegenseitig nicht; oder es besteht eine stochastische (= vom Zufall beeinflusste) Beziehung zwischen ihnen. Beschreibung[Bearbeiten] Eine Korrelation als Maß des Zusammenhangs soll zwei Fragen klären: Wie stark ist der Zusammenhang? Die Maßzahlen der Korrelation liegen betragsmäßig meist in einem Bereich von Null (=kein Zusammenhang) bis Eins (=starker Zusammenhang). Betrachtet man die Haar- und Augenfarbe von Studenten, so ergibt sich ein korrigierter Kontingenzkoeffizient von 0,55. Da dieser im mittleren Bereich zwischen Null und Eins liegt, haben wir einen mittelstarken Zusammenhang vorliegen. Falls möglich, welche Richtung hat der Zusammenhang? Beispiele:
Korrelationsungleichung. Ausgehend von der FKG-Ungleichungen wurden weitere ähnliche Ungleichungen gefunden, zum Beispiel die Holley-Ungleichung nach Richard Holley im Jahr 1974, oder die sehr allgemeine Vier-Funktionen-Ungleichung von Rudolf Ahlswede und David E. Daykin von 1978, aus der die anderen genannten Ungleichungen folgen. Assoziierte Maße[Bearbeiten] Der Begriff des assoziierten Maßes wurde 1967 von J. D. Esary, Frank Proschan und D. W. Ein endliches Maß auf , wobei ein halbgeordneter topologischer[5] Raum sei, heißt assoziiert, falls für alle beschränkten, stetigen, monoton wachsenden Funktionen von nach gilt. Die FKG-Ungleichung[Bearbeiten] Formulierung für endliche distributive Verbände[Bearbeiten] Sei ein endlicher distributiver Verband, und ein Maß auf , welches für alle im Verband erfüllt. Die FKG-Ungleichung besagt dann, dass das Maß assoziiert ist, also dass für zwei beliebige bezüglich der von den Verbandsoperationen induzierten Halbordnung stetige, monoton wachsende, quadratintegrierbare Funktionen und .
Wenn . Geschichte der Wahrscheinlichkeitsrechnung. Titelblatt der Ars Conjectandi von Jakob Bernoulli aus dem Jahr 1713, eines der Werke zur Stochastik im 18. Jahrhundert Die Geschichte der Wahrscheinlichkeitsrechnung oder Stochastik beschreibt die Entwicklung eines gleichzeitig alten und modernen Teilgebiets der Mathematik, das sich mit der mathematischen Analyse von Experimenten mit unsicherem Ausgang befasst. Während viele heute noch gebräuchliche Formeln zu einfachen Zufallsprozessen möglicherweise bereits im Altertum, spätestens jedoch im ausgehenden Mittelalter bekannt waren, hat sich das heute verwendete axiomatische Fundament der Wahrscheinlichkeitstheorie erst zu Beginn des 20.
Im Laufe der Zeit wurde die Stochastik von einer Vielzahl unterschiedlicher Anwendungsgebiete geprägt. Ausgangslage[Bearbeiten] Die Stochastik entwickelte sich langsamer und weniger zielstrebig als andere mathematische Disziplinen wie etwa die Analysis. Definition der Wahrscheinlichkeit[Bearbeiten] Skepsis von Seiten anderer Wissenschaften[Bearbeiten] At Least One Girl. Junge-oder-Mädchen-Problem. Das Junge-oder-Mädchen-Problem, auch als Zwei-Kinder-Problem[1] oder Geschwisterproblem bekannt, ist eine Aufgabe mit Bezug zur Wahrscheinlichkeitstheorie. Die Aufgabenstellung handelt von der Möglichkeit, bei Zwei-Kind-Familien aus der Kenntnis des Geschlechts eines der beiden Kinder eine bedingte Wahrscheinlichkeitsaussage über das Geschlecht des anderen Kinds machen zu können.
Die ursprüngliche Formulierung des Problems wurde von Martin Gardner 1959 im Scientific American veröffentlicht und besteht aus zwei Fragen: Hr. Müller hat zwei Kinder. Das ältere Kind ist ein Mädchen. Wie groß ist die Wahrscheinlichkeit, dass beide Kinder Mädchen sind? Gardner gab ursprünglich die Antworten 1/2 bzw. 1/3, musste aber später zugeben, dass die zweite Frage nicht eindeutig gestellt ist. Neuformulierung der Problemstellung[Bearbeiten] Die Originalformulierung des Problems lässt offensichtlich keine eindeutige Lösung zu. Erste Fragestellung[Bearbeiten] „Welches Geschlecht hat Ihr älteres Kind?
Gefangenenparadoxon. Das Gefangenenparadoxon, im Englischen auch als Three Prisoners Problem bezeichnet, erschien 1959 in Martin Gardners Kolumne Mathematical Games im Scientific American und ist ein Paradoxon über bedingte Wahrscheinlichkeiten und den Satz von Bayes. Es ist nicht zu verwechseln mit dem Gefangenendilemma der Spieltheorie. Formulierung des Problems[Bearbeiten] Drei zum Tode verurteilte Gefangene – Anton, Bernd und Clemens – befinden sich in Einzelzellen, als der Gouverneur entscheidet, einen von ihnen zu begnadigen. Er schreibt ihre Namen auf drei Papierzettel, schüttelt die Zettel in einem Hut durcheinander, zieht einen heraus und teilt den Namen des Glücklichen dem Gefängniswärter telefonisch mit, diesen darum bittend, diese Information noch mehrere Tage geheim zu halten.
Gerüchte davon erreichen Anton. „Dann nenne mir“, sagt Anton, „den Namen eines der anderen, die hingerichtet werden. „Dann teile es mir nicht jetzt“, sagt Anton, „sondern morgen mit Die Lösung[Bearbeiten] Zunächst setzt man. Ziegenproblem. In der Hoffnung, das Auto zu gewinnen, wählt der Kandidat Tor 1. Der Showmaster öffnet daraufhin Tor 3, hinter dem eine Ziege steht, und bietet dem Kandidaten an, das Tor zu wechseln. Ist es vorteilhaft für den Kandidaten, seine erste Wahl zu ändern und sich für Tor 2 zu entscheiden? Das Ziegenproblem, Drei-Türen-Problem, Monty-Hall-Problem oder Monty-Hall-Dilemma ist eine Aufgabe mit Bezug zur Wahrscheinlichkeitstheorie. Die Aufgabenstellung ist lose der Spielshow Let’s Make a Deal nachempfunden, welche im deutschen Sprachraum in der Variante Geh aufs Ganze!
Das Ziegenproblem wird oft als Beispiel dafür herangezogen, dass der menschliche Verstand zu Trugschlüssen neigt, wenn es um das Bestimmen von Wahrscheinlichkeiten geht, und ist Gegenstand einer lang anhaltenden öffentlichen Diskussion. Die Aufgabenstellung selbst geht auf den Biostatistiker Steve Selvin zurück, der sie als Leserbrief im American Statistician 1975 veröffentlichte. Die erfahrungsbezogene Antwort[Bearbeiten] Spiel 1. Bedingte Wahrscheinlichkeit. Unter der Bedingung (auch Konditionalität), dass das Eintreten eines anderen Ereignisses bereits bekannt ist. Sie wird als geschrieben. Der senkrechte Strich ist als „unter der Bedingung“ zu lesen und wie folgt zu verstehen: Wenn das Ereignis . Damit ändert sich auch die Wahrscheinlichkeit; diese neue Wahrscheinlichkeit für das Ereignis ist gegeben durch . Interpretiert werden, wenn die Information vorliegt, dass das Ereignis bereits eingetreten ist.
Verwendet, die jedoch auch andere Bedeutungen haben kann. Für einen verallgemeinerten, abstrakten Begriff von bedingten Wahrscheinlichkeiten siehe bedingter Erwartungswert. Motivation und Definition[Bearbeiten] Mitunter möchte man untersuchen, wie stark der statistische Einfluss einer Größe auf eine andere ist. ) krebserregend ( ) ist. Für alle Instanzen gilt; das heißt also, dass jeder Raucher Krebs haben wird. ).
Auf ist. Ist. Mit dieser Motivation kommt man zu folgender Definition: Wenn und beliebige Ereignisse sind und Darin ist gemeinsam auftreten. Wahrscheinlichkeitstheorie. Die oder ist ein Teilgebiet der Mathematik , das aus der Formalisierung der Modellierung und der Untersuchung von Zufallsgeschehen hervorgegangen ist. Gemeinsam mit der mathematischen Statistik , die anhand von Beobachtungen zufälliger Vorgänge Aussagen über das zugrunde liegende Modell trifft, bildet sie das mathematische Teilgebiet der Stochastik . Die zentralen Objekte der Wahrscheinlichkeitstheorie sind zufällige Ereignisse , Zufallsvariablen und stochastische Prozesse .
Axiomatischer Aufbau [ Bearbeiten ] Wie jedes Teilgebiet der modernen Mathematik wird auch die Wahrscheinlichkeitstheorie mengentheoretisch formuliert und auf axiomatischen Vorgaben aufgebaut. Ausgangspunkt der Wahrscheinlichkeitstheorie sind die als Mengen aufgefasst werden und denen Wahrscheinlichkeiten zugeordnet sind; Wahrscheinlichkeiten sind reelle Zahlen zwischen 0 und 1; die Zuordnung von Wahrscheinlichkeiten zu Ereignissen muss gewissen Mindestanforderungen genügen.
Axiome von Kolmogorow [ Bearbeiten ] . Stochastischer Prozess. Definition[Bearbeiten] Sei ein Wahrscheinlichkeitsraum, . Ein stochastischer Prozess , also eine Abbildung sodass für alle eine -messbare Abbildung ist. Eine einzige Zufallsvariable ist, wobei eine (mit einer geeigneten σ-Algebra versehene) Menge von Funktionen ist. Die Frage nach der Existenz von stochastischen Prozessen mit bestimmten Eigenschaften wird von den Sätzen von Daniell-Kolmogorow und Ionescu Tulcea weitgehend gelöst. Einteilung[Bearbeiten] Die grundlegendste Einteilung stochastischer Prozesse in verschiedene Klassen erfolgt über die Indexmenge und die Wertemenge Ist abzählbar (etwa ), so heißt der Prozess zeitdiskret, ansonsten zeitstetig.Ist endlich oder abzählbar, spricht man von wertediskreten Prozessen oder Punktprozessen. Darüber hinaus werden stochastische Prozesse noch nach stochastischen Eigenschaften in verschiedene Prozessklassen unterteilt. Pfade[Bearbeiten] Für jedes erhält man eine Abbildung .
Ist speziell und Stochastische Prozesse versus Zeitreihen[Bearbeiten] Stochastische Ordnung. Stochastische Ordnungen sind Ordnungsrelationen für Zufallsvariablen. Sie verallgemeinern das Konzept von größer und kleiner auf zufällige Größen und dienen zum Beispiel dem Vergleich von Risiken in der Versicherungswirtschaft. Die Theorie der stochastischen Ordnungen ist ein jüngeres mathematisches Teilgebiet und hat in den letzten Jahrzehnten eine starke Entwicklung erfahren und eine breite Anwendung in Finanzmathematik, ökonomischer Forschung und Operations Research gefunden.
Spezielle stochastische Ordnungen wurden schon in der Nachkriegszeit erforscht, die erste umfassende Monographie des Themas von Dietrich Stoyan wurde 1977 veröffentlicht. Es werden zahlreiche stochastische Ordnungen mit jeweils unterschiedlichen Anwendungsbereichen betrachtet, die Theorie der Integralordnungen ermöglicht es dabei, unterschiedliche Ordnungen mit einheitlichen Methoden zu untersuchen. Ordnung im Mittel[Bearbeiten] ist im Mittel kleiner als die Zufallsvariable , wenn Definition: Seien und gilt . Für alle. Stochastik. Die Stochastik (von altgriechisch στοχαστικὴ τέχνη stochastikē technē, lateinisch ars conjectandi, also ‚Kunst des Vermutens‘, ‚Ratekunst‘) ist ein Teilgebiet der Mathematik und fasst als Oberbegriff die Gebiete Wahrscheinlichkeitstheorie und Statistik zusammen. Die historischen Aspekte werden im Artikel Geschichte der Wahrscheinlichkeitsrechnung dargestellt. Überblick[Bearbeiten] Mathematische Stochastik beschäftigt sich mit der Beschreibung und Untersuchung von Zufallsexperimenten wie zum Beispiel dem Werfen von Reißzwecken, Würfeln oder Münzwurf sowie vom Zufall beeinflussten zeitlichen Entwicklungen und räumliche Strukturen.
Wahrscheinlichkeiten und Zufallsexperimente[Bearbeiten] Unter einer Prognose versteht man: Angabe von Wahrscheinlichkeiten[Bearbeiten] Wahrscheinlichkeiten werden mit dem Buchstaben (von frz. probabilité, eingeführt von Laplace) oder dargestellt. ), Brüche ( Wahrscheinlichkeiten Null und Eins ↔ unmögliche und sichere Ereignisse[Bearbeiten] vorausgesetzt. Beschäftigt. Zufallsgraph. Gilbert-Graph: mit einer natürlichen Zahl und einer Wahrscheinlichkeit bezeichnet die Menge aller Graphen, bei denen für jedes geordnete Paar von Knoten, mit , mit der Wahrscheinlichkeit bestimmt wird, ob sie durch eine Kante verbunden werden, und das unabhängig von den anderen Kanten. Man untersucht dann häufig, mit welcher Wahrscheinlichkeit die erzeugten Graphen eine bestimmte Eigenschaft haben, z. B. ob sie zusammenhängend sind. Eine weitere Möglichkeit ist es, in Abhängigkeit von vorzugeben und dann das Verhalten bei wachsendem zu untersuchen.Erdős-Rényi-Graph: mit natürlichen Zahlen und bezeichnet die Menge aller Graphen mit exakt Knoten und Kanten.Die Knoten des Graphen werden in der Ebene gemäß einer vorgegebenen Wahrscheinlichkeitsverteilung verteilt.
Wenn zwei Knoten einen Abstand kleiner als eine vorgegebene Grenze haben, werden sie durch eine Kante verbunden. Fragestellungen[Bearbeiten] Wichtige Fragestellungen bei zufälligen Graphen sind: in getestet werden. Stochastic process. Astronomical seeing. Kolmogorov extension theorem. Kolmogorov continuity theorem. Geometric distribution. Chapman–Kolmogorov equation. Reversible diffusion. Markov renewal process. Random walk. Markov model. Interacting particle system. Examples of Markov chains. Wiener process. Dynamics of Markovian particles. Markov process. Kolmogorov backward equations (diffusion) Continuous-time Markov chain.