Zadania z Rachunku Prawdopodobieństwa III - 1

Funkcją tworzącą momenty (transformatą Laplace’a) zmiennej losowej X nazywamy funkcję

M_{X} (t) := Ee^{tX} , t ∈ ℝ.

1. Oblicz funkcję tworzącą momenty zmiennych o następujących rozkładach: a) symetryczny dwupunktowy;

b) dwumianowy z parametrami n, p;

c) Poissona z parametrem λ;

d) Gaussowski N (a, σ^{2});

e) wykładniczy z parametrem λ;

f) jednostajny na [a, b].

2. Udowodnij, że jeśli X i Y niezależne zmienne losowe, to M_{X+Y} = M_{X} M_{Y}.

3. Wykaż, że X ma skończoną funkcję tworzącą momenty na przedziale (−t_{0}, t_{0}) wtedy i tylko wtedy gdy dla każdego 0 < λ < t_{0} istnieje stała C(λ) taka, że P(|X| > t) C(λ)e^{−λt} dla wszystkich t > 0.

4. Załóżmy, że X ma skończoną funkcję tworzącą momenty na przedziale (−t_{0}, t_{0}) dla pewnego t_{0} > 0. Udowodnij, że

a) X ma wszystkie momenty skończone, tzn. E|X|^{p} < ∞ dla p > 0;

b) M_{X} (t) = ∑ _{k=0}^{∞} \frac{t^{k}}{k!} EX^{k};

c) EX^{k} = \frac{d^{k}}{dx^{k}} M_{X} (t)|_{t=0} ;

d) Jeśli Y zmienna losowa taka, że M_{Y}(t) = M_{X} (t) dla t z pewnego otoczenia 0, to μ_{Y} = μ_{X};

e) Rozkład X jest wyznaczony przez swoje momenty tzn. jeśli EY^{k} = EX^{k} dla wszystkich k ∈ ℤ_{+} , to μ_{Y} = μ_{X};

f) Jeśli X_{n} ciąg zmiennych losowych taki, że M_{X_{n}} (t) → M_{X} (t) dla t ∈ (−t_{0}, t_{0}) przy n → ∞, to X_{n} zbiega do X według rozkładu.

5. Podaj przykład dwu zmiennych losowych takich, że EX^{k} = EY^{k} dla wszystkich k ∈ ℤ_{+} (zakładamy, że E|X|^{k}, E|Y |^{k} < ∞) oraz μ_{X} ≠ μ_{Y}.

Niech f: ℝ → ℝ ∪ {∞}. Transformatą Fenchela-Legendre’a funkcji f nazywamy funkcję Lf: ℝ → ℝ ∪ {∞} określoną wzorem

Lf(x) := sup{xy − f(y): y ∈ ℝ}.

Ogólniej, gdy f: ℝ^{d} → ℝ ∪ {∞}, to definiujemy

Lf(x) := sup{⟨x, y⟩ − f(y): y ∈ ℝ^{d}}.

6. Wykaż, że:

a) L(af)(x) = aLf(x/a) dla a > 0;

b) f(x) + Lf(y) xy dla x, y ∈ ℝ;

c) Lf jest funkcją wypukłą; d) LLf f;

e) LLf = f jeśli f: ℝ → ℝ wypukła, a jeśli f przyjmuje wartość ∞, to równość zachodzi poza co najwyżej dwoma punktami;

f) LLf to maksymalna funkcja wypukła dominowana przez f.

7. Oblicz Lf dla f = |x|^{p}, 1 p ∞.

Dla zmiennej losowej X, określmy

Λ_{X} (t) := logM_{X} (t), Λ_{X}^{∗} (t) := LΛ_{X} (t).

8. Wykaż, że Λ_{X} jest funkcją wypukłą.

9. Załóżmy, że X_{i} są niezależnymi zmiennymi losowymi o jednakowym rozkładzie, a S_{n} = X_{1} + … + X_{n}. Wyraź Λ_{S_{n}}^{∗} za pomocą Λ_{X}^{∗}.

10. Oblicz Λ_{X}^{∗} dla rozkładów z zadania 1.

1. Wykaż, że dla dowolnego t > 0,

t^{−1} − t^{−3} < e^{t^{2} /2} ∫_{t}^{∞} e^{−s^{2} /2} ds < t^{−1} .

2. Uogólnij poprzednie zadanie i znajdź takie liczby a_{i} > 0, i = 0, 1, 2, …, że dla dowolnego t > 0 oraz k = 0, 1, 2, …,

∑_{i=0}^{2k+1} (−1)^{i}a_{i}t^{−2i−1} < e^{t^{2} /2} ∫_{t}^{∞} e^{−s^{2} /2} ds < ∑_{i=0}^{2k} (−1)^{i}a_{i}t^{−2i−1} .

3. Udowodnij, że dla X ∼ N (0, 1) oraz dowolnego A ∈ B(ℝ),

lim_{n→∞} \frac{1}{n} logP(S̄_{n} ∈ A) = −essinf\{x^{2}/2: x ∈ A\}.

4. Podaj przykład zmiennej X takiej, że nie istnieje lim_{n→∞} n^{−1} logP(S̄_{n} = 0).

5. Wykaż, że dla dowolnej zmiennej X,

lim_{n→∞} \frac{1}{n} logP(S̄_{n} t) = − inf_{s t} Λ_{X}^{∗} (s).

6. Wykaż, że a) Funkcja Λ_{X}^{∗} jest półciągła z dołu dla dowolnej zmiennej X;

b) Jeśli 0 ∈ IntD_{Λ_{X}} , to lim_{|t|→∞} Λ_{X}^{∗} (t) = ∞, w szczególności zbiory {t: Λ_{X}^{∗} (t) a} są zwarte dla a ∈ ℝ;

c) Jeśli D_{Λ_{X}} = ℝ, to lim_{|t|→∞} Λ_{X}^{∗} (t)/|t| = ∞.

1. Załóżmy, że współrzędne X^{(j)} wektora losowego X są niezależnymi zmiennymi losowymi. Wyraź Λ_{X} i Λ_{X}^{∗} za pomocą Λ_{X^{(j)}} i Λ_{X^{(j)}}^{∗} .

2. Niech X będzie gaussowskim d-wymiarowym wektorem losowym o średniej a i macierzy kowariancji C. Znajdź Λ_{X} i Λ_{X}^{∗}.

3. a) Wykaż, że jeśli X jest wektorem losowym w ℝ^{d} oraz t ∉ \overline{conv(supp μ_{X})}, to Λ_{X}^{∗} (t) = ∞.

b) Podaj przykład wektora losowego X oraz t ∉ supp μ_{X} takiego, że Λ_{X}^{∗} (t) < ∞.

4. Załóżmy, że (M_{k}, F_{k})_{k=0}^{∞} jest martyngałem takim, że ∥M_{k}−M_{k−1} ∥_{∞} a_{k} dla k = 1, 2, . . .. Wykaż, że

Λ_{M_{n} −M_{0}} (t) \frac{t^{2}}{2} ∑_{k=1}^{n} a_{k}^{2}

oraz

P(|M_{n} − M_{0}| s) 2 exp(−\frac{u^{2}}{2 ∑ _{k=1}^{n} a_{k}^{2}} ).

5. Przy oznaczeniach poprzedniego zadania, wykaż, że istnieje stała C < ∞ taka, że dla p 2,

∥M_{n} − M_{0}∥_{p} := (E|M_{n} − M_{0}|^{p})^{1/p} C\sqrt{p}(∑_{k=1}^{n} a_{k}^{2})^{1/2} .

6. Niech S = ∑ _{k=1}^{n} a_{k}ε_{k}, gdzie ε_{k} niezależne zmienne losowe takie, że P(ε_{k} = ±1) = 1/2. Wykaż, że dla p, q > 0 istnieje stała C_{p,q} zależna tylko od p i q dla której ∥S∥_{p} C_{p,q}∥S∥_{q}.

1. Rozpatrując rozkłady wykładnicze, gaussowskie i Poissona pokaż, że nie można poprawić rzędu oszacowań w nierównościach Bernsteina i Bennetta.

2. Załóżmy, że (M_{k}, F_{k})_{k=0}^{∞} jest martyngałem takim, że max_{k} ∥M_{k}−M_{k−1} ∥_{∞} = a, ∥E((M_{k} − M_{k−1} )^{2}|F_{k−1} )∥_{∞} σ_{k}^{2} oraz σ^{2} = ∑ _{k=1}^{n} σ_{k}^{2}. Wykaż, że

Λ_{M_{n} −M_{0}} (t) \frac{σ^{2}}{a^{2}} (e^{ta} − ta − 1)

oraz

P(|M_{n} − M_{0}| s) 2 exp( − \frac{s}{2a} ln( 1 + \frac{sa}{σ^{2}} ) ) .

3. Wykaż, że z odwrotnej nierówności wykładniczej Kołmogorowa wynika, że dla niezależnych zmiennych X_{i} o sredniej zero,

P( ∑_{i=1}^{n} X_{i} s) \frac{1}{K̃(ε)} exp( − (1 + ε)\frac{s^{2}}{2σ^{2}} ) ,

o ile

max(s, σ) max_{i}∥X∥_{∞} δ̃(ε)σ^{2}.

4. Niech X_{i} będą niezależnymi symetrycznymi zmiennymi losowymi oraz |a_{i}| 1. Wykaż, że dla dowolnej funkcji wypukłej f: F → ℝ_{+} ,

Ef(∑_{i=1}^{n} a_{i}X_{i}) Ef(∑_{i=1}^{n} X_{i}).

Wywnioskuj stąd, że dla funkcji wypukłej, niemalejącej f: ℝ+ → ℝ_{+} ,

Ef(∥ ∑_{i=1}^{n} a_{i}X_{i}∥) Ef(∥ ∑_{i=1}^{n} X_{i}∥).

5. Wykaż, że przy założeniach poprzedniego zadania nie musi być prawdą, że dla s > 0,

P(∥ ∑_{i=1}^{n} a_{i}X_{i}∥ s) P(∥ ∑_{i=1}^{n} X_{i}∥ s).

1. Wykaż, że dla niezależnych zmiennych losowych o jednakowym rozkładzie

E max_{k n}∥S_{k}∥^{p} C^{p}E∥S_{n}∥^{p}

dla p 1 i stałej uniwersalnej C.

2. Wykaż, że dla niezależnych zmiennych losowych

E max_{k n}∥S_{k}∥^{p} C^{p} max_{1 k n} E∥S_{k}∥^{p}

dla p 1 i stałej uniwersalnej C.

3. Wykaż, że nie istnieje stała uniwersalna C taka, że

E max_{k n}|M_{k}| CE|M_{n}|

dla dowolnego martyngału (M_{k})_{1 k n} .

4. Załóżmy, że X_{i} i Y_{i} są niezależnymi zmiennymi losowymi o jednakowym rozkładzie. Wykaż, że istnieją uniwersalne stałe C_{1} i C_{2} dla których

P(max_{k,l n} | ∑_{i=1}^{k} ∑_{j=1}^{l} h(X_{i}, Y_{j})| t) C_{1}P(| ∑_{i=1}^{n} ∑_{j=1}^{n} h(X_{i}, Y_{j})| t/C_{2})

dla dowolnej funkcji mierzalnej h.

5* Niech X_{i} będzie ciągiem niezależnych zmiennych losowych w ośrodkowej przestrzeni Banacha F. Wykaż, że następujące warunki są równoważne.

i) ∑ _{i=1}^{∞} X_{i} zbiega według prawdopodobieństwa ii) ∑ _{i=1}^{∞} X_{i} zbiega p.n. iii) ∑ _{i=1}^{∞} X_{i} zbiega według rozkładu.

6* Wykaż, że istnieją stałe C_{i} taka, że dla dowolnych niezależnych rzeczywistych zmiennych losowych X_{i} oraz liczb a_{k},

P( max_{1 k n} ||S_{k}| − a_{k}| t) C_{1} max_{1 k n} P(||S_{k}| − a_{k}| t/C_{2}).

1. Niech X będzie zmienną losową o wartościach w osrodkowej przestrzeni Banacha F. Wykaż, że

a) dla ε > 0 istnieje funkcja φ: F → F przyjmująca tylko przeliczalnie wiele wartości taka, że ∥X − φ(X)∥ ε p.n.,

b) jeśli E∥X∥ < ∞, to dla ε > 0 istnieje funkcja φ: F → F przyjmująca tylko skończenie wiele wartości taka, że E∥X − φ(X)∥ ε.

2. Wykaż, że jeśli X_{i} są zmiennymi o jednakowym rozkładzie takimi, że P(X_{i} ≠ 0) > 0, to lim sup_{n→∞} \frac{∥S_{n} ∥}{\sqrt{n}} = ∞ p.n..

3. Załóżmy, że X_{i} są niezależne o wartościach w F. Wykaż, że a) Dla dowolnych s, t > 0,

P(max_{k n}∥S_{k}∥ > 3t + s) P(max_{k n}∥S_{k}∥ > t)^{2} + P(max_{k n}∥X_{k}∥ > s).

b) Jeśli zmienne X_{i} są symetryczne, to dla s, t > 0,

P(max_{k n}∥S_{k}∥ > 2t + s) 4P(∥S_{n}∥ > t)^{2} + P(max_{k n}∥X_{k}∥ > s).

4. Niech S := ∑ _{i=1}^{n} x_{i}ε_{i} dla pewnych x_{i} ∈ F. Wykaż, że dla p, q > 0 istnieją stałe C_{p,q} < ∞ zależne tylko od p i q takie, że (E∥S∥^{p})^{1/p} C_{p,q}(E∥S∥^{q})^{1/q}.

5. Załóżmy, że 0 < p < ∞, zmienne X_{i} są niezależne i symetryczne o wartościach w F. Wykaż, że

E∥S_{n}∥^{p} 2 · 3^{p}E max_{i n}∥X_{i}∥^{p} + 2(3t_{0})^{p},

gdzie

t_{0} := inf{t > 0: P(∥S_{n}∥ > t) (8 · 3^{p})^{−1} }.

6. Przestrzeń Banacha F nazywamy typu p 1 jeśli istnieje stała T_{p} taka, że dla dowolnych wektorów x_{i} ∈ F,

(E∥ ∑_{i=1}^{n} x_{i}ε_{i}∥^{p})^{1/p} T_{p}(∑_{i=1}^{n} ∥x_{i}∥^{p})^{1/p}.

Wykaż, że

a) Jeśli przestrzeń jest typu p, to jest typu q dla q p.

b) Przestrzenie Hilberta są typu 2.

c) Każda przestrzeń Banacha jest typu 1 i nie istnieją przestrzenie typu p > 2.

d) Przestrzeń L^{p} jest typu min(p, 1) dla p < ∞.

e) Przestrzeń c_{0} nie ma nietrywialnego typu.

1. Załóżmy, że X_{i} są niezależnymi ograniczonymi zmiennymi losowymi o średniej zero spełniającymi warunki:

i) a_{n}^{2} := Var(S_{n}) = ∑ _{i=1}^{n} EX_{i}^{2} → ∞

ii) ∥X_{n}∥_{∞} ^{\frac{\sqrt{ln ln a_{n}^{2}}}{a_{n}}} → 0. Wykaż, że

lim sup_{n→∞} \frac{S_{n}}{\sqrt{2a_{n}^{2} lnlna_{n}^{2}}} = 1 p.n.

2. Załóżmy, że X_{i} są niezależnymi zmiennymi losowymi o jednakowym rozkładzie ze średnią zero i warinacją σ^{2}. Wykaż, że dla dowolnej funkcji ciągłej f: ℝ → ℝ,

lim sup_{n→∞}f(\frac{S_{n}}{\sqrt{2n lnlnn}}) = sup_{t∈[−σ,σ]} f(t) p.n.,
lim inf_{n→∞} f(\frac{S_{n}}{\sqrt{2n lnlnn}}) = inf_{t∈[−σ,σ]} f(t) p.n..

3. Załóżmy, że X_{i} są niezależnymi wektorami losowymi w ośrodkowej przestrzeni Banacha o tym samym rozkładzie co X. Wykaż, że warunek

lim sup_{n→∞} \frac{∥S_{n}∥}{\sqrt{2n lnlnn}} < ∞ p.n.

implikuje:

i) E\frac{∥X∥^{2}}{LL∥X∥} < ∞, gdzie LLx := lnln(x ∨ 10). ii) EX = 0 oraz sup_{∥x^{∗} ∥ 1} E|x^{∗}(X)|^{2} < ∞.

4. Załóżmy, że X_{i} są niezależnymi wektorami losowymi w ośrodkowej przestrzeni Banacha typu 2 o tym samym rozkładzie co X oraz E\frac{∥X∥^{2}}{LL∥X∥} < ∞. Wykaż, że \frac{S_{n}}{\sqrt{2n ln ln n}} zbiega do 0 według prawdopodobieństwa.

1. Niech f: ℝ^{n} → ℝ będzie funkcją ciągłą o nośniku zwartym, Wykaż, że a) Dla α ∈ ℤ_{+}^{n} oraz t ∈ ℝ^{n}

t^{α} f̂(t) = i^{|α|} { \atop D^{α} f}(t)

i wywnioskuj stąd, że f̂ jest funkcją szybko znikającą w nieskończoności,

b) dla dowolnej miary skończonej μ na ℝ^{n},

∫_{ℝ^{n}} f(x)dμ(x) = \frac{1}{(2π)^{n}} ∫_{ℝ^{n}} f̂(−y)μ̂(y)dy,

w szczególności

f(t) = \frac{1}{(2π)^{n}} ∫_{ℝ^{n}} e^{itx} f̂(−x)dx.

c) Dla α ∈ ℤ_{+}^{n} ,

D^{α} f(t) = \frac{1}{(2π)^{n}} ∫ e^{itx} (ix)^{α} f̂(−x)dx.

2. a) Niech ν będzie miarą na ℝ \ {0} taką, że ∫ x^{2}dν(x) < ∞ oraz X ma rozkład nieskończenie podzielny π_{a,σ^{2} ,ν} . Wykaż, że EX^{2} < ∞ oraz

EX = a + ∫_{ℝ\\{0\}} \frac{y^{3}}{1 + y^{2}} dν(y),
Var(X) = σ^{2} + ∫_{ℝ\{0}} y^{2}dν(y).

b) Wykaż, że jeśli X ∼ π_{a,σ^{2} ,ν} oraz EX^{2} < ∞, to ∫ x^{2}dν(x) < ∞.

3. Załóżmy, że ciąg zmiennych nieskończenie podzielnych X_{n} zbiega według rozkładu do zmiennej X. Wykaż, że X jest nieskończenie podzielny.

4. Wykaż, że jedyne ograniczone zmienne nieskończenie podzielne, to stałe.

5. Wykaż, że zmienna X ma symetryczny rozkład nieskończenie podzielny wtedy i tylko wtedy gdy istnieje σ 0 oraz miara ν na (0, ∞) taka, że ∫_{(0,∞)} min(1, x^{2})dν(x) < ∞ dla których

φ_{X} (t) = exp( − \frac{t^{2}σ^{2}}{2} + ∫_{(0,∞)} (cos(tx) − 1)dν(x)) .

6. Udowodnij, że zmienna X ma nieujemny rozkład nieskończenie podzielny wtedy i tylko wtedy gdy istnieje a 0 oraz miara ν na (0, ∞) taka, że ∫_{(0,∞)} min(1, x)dν(x) < ∞ dla których

φ_{X} (t) = exp( ita + ∫_{(0,∞)} (e^{itx} − 1)dν(x)) .

1. Niech q: ℝ → ℝ będzie funkcją mierzalną, ograniczoną taką, że

lim sup_{x→0} \frac{|x − q(x)|}{x^{2}} < ∞.

Wykaż, że zmienna X jest nieskończenie podzielna wtedy i tylko wtedy gdy istnieje układ Levy’ego (a, σ, ν) taki, że

φ_{X} (t) = exp( ita − \frac{t^{2}σ^{2}}{2} + ∫_{ℝ\\{0\}} (e^{itx} − 1 − itq(x))dν(x)) .

2. Niech (a, σ^{2}, ν) będzie układem Levy’ego. Wykaż, że istnieje proces stochastyczny (X_{t})_{t 0} taki, że

i) X_{0} = 0 p.n. ii) X_{t} ma przyrosty niezależne iii) X_{t} − X_{s} ∼ π_{(t−s)a,(t−s)σ^{2} ,(t−s)ν} dla 0 s < t.

3. Niech N_{t} będzie procesem Poissona z intensywnością λ oraz X, X_{1}, X_{2}, … będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie. Określmy złożony proces Poissona wzorem

Y_{t} := ∑_{s=1}^{N_{t}} X_{s}.

Wykaż, że

a) Y_{t} jest procesem o przyrostach niezależnych i trajektoriach prawostronnie ciągłych,

b) EY_{t} = λtEX, Var(Y_{t}) = λtEX^{2}

c) EWah_{[0,T]}(Y) = λT E|X|,

d) P(sup_{0 t T} |Y_{t} − λtEX| ε) \frac{4λT}{ε^{2}} EX^{2}.

4. Wykaż, że dla dowolnego układu Levy’ego (a, σ^{2}, ν) istnieje proces Z_{t} spełniający warunki i)-iii) zadania 2 oraz taki, że iv) Trajektorie Z_{t} są prawostronnie ciągłe i posiadają lewostronne granice.

5. Udowodnij, że przy założeniach poprzedniego zadania, jeśli σ = 0 oraz ∫ |y|dν < ∞, to możemy skonstruować proces X_{t} spełniający warunki poprzedniego zadania którego trajektorie mają wahanie ograniczone na każdym przedziale skończonym.

1. Wykaż (bez używania funkcji charakterystycznych), że jeśli X jest rozkładem α-stabilnym oraz X_{1}, X_{2} są niezależnymi kopiami X, to c_{1}X_{1} + c_{2}X_{2} ∼ (c_{1}^{α} + c_{2}^{α})^{1/α} X + B(c_{1}, c_{2}) dla c_{1}, c_{2} 0.

2. Scharakteryzuj wszystkie nieujemne rozkłady stabilne.

3. Scharakteryzuj wszystkie symetryczne rozkłady stabilne.

4. Niech T_{1}, T_{2}, … będą niezależnymi zmiennymi losowymi o rozkładzie wykładniczym z parametrem 1, zaś Γ_{j} := T_{1} + … + T_{j}.

a) Niech S_{j} będzie momentem j-tego skoku procesu Poissona N z intensywnością λ, tzn. S_{j} := inf{t: N_{t} = j}. Wykaż, że ciąg (S_{j}) ma ten sam rozkład, co ciąg (Γ_{j} /λ).

b) Załóżmy, że (Γ_{j,k} ), k = 1, 2 …, n są niezależnymi kopiami (Γ_{j}) oraz λ_{1}, …, λ_{n} > 0. Niech (Z_{j}^{∗})_{j 1} oznacza niemalające uporzadkowanie zbioru {Γ_{j,k} /λ_{k}: j 1, 1 k n}. Wykaż, że (Z_{j}^{∗}) ma ten sam rozkład, co (\frac{Γ_{j}}{λ_{1} +...+λ_{n}} ).

c) Wykaż, że dla j > p > 0,

EΓ_{j}^{−p} = \frac{Γ(j − p)}{Γ(j)} ∼ \frac{1}{j^{p}} .

5. Ustalmy 0 < α < 2. Niech (Γ_{j}) będzie jak w porzednim zadaniu, a X, X_{1}, X_{2}, … będzię ciągiem niezależnych symetrycznych zmiennych losowych o jednakowym rozkładzie, niezależnym od (Γ_{j}) takim, że E|X|^{α} < ∞. Wykaż, że

a) Szereg

S := ∑_{j=1}^{∞} Γ_{j}^{−1/α} X_{j}

jest zbieżny p.n.

b) S ma symetryczny rozkład α-stabilny c*) lim_{t→∞} t^{α} P(|S| > t) = E|X|^{α}.

6. Wykaż, że jeśli X ma rozkład α-stabilny oraz α ≠ 2, to E|X|^{p} < ∞ wtedy i tylko wtedy gdy p < α.