WnioskowanieStatystyczne/Momenty

2026-09-08T13:58:05Z

Durka: /* Kowariancja i współczynnik korelacji */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Wariancja, korelacja, mediana==
Jak widać, własności rozkładów ciągłych i dyskretnych będą opisywać nieco
odmienne wzory; poniżej
przytaczamy najczęściej wykorzystywane w praktyce definicje i zależności.

===Wartość oczekiwana===
Zgodnie z nazwą i intuicją, wartość oczekiwana (wartość średnia, przeciętna) określa środek rozkładu, czyli okolicę, w którą najczęściej powinny "trafiać" wyniki.<ref>Nie musi być równa wartości zmiennej losowej, dla której prawdopodobieństwo jest największe.</ref>
Dla rozkładów dyskretnych będzie się ona wyrażać wzorem:

<math>
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

a dla rozkładów ciągłych:
<equation id="eq:60">
<math>
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx.
</math>
</equation>

Na podstawie tych wzorów łatwo dowieść liniowości wartości oczekiwanej; dla zmiennych losowych <math>x</math> i
<math>y</math> oraz stałych <math>c_1</math> i <math>c_2</math>
<equation id="eq:61">
<math>
E(c_1 x+c_2 y)=c_1 E(x)+c_2 E(y).
</math>
</equation>

===Mediana===

Mediana to inna od wartości oczekiwanej miara położenia środka rozkładu. Określamy ją jako
taką wartość zmiennej losowej <math>x_{\frac{1}{2}}</math>, która dzieli rozkład gęstości
prawdopodobieństwa na dwie równe części — wartościom zmiennych losowych
mniejszym niż <math>x_{\frac{1}{2}}</math> odpowiada tyle samo przypadków, co wartościom większym:

<math>
\int\limits_{-\infty}^{x_{\frac{1}{2}}} p(x) dx = \int\limits_{x_{\frac{1}{2}}}^\infty p(x) dx= \ \frac{1}{2}.
</math>

Dla rozkładów symetrycznych mediana i wartość oczekiwana są sobie równe, w ogólnym przypadku rozkładów niesymetrycznych — NIE, por. np.
[https://upload.wikimedia.org/wikipedia/commons/d/de/Comparison_mean_median_mode.svg ilustracja różnic z Wikipedii]

===Wariancja===

Wariancja jest miarą rozrzutu zmiennej losowej wokół wartości
oczekiwanej, czyli "szerokości" rozkładu prawdopodobieństwa. Mała
wariancja oznacza, że zmienne (np. wyniki losowań) będą gromadzić się
("wypadać") blisko wartości oczekiwanej (i blisko siebie).

Wariancję określamy jako wartość oczekiwaną kwadratu różnicy zmiennej i jej
wartości oczekiwanej; dla rozkładów dyskretnych:

<math>
\sigma ^{2}(x)=E((x-\mu)^{2})=\overset{n}{\underset{i=1}{\sum }}
P(X=x_{i})(x_{i}-\mu)^{2}.
</math>

Dla rozkładów ciągłych:
<equation id="eq:63">
<math>
\sigma ^2(x)=E((x-\mu)^{2})=\underset{-\infty }{\overset{\infty }{
\int }}(x-\mu)^{2} p(x)dx.
</math>
</equation>

Pierwiastek wariancji <math>\left( \sigma=\sqrt{\sigma^2}\right)</math> nosi nazwę ''odchylenia standardowego''.

===Kowariancja i współczynnik korelacji===
[[Plik:Korelacja.png|300px|thumb|right|<figure id="fig:rozw2"></figure>Przykładowe wartości współczynnika korelacji dla 300 par <math>(x, y)</math> o
różnych stopniach współzależności.
]]
Miarą związku między zmiennymi <math>x</math> i <math>y</math> jest kowariancja

<math>
\sigma_{x, y} = E\left( (x-\mu_{x})(y-\mu_{y})\right)
</math>

lub unormowany do jedności współczynnik korelacji zmiennych <math>x</math> i <math>y</math>:

<math>
\rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}=
\frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)}
{\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}},
</math>

gdzie <math>\mu_x</math> i <math>\mu_y</math> to odpowiednio wartości
oczekiwane zmiennych <math>x</math> i <math>y</math>. Jeśli zmienne
<math>x</math> i <math>y</math> związane są deterministyczną
zależnością liniową (typu <math>y=c_1 x+c_2</math>), to ich korelacja
wynosi <math>1</math> (lub <math>-1</math>, jeśli <math>c_1<
0</math>). Jeśli wzrostowi zmiennej <math>x</math> towarzyszy
statystycznie wzrost zmiennej <math>y</math>, to ich korelacja jest
dodatnia (pomiędzy <math>0</math> a <math>1</math>). Dla zmiennych
niezależnych korelacja wynosi <math>0</math>.

Por. także [https://upload.wikimedia.org/wikipedia/commons/d/d4/Correlation_examples2.svg ilustracje z Wikipedii].

===Wariancja sumy i wariancja przeskalowanej zmiennej===

'''Skalowanie zmiennej a wariancja.''' Z liniowości <xr id="eq:61">(%i)</xr> mamy <math>E(ax+b)=a\mu+b</math>, a zatem

<math>
\sigma^2(ax+b)=E\left(\left((ax+b)-(a\mu+b)\right)^2\right)=E\left(a^2(x-\mu)^2\right)=a^2 E\left((x-\mu)^2\right)=a^2\sigma^2(x)
</math>

Jak widać, przesunięcie zmiennej <math>x</math> o stałą <math>b</math> nie zmienia rozrzutu, a przeskalowanie stałą <math>a</math> zmienia odchylenie standardowe proporcjonalnie do <math>|a|</math>, wariancję — z kwadratem:

<math>\sigma(ax+b)=|a|\,\sigma(x)</math>

'''Suma zmiennych.''' Oznaczmy <math>\mu_x=E(x)</math>, <math>\mu_y=E(y)</math>. Ponieważ <math>E(x+y)=\mu_x+\mu_y</math>, to znów wprost z definicji wariancji

<math>
\sigma^2(x+y)=E\left(\left((x-\mu_x)+(y-\mu_y)\right)^2\right)=
E\left((x-\mu_x)^2\right)+E\left((y-\mu_y)^2\right)+2E\left((x-\mu_x)(y-\mu_y)\right)
</math>

Dwa pierwsze składniki to <math>\sigma^2(x)</math> i <math>\sigma^2(y)</math>, a trzeci to podwojona kowariancja zdefiniowana w poprzednim podrozdziale — czyli

<math>
\sigma^2(x+y)=\sigma^2(x)+\sigma^2(y)+2\sigma_{x,y}
</math>

'''Zmienne niezależne.''' Dla zmiennych niezależnych kowariancja — a z nią współczynnik korelacji, o czym była mowa na końcu poprzedniego podrozdziału — wynosi zero. Wariancje po prostu się wtedy dodają, i to również dla różnicy:

<equation id="eq:62">
<math>
\sigma^2(x \pm y)=\sigma^2(x)+\sigma^2(y) \qquad \textrm{dla } x, y \textrm{ niezależnych.}
</math>
</equation>

Zwróćmy uwagę, że dodają się '''wariancje''', a nie odchylenia standardowe: <math>\sigma(x \pm y)=\sqrt{\sigma^2(x)+\sigma^2(y)}</math>.

Ze wzoru <xr id="eq:62">(%i)</xr> korzystamy dalej wielokrotnie: przy [[WnioskowanieStatystyczne/Rozklady-przyklady|wariancji rozkładu dwumianowego]], w dowodzie [[WnioskowanieStatystyczne/CLT|Centralnego Twierdzenia Granicznego]], przy [[WnioskowanieStatystyczne/Statystyki_i_estymatory|wariancji wartości średniej]] (<math>\sigma^2(\overline{x})=\sigma^2(x)/n</math>) oraz przy wariancji różnicy średnich w [[WnioskowanieStatystyczne/Test_t|teście t]].

--------------------
<references />

WnioskowanieStatystyczne/Momenty

2026-09-08T13:57:42Z

Durka: /* Kowariancja i współczynnik korelacji */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Wariancja, korelacja, mediana==
Jak widać, własności rozkładów ciągłych i dyskretnych będą opisywać nieco
odmienne wzory; poniżej
przytaczamy najczęściej wykorzystywane w praktyce definicje i zależności.

===Wartość oczekiwana===
Zgodnie z nazwą i intuicją, wartość oczekiwana (wartość średnia, przeciętna) określa środek rozkładu, czyli okolicę, w którą najczęściej powinny "trafiać" wyniki.<ref>Nie musi być równa wartości zmiennej losowej, dla której prawdopodobieństwo jest największe.</ref>
Dla rozkładów dyskretnych będzie się ona wyrażać wzorem:

<math>
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

a dla rozkładów ciągłych:
<equation id="eq:60">
<math>
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx.
</math>
</equation>

Na podstawie tych wzorów łatwo dowieść liniowości wartości oczekiwanej; dla zmiennych losowych <math>x</math> i
<math>y</math> oraz stałych <math>c_1</math> i <math>c_2</math>
<equation id="eq:61">
<math>
E(c_1 x+c_2 y)=c_1 E(x)+c_2 E(y).
</math>
</equation>

===Mediana===

Mediana to inna od wartości oczekiwanej miara położenia środka rozkładu. Określamy ją jako
taką wartość zmiennej losowej <math>x_{\frac{1}{2}}</math>, która dzieli rozkład gęstości
prawdopodobieństwa na dwie równe części — wartościom zmiennych losowych
mniejszym niż <math>x_{\frac{1}{2}}</math> odpowiada tyle samo przypadków, co wartościom większym:

<math>
\int\limits_{-\infty}^{x_{\frac{1}{2}}} p(x) dx = \int\limits_{x_{\frac{1}{2}}}^\infty p(x) dx= \ \frac{1}{2}.
</math>

Dla rozkładów symetrycznych mediana i wartość oczekiwana są sobie równe, w ogólnym przypadku rozkładów niesymetrycznych — NIE, por. np.
[https://upload.wikimedia.org/wikipedia/commons/d/de/Comparison_mean_median_mode.svg ilustracja różnic z Wikipedii]

===Wariancja===

Wariancja jest miarą rozrzutu zmiennej losowej wokół wartości
oczekiwanej, czyli "szerokości" rozkładu prawdopodobieństwa. Mała
wariancja oznacza, że zmienne (np. wyniki losowań) będą gromadzić się
("wypadać") blisko wartości oczekiwanej (i blisko siebie).

Wariancję określamy jako wartość oczekiwaną kwadratu różnicy zmiennej i jej
wartości oczekiwanej; dla rozkładów dyskretnych:

<math>
\sigma ^{2}(x)=E((x-\mu)^{2})=\overset{n}{\underset{i=1}{\sum }}
P(X=x_{i})(x_{i}-\mu)^{2}.
</math>

Dla rozkładów ciągłych:
<equation id="eq:63">
<math>
\sigma ^2(x)=E((x-\mu)^{2})=\underset{-\infty }{\overset{\infty }{
\int }}(x-\mu)^{2} p(x)dx.
</math>
</equation>

Pierwiastek wariancji <math>\left( \sigma=\sqrt{\sigma^2}\right)</math> nosi nazwę ''odchylenia standardowego''.

===Kowariancja i współczynnik korelacji===

[[Plik:Korelacja.png|300px|thumb|right|<figure id="fig:rozw2"></figure>Przykładowe wartości współczynnika korelacji dla 300 par <math>(x, y)</math> o
różnych stopniach współzależności.
]]

Miarą związku między zmiennymi <math>x</math> i <math>y</math> jest kowariancja

<math>
\sigma_{x, y} = E\left( (x-\mu_{x})(y-\mu_{y})\right)
</math>

lub unormowany do jedności współczynnik korelacji zmiennych <math>x</math> i <math>y</math>:

<math>
\rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}=
\frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)}
{\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}},
</math>

gdzie <math>\mu_x</math> i <math>\mu_y</math> to odpowiednio wartości
oczekiwane zmiennych <math>x</math> i <math>y</math>. Jeśli zmienne
<math>x</math> i <math>y</math> związane są deterministyczną
zależnością liniową (typu <math>y=c_1 x+c_2</math>), to ich korelacja
wynosi <math>1</math> (lub <math>-1</math>, jeśli <math>c_1<
0</math>). Jeśli wzrostowi zmiennej <math>x</math> towarzyszy
statystycznie wzrost zmiennej <math>y</math>, to ich korelacja jest
dodatnia (pomiędzy <math>0</math> a <math>1</math>). Dla zmiennych
niezależnych korelacja wynosi <math>0</math>.

Por. także [https://upload.wikimedia.org/wikipedia/commons/d/d4/Correlation_examples2.svg ilustracje z Wikipedii].

===Wariancja sumy i wariancja przeskalowanej zmiennej===

'''Skalowanie zmiennej a wariancja.''' Z liniowości <xr id="eq:61">(%i)</xr> mamy <math>E(ax+b)=a\mu+b</math>, a zatem

<math>
\sigma^2(ax+b)=E\left(\left((ax+b)-(a\mu+b)\right)^2\right)=E\left(a^2(x-\mu)^2\right)=a^2 E\left((x-\mu)^2\right)=a^2\sigma^2(x)
</math>

Jak widać, przesunięcie zmiennej <math>x</math> o stałą <math>b</math> nie zmienia rozrzutu, a przeskalowanie stałą <math>a</math> zmienia odchylenie standardowe proporcjonalnie do <math>|a|</math>, wariancję — z kwadratem:

<math>\sigma(ax+b)=|a|\,\sigma(x)</math>

'''Suma zmiennych.''' Oznaczmy <math>\mu_x=E(x)</math>, <math>\mu_y=E(y)</math>. Ponieważ <math>E(x+y)=\mu_x+\mu_y</math>, to znów wprost z definicji wariancji

<math>
\sigma^2(x+y)=E\left(\left((x-\mu_x)+(y-\mu_y)\right)^2\right)=
E\left((x-\mu_x)^2\right)+E\left((y-\mu_y)^2\right)+2E\left((x-\mu_x)(y-\mu_y)\right)
</math>

Dwa pierwsze składniki to <math>\sigma^2(x)</math> i <math>\sigma^2(y)</math>, a trzeci to podwojona kowariancja zdefiniowana w poprzednim podrozdziale — czyli

<math>
\sigma^2(x+y)=\sigma^2(x)+\sigma^2(y)+2\sigma_{x,y}
</math>

'''Zmienne niezależne.''' Dla zmiennych niezależnych kowariancja — a z nią współczynnik korelacji, o czym była mowa na końcu poprzedniego podrozdziału — wynosi zero. Wariancje po prostu się wtedy dodają, i to również dla różnicy:

<equation id="eq:62">
<math>
\sigma^2(x \pm y)=\sigma^2(x)+\sigma^2(y) \qquad \textrm{dla } x, y \textrm{ niezależnych.}
</math>
</equation>

Zwróćmy uwagę, że dodają się '''wariancje''', a nie odchylenia standardowe: <math>\sigma(x \pm y)=\sqrt{\sigma^2(x)+\sigma^2(y)}</math>.

Ze wzoru <xr id="eq:62">(%i)</xr> korzystamy dalej wielokrotnie: przy [[WnioskowanieStatystyczne/Rozklady-przyklady|wariancji rozkładu dwumianowego]], w dowodzie [[WnioskowanieStatystyczne/CLT|Centralnego Twierdzenia Granicznego]], przy [[WnioskowanieStatystyczne/Statystyki_i_estymatory|wariancji wartości średniej]] (<math>\sigma^2(\overline{x})=\sigma^2(x)/n</math>) oraz przy wariancji różnicy średnich w [[WnioskowanieStatystyczne/Test_t|teście t]].

--------------------
<references />

WnioskowanieStatystyczne/Rozklady-przyklady

2026-09-08T13:54:27Z

Durka: /* Dowód */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Rozkład równomierny==

... zwany też jednostajnym, prostokątnym lub płaskim, przyjmuje jednakowe wartości dla wszystkich liczb z jakiegoś odcinka (na przykład między zero a jeden), a poza tym odcinkiem ma wartość zero:

<math>\begin{matrix}
p(x) = 1 & \textrm{ dla } & 0\leq x\leq 1
\\
p(x) = 0 & \textrm{ dla } & x>1\ \textrm{ lub }\ x<0.
\end{matrix}</math>

[[Plik:Rozklad_plaski.png|300px|thumb|left|<figure id="fig:rozw2"></figure>Rozkład równomierny określony na odcinku od zera do jedynki.
]]

Wartość oczekiwana

<math>
\mu =E(x)=\int\limits_0^1 x dx=\left[\frac{x^{2}}{2}\right]_0^1=\frac{1}{2}.
</math>

Wariancja

<math>
\sigma ^{2}=E((x-\mu )^{2})= \int\limits_0^1 \left(x-\frac 1 2 \right)^2 dx =
\int\limits_0^1\left(x^2 - x +\frac 14\right) dx = \left[\frac{x^3}3 - \frac{x^2}2 +\frac x 4
\right]^1_0 = \frac 1 {12}.
</math>

Oczywiście rozkład jednostajny może być określony na dowolnym odcinku <math>(a, b)</math> — wystarczy przeskalować opisaną powyżej kanoniczną postać:

<math>\begin{matrix}
p(x) = \frac{1}{b-a} & \textrm{ dla } & a\leq x\leq b
\\
p(x) = 0 & \textrm{ dla } & x<a\ \textrm{ lub }\ x>b.
\end{matrix}</math>

Proste modyfikacje przytoczonych powyżej całek wykażą, że jego wartość oczekiwana wynosi

<math>\frac{a+b}{2},</math>

a wariancja

<math>\frac{(b-a)^2}{12}</math>.

==Rozkład dwumianowy==

Powtarzamy <math>n</math> razy doświadczenie o dwóch możliwych
wynikach <math>A</math> i <math>\overline{A}</math> oraz
prawdopodobieństwach odpowiednio <math>p</math> i <math>q</math>, przy
czym <math>p+q=1</math>. Wynik <math>A</math> nazywamy sukcesem i
pytamy, jakie jest prawdopodobieństwo <math>k</math> sukcesów?

Liczba <math>k</math>-elementowych podciągów ciągu
<math>n</math>-elementowego wynosi <math>\frac{n!}{(n-k)!}</math>,
czyli <math>n(n-1)(n-2)...(n-k+1)</math>; na pierwszym miejscu każdego
z ciągów możemy ustawić każdy z <math>n</math> elementów, po jego
ustaleniu na drugim miejscu każdy z <math>n-1</math> elementów itd.
Jeśli ponadto nie rozróżniamy podciągów o różnej kolejności elementów,
to liczbę tę podzielić należy przez liczbę permutacji (przestawień)
zbioru <math>k</math>-elementowego, czyli <math>k!</math>. W rezultacie
dostajemy

<math>
\frac{n!}{k!(n-k)!}=\binom{n}{k}.
</math>

Niech <math>P_{n}(k)</math> oznacza prawdopodobieństwo wystąpienia
<math>k</math> razy zdarzenia o prawdopodobieństwie <math>p</math> w
serii <math>n</math> powtórzeń. Prawdopodobieństwo jednej serii
<math>k</math> zdarzeń <math>A</math> i <math>(n-k)</math> zdarzeń
<math>\overline{A}</math> wynosi <math>p^k q^{(n-k)}</math>. Zgodnie
z powyższymi rozważaniami, takich serii, które różnią się kolejnością
wystąpienia zdarzeń <math>p</math> i <math>q</math>, będzie
<math>\binom n k</math>. Ostatecznie rozkład dwumianowy możemy opisać
następującym wzorem:

<math>
P_{n}(k)=\binom{n}{k}p^{k}q^{n-k}=\frac{n!}{k!(n-k)!}p^{k}(1-p)^{n-k}.
</math>

Rysunek <xr id="fig:rozw2"> %i</xr> przedstawia rozkłady dwumianowe
dla różnych wartości <math>p</math> i <math>n</math>. Wartość
oczekiwana <math>\mu</math> i wariancja <math>\sigma^2</math> rozkładu
dwumianowego wyrażają się następującymi wzorami:

<math>
\mu=np, \qquad \sigma^2=npq.
</math>

===Dowód===

Bezpośrednie rachunki są w tym przypadku żmudne, więc dla znalezienia
wartości oczekiwanej i wariancji rozkładu dwumianowego posłużymy się
zmienną losową <math>x_{i}</math>, opisującą wynik pojedynczego
doświadczenia. Przyjmuje ona wartość 1, jeśli zaszło zdarzenie
<math>A</math> (sukces) i 0 w przypadku porażki. Rozkład liczby
sukcesów w serii <math>n</math> powtórzeń opisuje zmienna będąca ich
sumą <math>X=\sum\limits_{i=1}^n x_{i}</math>.

Wartość oczekiwana zmiennej <math>x_i</math>, czyli wyniku ''pojedynczego''
doświadczenia, wynosi

<math>
E(x_i)=\sum\limits_i x_i P(X=x_i) = 1\cdot p + 0\cdot q = p.
</math>

Wartość oczekiwana sumy <math>n</math> zmiennych <math>x_i</math>,
dającej wartość zmiennej opisywanej rozkładem dwumianowym, będzie (z
[[STAT:Momenty|liniowości wartości oczekiwanej]]) sumą
wartości oczekiwanych — stąd wartość oczekiwana rozkładu
dwumianowego wyniesie <math>n p</math>. Z kolei wariancja
<math>x_i</math> wynosi

<math>
\sigma^2(x_i)=E((x_{i}-\mu)^{2})=\sum\limits_i (x_i-p)^2P(X=x_i)= (1-p)^{2}p+(0-p)^{2}q =q^{2}p+p^{2}q=pq(p+q)=pq.
</math>



Przy założeniu losowania obu grup z tej samej populacji, wariancje średnich będą wynosić <math>s_{\overline{x}_{i}}^{2}=\frac{s^{2}}{N_{i}}</math> (według wzoru [[WnioskowanieStatystyczne/Statystyki_i_estymatory#label-eq:94|na estymator wariancji wartości średniej]]), a ponieważ wariancje zmiennych niezależnych dodają się także dla różnicy ([[WnioskowanieStatystyczne/Momenty#label-eq:62|wariancja sumy i różnicy]]), estymatą wariancji różnicy wartości średnich będzie suma tych wariancji:

<math>
\sigma^2\left(\sum_{i=1}^{n}x_i\right) = n\sigma^2(x_i) = npq.
</math>

[[Plik:Rozklad_dwumian.png|300px|thumb|left|<figure id="fig:rozw2">
</figure> Dwumianowe rozkłady prawdopodobieństwa dla <math>p=\frac 1
6</math>, <math>\frac{1}{2}=\ i\ = 0.8</math> oraz <math>n=5=\ i\ =
20</math>]]

=== Przykład: rozkład dwumianowy===
Obliczmy rozkład prawdopodobieństwa wyrzucenia <math>k</math> szóstek
w pięciu rzutach kostką (symulowany w rozdziale o metodzie [https://brain.fuw.edu.pl/edu/index.php/WnioskowanieStatystyczne/Z_komputerem Monte Carlo]): <math>p=\dfrac{1}{6}</math>, <math>q=\dfrac{5}{6}</math>,
<math>\binom{5}{0}=1</math>, <math>\binom{5}{1}=5</math> i tak dalej.

{|class=wikitable
|-
|<math>k=</math>
|0
|1
|2
|3
|4
|5
|-
|<math>P_5(k)\approx</math>
| 0,4019
| 0,4019
| 0,1608
| 0,0322
| 0,0032
| 0,0001
|}

Wartości te przedstawione są na wykresie w lewym górnym rogu rysunku
<xr id="fig:rozw2"> %i</xr>. Prawdopodobieństwo wyrzucenia przynajmniej
dwóch (czyli od dwóch do pięciu) szóstek wynosi
<equation id="eq:70">
<math>0,1608+0,0322+0,0032+0,0001\approx 0,1962</math>.
</equation>



=== Przykład: trzy dziewczynki===

Obliczmy prawdopodobieństwo, że wśród czworga dzieci będą co najmniej
trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka
każdej płci są równe.

"Co najmniej trzy dziewczynki" można zasymulować jako cztery lub trzy
"sukcesy" w czterech "losowaniach płci" o prawdopodobieństwie sukcesu <math>\frac{1}{2}</math>, czyli

<center><math> P_4(4)+P_4(3)=\binom{4}{4}\left(\frac 12\right)^4 +
\binom{4}{3}\left(\frac 12\right)^4 = (1+4)\left(\frac 12\right)^4 =
\frac{5}{16}= 0,3125, </math></center>

zgodnie z wynikiem symulacji z [[zadania]].

===Przykład: trening koszykarski===

W rzutach do kosza uzyskiwaliśmy średnio 6 trafień na 10 rzutów. Po
zmianie techniki w pierwszych 10 rzutach uzyskaliśmy 9 trafień. Czy
należy wnioskować, że nowa technika rzutów poprawia średnią trafień?

Jeśli zmiana techniki nie wpłynęła na skuteczność, to prawdopodobieństwo
uzyskania 9 lub więcej trafień na 10 rzutów odpowiada 9 lub 10 sukcesom w 10
losowaniach o prawdopodobieństwie 0,6, czyli:

<center><math>\begin{matrix}
P_{10}(9)+P_{10}(10)=\binom{10}{9}(0,6)^9 0,4+\binom{10}{10}(0,6)^{10} = \\
= (0,6)^9(10\cdot0,4+0,6)
\approx
0,0101\cdot 4,6=0,046.
\end{matrix}</math></center>

Czyli mniej niż 5% — zgodnie z wynikiem [[symulacji]].

==Rozkład Poissona==

W granicy dużej liczby <math>n</math> zdarzeń o niskim
prawdopodobieństwie <math>p</math>, tj. <math>n\rightarrow \infty ,</math> <math>np=\lambda =const., </math> otrzymujemy z rozkładu
dwumianowego rozkład Poissona:

<equation id="eq:72">
<math>
P_{n}(k)=P_{\lambda}(k)=\dfrac{\lambda ^{k}}{k!}e^{-\lambda }.
</math>
</equation>

===Dowód===

<math>\begin{matrix}
P_{n}(k)&=&\dfrac{n!}{k!(n-k)!}p^{k}q^{n-k}=
\dfrac{n!}{k!(n-k)!}
\left(\dfrac{\lambda }{n}\right)^{k}\dfrac{(1-\frac{\lambda
}{n})^{n}}{(1-\frac{\lambda }{n})^{k}}=\\
&=&\dfrac{\lambda ^{k}}{k!}\dfrac{n(n-1)...(n-k+1)(1-\frac{\lambda }{n})^{n}}{n^{k}(1-\frac{\lambda }{n})^{k}}=
\\
&=&\dfrac{\lambda ^{k}}{k!}\left(1-\dfrac{\lambda }{n}\right)^{n}\dfrac{(1-\frac{1}{n})
(1-\frac{2}{n})...(1-\frac{k-1}{n})}{(1-\frac{\lambda }{n})^{k}}.
\end{matrix}</math>

Ponieważ

<math>\underset{n\rightarrow \infty }{\lim }
\frac{(1-\frac{1}{n})
(1-\frac{2}{n})...(1-\frac{k-1}{n})}{(1-\frac{\lambda }{n})^{k}} =
1</math>

<math>e=\underset{n\rightarrow \infty }{\lim
}(1+\frac{1}{n})^{n}</math>

<math>\underset{n\rightarrow \infty }{\lim
}(1-\frac{\lambda }{n})^{n}=e^{-\lambda}</math>

dostajemy
<math>
P_{n}(k)=P_{\lambda}(k)=\dfrac{\lambda ^{k}}{k!}e^{-\lambda }.
</math>

'''Sprawdźmy warunek [[STAT:Prawdopodobieństwo#label-eq:43|<math>P(\Omega)=1</math>]]'''

Przestrzeń wszystkich możliwych zdarzeń wyczerpują tu liczby sukcesów
<math>k</math> od zera do <math>n</math>
<math>(n\rightarrow\infty)</math>, czyli

<equation id="eq:73">
<math>
P(\Omega)=\sum_{k=0}^{\infty} P_{\lambda }(k)=
\sum_{k=0}^{\infty} \frac{\lambda ^{k}}{k!}e^{-\lambda }=
e^{-\lambda }\sum_{k=0}^{\infty} \frac{\lambda ^{k}}{k!}=
e^{-\lambda }e^{\lambda }=1
</math>
</equation>

gdyż

<equation id="eq:74">
<math>
\sum_{k=0}^{\infty} \frac{\lambda ^{k}}{k!} = e^{\lambda}.
</math>
</equation>

===Wartość oczekiwana i wariancja===

wynoszą:
<equation id="eq:75">
<math>
\mu(k)=\sigma^2(k)=\lambda.
</math>
</equation>

====Dowód====
<math>
E(k)=\underset{k=0}{\overset{\infty }{\sum }}k\frac{\lambda ^{k}}{k!}
e^{-\lambda }=\lambda e^{-\lambda }\underset{k=1}{\overset{\infty }{\sum }}
\frac{\lambda ^{k-1}}{(k-1)!}=\lambda e^{-\lambda }\underset{l=0}{\overset{
\infty }{\sum }}\frac{\lambda ^{l}}{l!}=\lambda e^{-\lambda } e^{\lambda }=\lambda,
</math>

<math>
\sigma ^{2}(k) =
\\[5pt]
= E(k^{2})-\{E(k)\}^{2}
\\
= \underset{k=0}{\overset{\infty }
{\sum}}k^{2}\frac{\lambda ^{k}}{k!}e^{-\lambda } -\lambda ^{2} \qquad\longleftarrow \textrm{zerowy wyraz sumy jest zerem}
\\
= \lambda e^{-\lambda}\underset{k=1}{\overset{\infty }{\sum }}\frac{k^2 \lambda ^{k-1}}{k(k-1)!}-\lambda ^{2}
\\[5pt]
= \lambda e^{-\lambda}\underset{k=1}{\overset{\infty }{\sum }}\frac{k\lambda ^{k-1}}{(k-1)!}-\lambda ^{2}
\\[5pt]
= \lambda e^{-\lambda}\underset{k=1}{\overset{\infty }{\sum }}\frac{\left( (k-1)+1\right)\lambda ^{k-1}}{(k-1)!}-\lambda ^{2}
\\[5pt]
= \lambda e^{-\lambda}\underset{k=1}{\overset{\infty }{\sum }}\frac{ (k-1)\lambda ^{k-1}}{(k-1)!} +
\lambda e^{-\lambda}\underset{k=1}{\overset{\infty }{\sum }}\frac{\lambda ^{k-1}}{(k-1)!} -
\lambda ^{2}
\\[5pt]
= \lambda e^{-\lambda}\underset{k=2}{\overset{\infty }{\sum }}\frac{ \lambda \lambda ^{k-2}}{(k-2)!} +
\lambda e^{-\lambda}\underset{k=1}{\overset{\infty }{\sum }}\frac{\lambda ^{k-1}}{(k-1)!} -
\lambda ^{2}
\\[5pt]
= \lambda^2 e^{-\lambda}\underset{k=2}{\overset{\infty }{\sum }}\frac{ \lambda^{k-2}}{(k-2)!} +
\lambda e^{-\lambda}\underset{k=1}{\overset{\infty }{\sum }}\frac{\lambda ^{k-1}}{(k-1)!} -
\lambda ^{2} \qquad\longleftarrow l=k-2, m=k-1
\\[5pt]
= \lambda^2 e^{-\lambda}\underset{l=0}{\overset{\infty }{\sum }}\frac{ \lambda^{l}}{l!} +
\lambda e^{-\lambda}\underset{m=0}{\overset{\infty }{\sum }}\frac{\lambda ^{m}}{m!} -
\lambda ^{2} \qquad\longleftarrow \textrm{rozwinięcie } e^x \textrm{ w szereg Taylora wokół } x=0: e^x=\sum_{n=0}^{\infty} \frac{x^n}{n!}
\\[10pt]
= \lambda^2 e^{-\lambda } e^\lambda + \lambda e^{-\lambda} e^\lambda -\lambda^2
\\[10pt]
= \lambda^2 + \lambda - \lambda^2 = \lambda .

</math>

Jeśli wariancja rozkładu Poissona jest równa jego wartości oczekiwanej (<math>\lambda</math>), to odchylenie standardowe <math>\sigma</math> (czyli pierwiastek z wariancji) wyniesie

<math>
\sigma ^{2}(k)=\lambda \Rightarrow \sigma (k)=\sqrt{\lambda }=\sqrt{np}.
</math>

Wynik ten przytaczany bywa jako "prawo" określające błąd liczby
zliczeń jako jej pierwiastek.

[[Plik:Rozklad_poissona.png|300px|thumb|left|<figure id="fig:rozw2"></figure>Rozkłady Poissona dla różnych wartości parametru <math>\lambda</math>.]]

WnioskowanieStatystyczne/Bootstrap

2026-09-08T10:31:58Z

Durka: /* Bootstrap */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Bootstrap==
W poprzednim rozdziale zapoznaliśmy się z efektywnymi
metodami oceny złożonych prawdopodobieństw w sytuacji, gdy znamy model rządzący
zjawiskiem. Aby ocenić "prawdziwy" rozrzut badanej wielkości, generowaliśmy
wiele powtórzeń tego samego eksperymentu. Rozkład wyników w tym zestawie
danych (czyli próbie wylosowanej z populacji wszystkich możliwych wyników)
przybliżał rozkład prawdopodobieństwa badanej wielkości — na przykład liczby
wygranych gier. Dokładny rozkład prawdopodobieństwa uzyskalibyśmy dla
nieskończonej liczby powtórzeń eksperymentu — mówimy, że populacja wyników
tworzy zbiór nieskończony. Czasami mamy też do czynienia z próbą reprezentującą
skończoną populację wyników, jak na przykład przy przewidywaniu wyników
wyborów: kompletną populację stanowią wtedy opinie wszystkich obywateli
uprawnionych do głosowania.

Niezależnie od tego, czy populacja (czyli przestrzeń możliwych
wyników) jest skończona czy nie, nie wszystkie problemy daje się
modelować w tak prostych kategoriach. Zwykle jest wręcz odwrotnie
— dane, które mamy analizować, są ''jedyną'' dostępną
informacją o całym badanym zjawisku. Co robić w takiej sytuacji? Jak
na podstawie kilku czy kilkudziesięciu wylosowanych liczb określić
np. rozrzut wartości średniej, skoro mamy tylko jedną próbę, z
której ją (wartość średnią) wyliczamy? Oczywiście najlepiej byłoby
powtórzyć eksperyment i uzyskać więcej danych, ale może się
to okazać zbyt drogie lub wręcz niemożliwe. Co wtedy?

A może z tego jednego zestawu danych (próby) wygenerować
inne próby, które zastąpią niezależne losowania z tej samej populacji
lub powtarzanie eksperymentu? Pomysł ten przypomina opowieści barona
von Münchhausena o tym, jak "wydobył się z bagna, ciągnąc się z
całej siły za włosy" ([http://www.rytm-wydawnictwo.pl/index.php?s=karta&id=37 za Słownikiem mitów i tradycji kultury Władysława Kopalińskiego]) — stąd (pośrednio) nazwa ''bootstrap''.<ref>Bootstrap to po angielsku "pętla ze
skóry lub materiału przyszyta z boku lub od góry tylnej strony buta
dla ułatwienia jego wciągania"([http://www.houghtonmifflinbooks.com/epub/ahd4.shtml za The American Heritage Dictionary of the English Language]). Bradley Efron, który zaproponował tę technikę, pisze o nazwie: ''"The name
bootstrap, which is derived from the old saying about pulling
yourself up by your own bootstraps, reflects the fact that the one
available sample gives rise to many others"'' (w Diaconis, P. & Efron, B. (May 1983). "Computer-intensive methods in statistics". Scientific American: 116–130.). [http://books.google.pl/books?id=gLlpIUxRntoC&dq=%22An+Introduction+to+the+Bootstrap%22&printsec=frontcover&source=bn&hl=pl&ei=V3KzS4eIFcyK_Abh0bn8CA&sa=X&oi=book_result&ct=result&resnum=4&ved=0CBoQ6AEwAw#v=onepage&q=&f=false W książce] (strona 5) precyzuje explicite, że powiedzenie
to wedle ogólnego przekonania wywodzi się właśnie z opowieści barona
von Münchhausena. Jednak [http://www.rytm-wydawnictwo.pl/index.php?s=karta&id=37 Kopaliński] w
odniesieniu do opowieści barona wspomina zdecydowanie o wyciąganiu z
bagna za włosy, a nie za buty. W związku z tymi niezgodnościami, jak
również z faktem, że ten sam termin używany od dość dawna w odniesieniu
do procedur komputerowych nie doczekał się polskiego tłumaczenia,
najsensowniejszym wydaje się pozostawienie oryginalnego brzmienia.
[http://www.pwe.com.pl/13727.xml Cz. Domański i K. Pruska] podają "metody sznurowadłowe" jako odpowiednik terminu "metody bootstrapowe".</ref>
Idea tej metody jest niezmiernie prosta:

<big>'''Jeśli nie możemy wylosować więcej prób z populacji, losujemy ze zwracaniem próby z danych, którymi dysponujemy.'''</big>

Wróćmy do przykładu z poprzedniego rozdziału, czyli gry w "pięć rzutów
kostką". Dzięki dokładnemu modelowi całej gry mogliśmy tanim kosztem
symulować właściwie dowolną liczbę powtórzeń, dzięki czemu określiliśmy
nie tylko prawdopodobieństwo wygranej w pojedynczej grze, ale też
ryzyko, jaki podejmujemy decydując się na sto gier. A gdyby wewnętrzne
mechanizmy gry nie były znane, albo były tak skomplikowane, że nie
dało by się ich zamodelować nawet językiem prawdopodobieństwa?
Wyobraźmy sobie, że:

'''jedyną informacją o procesie jest 18 wygranych w stu grach.'''

Co można w tej sytuacji powiedzieć o szansach? Cóż, możemy ocenić
prawdopodobieństwo wygranej na około 0,18.

"'''około'''"?

Żeby oszacować rozrzut tej wielkości, trzeba by mieć wyniki
przynajmniej kilkuset takich serii. Albo... wyciągnąć się z bagna za
włosy, czyli wygenerować setki serii z tej jednej serii!

'''Jak?'''

Jeśli się nad tym zastanowimy, poznamy od razu ograniczenia metody:
otóż zakładamy, że próbka zawiera informację reprezentatywną dla całej
populacji, w tym przypadku wszystkich możliwych wyników stu gier. W
pewnym sensie jest to truizm, bo przecież i tak nie mamy dostępu do
innych informacji niż zawarte w próbie. Wynika stąd, że proporcję
wygranych w tej próbie (0,18) musimy uznać za prawdopodobieństwo
wygranej w jednej grze. Repróbkowanie będzie polegało na losowaniu ze
zwracaniem stu elementów spośród 18 jedynek i 82 zer. Każdy wylosowany
w ten sposób zestaw będziemy traktować jak niezależną próbę: obliczamy
dla tych danych interesującą nas wielkość — w tym przypadku po
prostu sumę elementów, odpowiadającą liczbie wygranych. Możemy to
zaprogramować np. wedle algorytmu z tabeli <xr id="eq:16"> %i</xr>. W pakietach
obliczeniowych coraz częściej pojawiają się gotowe funkcje realizujące
podstawowy algorytm bootstrapu — warto to sprawdzić,
zanim zabierzemy się do pisania pętli.

<equation id="eq:16"></equation>
jedynki = 0
powtarzaj 100 razy:
wylosuj x od 1 do 100
jeśli x mniejszy lub równy od 18
jedynki = jedynki + 1
wypisz jedynki



Średnia tych wyników powinna oczywiście dążyć do 18 — niestety nie
mamy szansy przybliżyć się na podstawie tej jednej próby do
"prawdziwej" średniej, którą uzyskalibyśmy przy większej liczbie
powtórzeń symulacji lub "prawdziwych" eksperymentów. Ale możemy
odzyskać inną bardzo ważną informację — ''rozrzut''
wyników. Spróbujmy powórzyć 10 tysięcy takich losowań "z próby"
według algorytmu z tabeli 16, i obejrzeć ich rozkład na rysunku <xr
id="fig:17"> %i</xr>.

[[Plik:Roz_2_rys_1.jpg|thumb|center|400px|<figure
id="fig:17"></figure> Rozkład liczby jedynek uzyskany z 10 tysięcy
repróbkowań ze zwracaniem (bootstrap) próby 18 jedynek i 82 zer.]]

Działa!!!

Otrzymany rozkład jest bardzo podobny do rozkładu dziesięciu tysięcy
"prawdziwych" symulacji (rys. <xr id="fig:17"> %i</xr>)! Szerokość (i
kształt) rozkładu są niemal identyczne, przesunięte jest tylko
maksimum — w tym przypadku wypada dla wartości 18, a nie jak w
przypadku "prawdziwych" symulacji w okolicach najbardziej
prawdopodobnej wartości (około 20). Ale na to już nie ma rady, liczba
sukcesów w próbie, na której przeprowadzaliśmy repróbkowanie, wynosiła
właśnie tyle, i dane te nie są wystarczające, aby ocenić, czy wynik
ten leży "na prawo czy na lewo" od dokładnej wartości
prawdopodobieństwa. Za to rozrzut udało się odtworzyć wręcz doskonale!

==Scyzoryk (''jacknife'' )==

Jest to metoda analogiczna do bootstrapu, w ktorej powtórzenia
generowane są przez usuwanie z próby kolejno po jednym elemencie. W
porównaniu z bootstrapem daje w niektórych przypadkach oszczędność
ilości obliczeń, ale ze względu na generowanie prób o mniejszej
liczebności niż oryginalna wymaga stosowania mniej intuicyjnych
wzorów.

---------------------
<references>

Sztuczne sieci neuronowe (ANN )

2026-09-08T10:30:44Z

Durka: /* Regresja Logistyczna (Logistic regression, LR) */

[[Wnioskowanie_Statystyczne_-_wykład]]

=Uczenie (maszynowe, ML) nadzorowane (supervised learning)=
Dane mamy podzielone na grupy,
szukamy funkcji najlepiej je rozdzielającej, która umożliwi
zaklasyfikowanie nowej obserwacji do jednej z tych grup.

'''Zdefiniowany powyżej cel jest zasadniczo różny od jak najdokładniejszej estymacji p-wartości, która była przedmiotem większości dotychczasowych rozważań.'''

==Regresja Logistyczna (''Logistic regression, LR'')==


Omawiana wcześniej [[WnioskowanieStatystyczne/Regresja_liniowa|regresja liniowa]] opierała się na linowej zależności między zmienną niezależną <math>x</math> a zmienną zależną <math>y</math>
:<math>y = a x + b</math>

Regresję logistyczną stosujemy w przypadku, gdy zmienna zależna jest jakościowa (wyliczeniowa / czynnikowa / kategoryczna = ''categorical variable''). Nie szacujemy wtedy wartości <math>y</math> na podstawie <math>x</math>, tylko prawdopodobieństwo przynależności <math>x</math> do jednej z klas (kategorii) <math>K_i</math>.
:<math>P(K_i | x) = \frac{1}{1 + e^ {-(a x + b)}}</math>
[[Plik:Lin_log_reg.png|center|frameless|600px]]

Podobnie jak w przypadku regresji liniowej, parametry <math>a</math> i <math>b</math> możemy estymować [[WnioskowanieStatystyczne/MLF | metodą największej wiarygodności]]. Niestety w przypadku LR nie daje się znaleźć rozwiązania analitycznego, do maksymalizacji prawdopodobieństwa a posteriori stosowane są zwykle metody gradientowe.

==Liniowa Analiza dyskryminacyjna (''Linear Discriminant Analysis, LDA'')==
Do każdego punktu danych (potencjalnie wielowymiarowych) mamy przypisaną przynależność do jednej z 2 (w klasycznym podejściu Fishera z 1936r.) lub więcej grup/klas. Założenia o danych wejściowych: rozkład normalny, [https://pl.wikipedia.org/wiki/Homoskedastyczno%C5%9B%C4%87 homoskedastyczność], niezależność.
Wykorzystywana jest do znalezienia liniowej kombinacji cech, które najlepiej rozróżniają klasy.

''[https://en.wikipedia.org/wiki/Linear_discriminant_analysis In bankruptcy prediction based on accounting ratios and other financial variables, linear discriminant analysis was the first statistical method applied to systematically explain which firms entered bankruptcy vs. survived. Despite limitations including known nonconformance of accounting ratios to the normal distribution assumptions of LDA, Edward Altman's 1968 model is still a leading model in practical applications.]''

[[Plik:Lda example bank.png|noborder|500px]]

Na LDA opierały się też w dużej części techniki psychologicznego mikrotargetowania opracowane przez [https://pl.wikipedia.org/wiki/Micha%C5%82_Kosi%C5%84ski Michała Kosińskiego], użytego pomimo jego ostrzeżeń (por. artykuł [https://www.pnas.org/doi/10.1073/pnas.1710966114 "Psychological targeting as an effective approach to digital mass persuasion"]) przez [https://en.wikipedia.org/wiki/Cambridge_Analytica Cambridge Analitica].

===Przykład: gatunki Kosaćca ([https://en.wikipedia.org/wiki/Iris_flower_data_set Iris flower dataset])===
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| dane 
|-
| <pre>
s_length s_width p_length p_width species
0 5.1 3.5 1.4 0.2 0
1 4.9 3.0 1.4 0.2 0
2 4.7 3.2 1.3 0.2 0
3 4.6 3.1 1.5 0.2 0
4 5.0 3.6 1.4 0.2 0
.. ... ... ... ... ...
145 6.7 3.0 5.2 2.3 2
146 6.3 2.5 5.0 1.9 2
147 6.5 3.0 5.2 2.0 2
148 6.2 3.4 5.4 2.3 2
149 5.9 3.0 5.1 1.8 2
[150 rows x 5 columns]
</pre>
|}
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| macierz kowariancji 
|-
| <pre>
s_length s_width p_length p_width
s_length 0.685694 -0.042434 1.274315 0.516271
s_width -0.042434 0.189979 -0.329656 -0.121639
p_length 1.274315 -0.329656 3.116278 1.295609
p_width 0.516271 -0.121639 1.295609 0.581006
</pre>
|}
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| macierz korelacji 
|-
| <pre>
s_length s_width p_length p_width
s_length 1.000000 -0.117570 0.871754 0.817941
s_width -0.117570 1.000000 -0.428440 -0.366126
p_length 0.871754 -0.428440 1.000000 0.962865
p_width 0.817941 -0.366126 0.962865 1.000000
</pre>
|}
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| kod 
|-
| <pre>
#sepal --- działki kielicha
#Iris --- Kosaciec
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn
from sklearn import datasets
iris=datasets.load_iris()
# convert dataset into a pandas dataframe
df = pd.DataFrame(data = np.c_[iris['data']], columns = iris['feature_names'])
df['species'] = pd.Categorical.from_codes(iris.target, iris.target_names)
df.columns = ['s_length', 's_width', 'p_length', 'p_width','species']
seaborn.pairplot(df, hue="species") #, diag_kind="hist")
plt.show()

df2 = df[df.columns[:-1]]
print('\nkowariancja:\n', df2.cov())
print('\nkorelacja:\n', df2.corr())
</pre>
|}

[[Plik:Kosaciec scatter.png|600px]]

==Przykładowe wyniki zastosowania LDA, LR i modelu wyższego rzędu (QDA) do par cech.==
Docelowo klasyfikacje robimy oczywiście w oparciu o wszystkie cechy, ale w dwóch wymiarach łatwiej zaobserwować własności metod.
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| kod
|-
| <pre>
import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis, QuadraticDiscriminantAnalysis
from sklearn.linear_model import LogisticRegression
from sklearn.preprocessing import StandardScaler

iris = datasets.load_iris()
# Bierzemy tylko dwie cechy dla wizualizacji:
# [:,:2] --- sepal
# [:,2:] --- petal

X = iris.data[:, 2:]
feature_names = iris.feature_names[2:]
target_names = iris.target_names
y = iris.target
X_scaled=X
# Inicjalizacja modeli
lda = LinearDiscriminantAnalysis()
logreg = LogisticRegression()
qda = QuadraticDiscriminantAnalysis()
# Trenowanie modeli
lda.fit(X_scaled, y)
logreg.fit(X_scaled, y)
qda.fit(X_scaled, y)
# Tworzenie siatki punktów dla wizualizacji
h = 0.02 # Rozmiar siatki
x_min, x_max = X_scaled[:, 0].min() - 1, X_scaled[:, 0].max() + 1
y_min, y_max = X_scaled[:, 1].min() - 1, X_scaled[:, 1].max() + 1
lda_grid_x, lda_grid_y = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
logreg_grid_x, logreg_grid_y = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
qda_grid_x, qda_grid_y = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
lda_grid = np.c_[lda_grid_x.ravel(), lda_grid_y.ravel()]
logreg_grid = np.c_[logreg_grid_x.ravel(), logreg_grid_y.ravel()]
qda_grid = np.c_[qda_grid_x.ravel(), qda_grid_y.ravel()]
# Predykcja klas dla punktów na siatce w metodzie LDA
lda_pred_grid = lda.predict(lda_grid)
lda_pred_grid = lda_pred_grid.reshape(lda_grid_x.shape)
# Predykcja klas dla punktów na siatce w metodzie regresji logistycznej
logreg_pred_grid = logreg.predict(logreg_grid)
logreg_pred_grid = logreg_pred_grid.reshape(logreg_grid_x.shape)
# Predykcja klas dla punktów na siatce w metodzie QDA
qda_pred_grid = qda.predict(qda_grid)
qda_pred_grid = qda_pred_grid.reshape(qda_grid_x.shape)

# Wykresy
fig, axes = plt.subplots(1, 3, figsize=(15, 5))
# Wykres dla LDA
ax1 = axes[0]
for color, i, target_name in zip(['navy', 'turquoise', 'darkorange'], [0, 1, 2], target_names):
ax1.scatter(X_scaled[y == i, 0], X_scaled[y == i, 1], color=color, alpha=0.8, lw=2, label=target_name)
ax1.contourf(lda_grid_x, lda_grid_y, lda_pred_grid, alpha=0.3, cmap='Set1')
ax1.set(xlim=(x_min, x_max), ylim=(y_min, y_max))
ax1.set_title('LDA')
ax1.set_xlabel(feature_names[0])
ax1.set_ylabel(feature_names[1])
ax1.legend()
# Wykres dla regresji logistycznej
ax2 = axes[1]
for color, i, target_name in zip(['navy', 'turquoise', 'darkorange'], [0, 1, 2], target_names):
ax2.scatter(X_scaled[y == i, 0], X_scaled[y == i, 1], color=color, alpha=0.8, lw=2, label=target_name)
ax2.contourf(logreg_grid_x, logreg_grid_y, logreg_pred_grid, alpha=0.3, cmap='Set1')
ax2.set(xlim=(x_min, x_max), ylim=(y_min, y_max))
ax2.set_title('Regresja logistyczna')
ax2.set_xlabel(feature_names[0])
ax2.set_ylabel(feature_names[0])
ax2.legend()
# Wykres dla QDA
ax3 = axes[2]
for color, i, target_name in zip(['navy', 'turquoise', 'darkorange'], [0, 1, 2], target_names):
ax3.scatter(X_scaled[y == i, 0], X_scaled[y == i, 1], color=color, alpha=0.8, lw=2, label=target_name)
ax3.contourf(qda_grid_x, qda_grid_y, qda_pred_grid, alpha=0.3, cmap='Set1')
ax3.set(xlim=(x_min, x_max), ylim=(y_min, y_max))
ax3.set_title('QDA')
ax3.set_xlabel(feature_names[0])
ax3.set_ylabel(feature_names[0])
ax3.legend()

plt.tight_layout()
plt.show()
</pre>
|}

[[Plik:Kosaciec_sep1.png|800px]]

[[Plik:Kosaciec_sep2.png|800px]]

==Weryfikacja==
Ponieważ nie chodzi nam o klasyfikowanie obserwacji już zaklasyfikowanych, tylko nowych, do weryfikacji działania algorytmów stosujemy [https://pl.wikipedia.org/wiki/Sprawdzian_krzy%C5%BCowy sprawdzian krzyżowy] (ang. [https://en.wikipedia.org/wiki/Cross-validation_(statistics) cross-validation]).

==Sztuczne sieci neuronowe (''ANN'' )==
''Artificial Neural Networks, ANN'' powstały w wyniku dążenia do stworzenia systemów naśladujących działanie mózgu. Mózg człowieka składa się z ok. <math>10^{11}-10^{12}</math> neuronów, każdy z nich posiada ok. <math>10^4</math> połączeń z innymi neuronami. Ich działanie w największym uproszczeniu można opisać jak następuje:
<blockquote>
Potencjał czynnościowy wygenerowany przez neuron propaguje się przez wypustki (akson i dendryty) do innych neuronów. Potencjały docierające do każdego z neuronów sumują się, z wagami zależnymi od siły połączeń. Połączenia między neuronami mogą mieć różną siłę, czyli potencjał czynnościowy generowany ze stałą wartością może mieć różny wkład w zależności od tego, przez jakie połączenie dotarł. Jeśli suma tych potencjałów (po odjęciu wkładu połączeń hamujących) przekroczy ustalony dla danego neuronu próg, to generowany jest potencjał czynnościowy o stałej wartości.
Potencjał czynnościowy wygenerowany przez neuron propaguje się...
</blockquote>

Ogólnym modelem matematycznym, naśladującym opisane procesy, będzie
<blockquote>
sieć złożona z prostych jednostek obliczeniowych, połączonych kanałami komunikacyjnymi zdolnymi do przenoszenia wartości numerycznych. Jednostki działają wyłącznie w oparciu o swe lokalne dane i wejścia z kanałów komunikacyjnych (połączeń).
</blockquote>
Jednak bliższe badania nad mózgiem człowieka wykazały nieporównanie wyższy niż w przytoczonym opisie stopień złożoności, związany m. in. z wpływem szeregu procesów biochemicznych. I tak np.
<blockquote>
do przekazu impulsu z dendrytów do ciała neuronu konieczna jest obecność szeregu neurotransmiterów, czyli cząsteczek przenoszących impuls drogą chemiczną przez szczelinę synaptyczną między dendrytem a ciałem neuronu-adresata<ref>wybiórcze blokowanie neurotransmiterów przez niektóre leki psychotropowe czy narkotyki prowadzi m. in. do specyficznych zaburzeń działania mózgu</ref>. Z kolei generacja potencjału czynnościowego, czyli jak się wydaje podstawowej jednostki przekazu informacji w układzie nerwowym, jest wynikiem złożonych procesów rządzących depolaryzacją błony neuronu. W stanie spoczynku wnętrze neuronu wykazuje potencjał -75 mV względem otoczenia;
jest on utrzymywany dzięki aktywności błony neuronu (pompa jonowo-sodowa), utrzymującej wyższe stężenie jonów <math>Na^{+}</math> na zewnątrz oraz niższe stężenie <math>Cl^{-}</math> wewnątrz. Neurotransmitery uwolnione z synapsy neuronu wysyłającego impuls powodują otwarcie kanałów przepuszczjących dodatnio naładowane jony sodu (<math>Na^{+}</math>) do wnętrza neuronu, co zmienia potencjał z -75 mV do +55 mV. Ta depolaryzacja aktywuje kanały sodowe w sąsiednich częściach błony, co powoduje propagację pobudzenia.
</blockquote>
Przytoczony powyżej (z pominięciem roli jonów potasu) model Hodgkina-Huxleya jest dziś uważany za bardzo uproszczony. Mimo to, jego stopień komplikacji tak dalece odbiega od sztucznych sieci neuronowych, że nie można ich traktować jako modelu działalności mózgu. Modelowanie prosesów zachodzących w mózgu człowieka to osobna gałąź nauki. Za to właśnie dzięki drastycznym uproszczeniom sztuczne sieci neuronowe (ANN) zyskały efektywność obliczeniową, która w połączeniu z równoległością, tolerancją na błędy i atrakcyjną terminologią doprowadziła do rozpowszechnienia ANN w praktycznych zastosowaniach obliczeniowych.



przykładowy problem:
https://en.wikipedia.org/wiki/MNIST_database

===Sieci warstwowe z propagacją wsteczną===
[[Plik:ANN_3w.jpg|noborder|right|Schemat sieci neuronowej z jedną warstwą ukrytą]]

Na sąsiednim schemacie wagę połączenia przewodzącego pobudzenie od <math>j</math>-tego do <math>i</math>-tego neuronu w <math>k</math>-tej warstwie oznaczono <math>w_{ij}^k</math>. Suma pobudzeń docierających w danej chwili do <math>i</math>-tego neuronu wyniesie

<math>\sum_{j} w_{ij} n_j</math>

Przetwarzanie w neuronie polega na odjęciu od tej sumy charakteryzującego neuron progu <math>\mu_i</math> i podziałaniu na wynik nieliniową funkcją <math>\Phi</math>:

<equation id="eq:46">
<math>
n_i=\Theta\left(\sum_{j} w_{ij}^k n_j - \mu_i\right)
</math>
</equation>

W oryginalnym modelu McCulloha i Pittsa z roku 1943, <math>\Theta(\cdot)</math> była funkcją progową:

<math>
\Theta(x)=\begin{cases} 0 \ dla \ x < 0\\ 1\ dla \ x\ge 0
\end{cases}.
</math>

Aktualnie najczęściej stosowaną formą nieliniowości jest funkcja logistyczna

<math>
\Theta(x)=\frac{1}{1+e^{-\beta x}}
</math>

Działanie tej sieci wygląda następująco:

* Sygnał wejściowy <math>\vec{x}=\{x_1, x_2, x_3, x_4\}</math> podawany jest na neurony warstwy wejściowej.
* Aktywacja każdego z neuronów warstwy ukrytej obliczana jest na podstawie równania <xr id="eq:46"> %i</xr>. Dla przykładu dla "środkowego" neuronu <math> n_2=\frac{1}{1+e^{-\beta\left(w_{21}^1x_1+w_{22}^1x_2+w_{23}^1x_3+w_{24}^1x_4-\mu_2 \right)}}.</math>
* Aktywacja neuronów warstwy wyjściowej, czyli odpowiedź sieci na sygnał <math>\vec{x}</math>, obliczana jest analogicznie jak w poprzednim kroku, tylko sygnały wejściowe <math>x_i</math> zastęują obliczone aktywacje neuronów warstwy ukrytej.

"Inteligencja" sieci zawarta jest w wagach <math>w_{ij}^k</math>
połączeń między kolejnymi warstwami. ''Clou'' problemu polega na
dobraniu tych wag tak, by realizowały interesujące nas odwzorowanie.

W klasycznym przypadku, nieznane odwzorowanie mamy zadane z pomocą
zestawu "przykładów" postaci (wektor wejściowy, prawidłowa
klasyfikacja) — oznaczmy je <math>(\vec{x}^i, \vec{r}^i)</math>.
Rozważmy dla przykładu konstrukcję sieci rozpoznającej pisane
odręcznie litery. Zestaw przykładów stanowić będą mapy bitowe obrazów
reprezentujących litery i ich prawidłowe klasyfikacje. Wagi dobierane
są w procesie ''uczenia'' sieci. Klasyczna procedura przebiega jak
następuje:

#Ustalamy ''architekturę'' sieci:
#* rozmiar warstwy wejściowej jest zwykle zdeterminowany przez rozmiar wektora danych; np w przypadku zapisu pisanych odręcznie liter w postaci obrazów o rozmiarach 15x15 pixeli, rozmiar warstwy wejściowej wyniesie 225 neuronów,
#* rozmiar i liczba warstw ukrytych są problemem otwartym; najczęściej używamy jednej warstwy ukrytej, której rozmiar dobieramy empirycznie,
#* rozmiar warstwy wyjściowej zależy od sposobu kodowania informacji, którą chcemy na niej odczytywać; w przypadku rozpoznawania dużych liter alfabetu polskiego najlepiej wybrać 35 neuronów wyjściowych: literę "A" reprezentować będzie jedynka na pierwszym neuronie i zera na pozostałych, "B" — jedynka na drugim neuronie itd.
#Inicjalizujemy wagi połączeń <math>w_{ij}^k</math> przypisując im małe liczby losowe — warto zapamiętać, że w związku z tym każde uruchomienie ''tego samego algorytmu na tych samych danych'' może dać w wyniku ''inną'' sieć.
#Wybrany losowo ze zbioru uczącego wektor <math>\vec{x}^{in}</math> prezentujemy na wejściu sieci i obliczamy odpowiedź <math>\vec{n}^{out}</math>.
#Wartości odczytane z neuronów wyjściowych <math>n_i^{out}</math> porównujemy z "prawidłową odpowiedzią" <math>r_i^{out}</math>. Jeśli jako funkcję kosztu wybierzemy błąd średniokwadratowy, będzie ona postaci <math> \sum_i (n_i^{out} -r_i^{out})^2</math>
#Modyfikujemy wagi połączeń kolejnych warstw proporcjonalnie do ich wkładu w dany wynik; jeśli funkcją kosztu będzie błąd średniokwadratowy, wzór na propagację wsteczną błędu otrzymamy wypisując ''explicite'' wzór na wartości otrzymane na neuronach wyjściowych w zależności od wag i wartości wejściowych, i różniczkując go po wagach połączeń między kolejnymi warstwami.
#Punkty 3—5 powtarzamy na losowo wybieranych przykładach aż do uzyskania zamierzonego efektu.

Ostatni punkt wymaga podjęcia wysoce nietrywialnej decyzji, od której
m.in. zależeć będzie zdolność sieci do ''generalizacji'' wiedzy
podanej w postaci przykładów.

Metodą uczenia bezpośrednio nakierowaną na optymalizację rozpoznawania wejść spoza zbioru uczącego jest [https://pl.wikipedia.org/wiki/Sprawdzian_krzy%C5%BCowy Sprawdzian Krzyżowy] (ang. [https://en.wikipedia.org/wiki/Cross-validation_(statistics) cross-validation]).

====Generalizacja====
[[Plik:Deep learning fig 5.2.png|thumb|z książki "Deep Learning" Ian Goodfellow, Yoshua Bengio and Aaron Courville]]
Głównym celem opisanej powyżej przykładowej konstrukcji nie było rozpoznawanie liter ze zbioru przygotowanego do uczenia sieci (to możnaby osiągnąć znacznie prostszymi metodami), lecz prawidłowa klasyfikacja ''nowych'' , nie widzianych przez sieć przypadków. Uzyskanie takiej własności wymaga prawidłowej generalizacji wiedzy "widzianej" w procesie uczenia. Doskonała klasyfikacja przypadków prezentowanych sieci w procesie uczenia nie implikuje wcale poprawnego zachowania sieci na nowych elementach — czasami dla uzyskania prawidłowej generalizacji konieczna jest wręcz pewna tolerancja w stosunku do wyników uzyskiwanych na zbiorze uczącym.


Uzyskaniu poprawnej generalizacji służy m. in. dzielenie zbioru przykładów przeznaczonych do uczenia sieci na zbiór uczący i zbiór kontrolny, nie prezentowany sieci w procesie uczenia (punkty 3—5), i służący wyłącznie do weryfikacji zdolności generalizacji.


Opisany powyżej schemat to zaledwie szkielet metodologii stosowanej w rozwiązywaniu konkretnych problemów. Nawet w swej podstawowej postaci zawiera dwie arbitrarnie wybierane stałe (współczynniki uczenia i bezwładności) od których zależy jego działanie. Metody uczenia stosowane w praktyce oferują ogromą ilość modyfikacji polepszających zbieżność i generalizację.

Polecana lektura: książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville



<references/>

=Sztuczne sieci neuronowe vs. mózg człowieka=
[[plik:ANN1.png]]
[[plik:ANN2.png]]

WnioskowanieStatystyczne/Weryfikacja hipotez

2026-09-08T10:29:23Z

Durka:

[[Wnioskowanie_Statystyczne_-_wykład]]

==Weryfikacja hipotez statystycznych==

===Przykład===
W ramach ćwiczeń studenci mierzą przyspieszenie ziemskie za pomocą
znanego układu doświadczalnego. Jak ocenić, czy przedstawiona przez
studenta wartość (np. <math>10{\frac{m}{s^2}}</math>) jest wynikiem
prawidłowego pomiaru?

W poprawnie zaprojektowanym doświadczeniu źródłem rozrzutu wyników
powinny być tylko błędy przypadkowe,<ref> W odróżnieniu od błędów
systematycznych. Typowym przykładem błędu systematycznego jest
np. błąd paralaksy. Może on wystąpić, gdy przy odczycie tradycyjnego
wskaźnika "z boku" widzimy wskazówkę na tle przesuniętej podziałki. W
ten sposób pasażer może widzieć (z boku) na tradycyjnym
prędkościomierzu wartość trochę mniejszą niż kierowca, patrzący na
wskazówkę prostopadle. Efekt ten może być bardzo mały (zależny od
odległości wskazówki od skali), ale odczytywana z miejsca pasażera
prędkość będzie zawsze (systematycznie) przesunięta w stronę
mniejszych wartości. Jeśli dysponujemy tylko wynikami odczytów
pasażera (bez informacji o warunkach odczytu itp.), oszacowanie tego
błędu z pomocą samej statystyki nie jest możliwe. </ref> czyli dające
jednakowe szanse odchylenia "na plus", jak i "na minus". Jeśli takich
błędów jest dużo i żaden nie dominuje nad innymi to zwykle możemy
uznać — na podstawie
[[WnioskowanieStatystyczne/CLT|Centralnego Twierdzenia Granicznego]] — że wyniki będą podlegać rozkładowi
Gaussa.<ref>UWAGA: przyjmujemy w tym miejscu odpowiedzialność za takie
założenie. Jeśli analizowane dane go nie spełniają, to cała dalsza
procedura będzie dawać błędne wyniki, włącznie z blędną decyzją
ostateczną o przyjęciu bądź odrzuceniu hipotezy. Bezkrytyczne (czy
wręcz "milczące") przyjmowanie, że dane pochodzą z rozkładu Gaussa,
bywa przyczyną ogromnej ilości błędów metodologicznych w praktycznych
zastosowaniach statystyki.</ref> Wartością oczekiwaną tego rozkładu
będzie "prawdziwa" wartość przyspieszenia ziemskiego, czyli <math>9,81
{\frac {m}{s^2}}</math>.

Możemy oceniać, że wyniki bliskie <math>9,81{ \frac m{s^2}}</math> pochodzą z prawidłowo
przeprowadzonych doświadczeń, a liczby odległe od tej wartości są wynikiem
grubych błędów metodycznych. Ale jak bliskie i jak odległe?
Ogólnie nie ma sensu stwierdzenie typu "jeśli wynik odbiega od wartości
tablicowej o więcej niż dwa, to świadczy o błędzie". Bo jeśliby np. ten sam
wynik podawać w innych jednostkach, to różnica tego samego wyniku i
wyrażonej odpowiednio wartości tablicowej mogłaby wynieść np. <math>200{\left[ \frac{cm}{s^2}\right]}</math> zamiast <math>2{\left[\frac{m}{s^2}\right]}</math>.

W takim razie może wartość względna? Jeśliby różnicę (odchylenie od
wartości tablicowej, czyli oczekiwanej) podzielić przez wartość
oczekiwaną, to zamiast <math>2{\frac{m}{s^2}}</math> lub
<math>200{\frac{cm}{s^2}}</math> otrzymalibyśmy w każdym z przypadków tę
samą różnicę względną — około 20%. To już lepiej, ale wciąż nie
bierzemy pod uwagę faktycznego rozrzutu: studenci wykonujący
doświadczenia na dokładniejszym zestawie będą osiągali znacznie
mniejsze błędy procentowe, a nam chodzi o ocenę poprawności wykonania
doświadczenia, a nie jakości zestawu pomiarowego.

No właśnie, jakość zestawu pomiarowego powinniśmy zbadać oddzielnie! W tym
przypadku opisującym ją parametrem będzie rozrzut (odchylenie standardowe)
wyników uzyskiwanych w prawidłowo przeprowadzanych pomiarach. Możemy go ocenić na
przykład na podstawie serii wyników uzyskanych przez doświadczonych asystentów, używając
[[WnioskowanieStatystyczne/Statystyki_i_estymatory#label-eq:93|estymatora wariancji z próby]]. Musimy przyjąć założenie, że będą
oni wykonywać doświadczenie prawidłowo i rozrzut wyników będzie odzwierciedlał
tylko dokładność aparatury i inne nieuniknione źródła błędów, a nie grube
błędy metodologiczne, które to właśnie za pomocą tej procedury chcemy wykryć
u studentów.

Teraz wreszcie możemy przystąpić do formułowania hipotezy. Ustalamy, że wyniki wyrażamy w <math>\frac{m}{s^2}</math>. Załóżmy, że
określone według powyższej procedury odchylenie standardowe wynosi 0,1, a ocenić musimy
studenta, który na przyspieszenie ziemskie otrzymał wynik 10. Hipoteza
określająca, że wykonywał on doświadczenie prawidłowo, będzie równoważna
stwierdzeniu:
<blockquote>
liczbę 10 wylosowano z rozkładu normalnego o średniej <math>\mu=9,81</math>
i odchyleniu standardowym <math>\sigma= 0,1</math>
</blockquote>

[[Plik:wh_gauss1.png|thumb|center|600px|<figure id="fig:97"></figure>Rozkład wyników pomiarów przyspieszenia ziemskiego pod wpływem
gaussowskich błędów o jednostkowej wariancji (<math>\mu=9,81, \sigma=0,1</math>). ]]

==Test <math>Z</math>: rozkład normalny, znane <math>\sigma</math> i <math>\mu</math>==

Jako miarę wyrażającą, na ile uzyskany wynik "pasuje" do postawionej
hipotezy, możemy przyjąć jego odchylenie od wartości oczekiwanej,
podzielone — dla uwzględnienia rozrzutu statystycznego —
przez odchylenie standardowe (pierwiastek wariancji). Jeśli zmienna
losowa <math>x</math> pochodzi z rozkładu Gaussa o średniej
<math>\mu</math> i wariancji <math>\sigma^2</math>, to jej
przekształcenie
<equation id="eq:98">
<math>
Z = \frac {x - \mu}{\sigma}
</math>
</equation>
daje zmienną <math>Z</math> ze "standardowego" rozkładu Gaussa o <math>\mu=0</math> i
<math>\sigma=1</math>.<ref>Tradycja przeskalowywania zmiennych do rozkładu o
"standardowych" parametrach wywodzi się z czasów, gdy komputery nie
rozwiązywały za nas dowolnych całek oznaczonych, i ich wartości trzeba było
odczytywać z tablic, które tworzono właśnie dla rozkładów o standardowych
parametrach.</ref>

Dla zmiennej <math>Z</math> znane są już dokładnie prawdopodobieństwa odchyleń od wartości
oczekiwanej — przypomnijmy [[WnioskowanieStatystyczne/Rozklady-przyklady#label-fig:rozklad_gaussa|rysunek]] i [[WnioskowanieStatystyczne/Rozklady-przyklady#label-eq:80|zależności]]:

<math>
Z\in N(0, 1)\ \Rightarrow \ P(\left| Z \right| \geq 1 )\approx 0,\!317,\ P(\left| Z \right| \geq 2 )\ \approx 0,\!046,\ \ P(\left| Z \right| \geq 3 )\approx 0,003.
</math>

[[Plik:Rozklad_gaussa.png|300px|thumb|left|[[WnioskowanieStatystyczne/Rozklady-przyklady#label-fig:rozklad_gaussa|Rysunek]] z rozdziału [[WnioskowanieStatystyczne/Rozklady-przyklady#Rozk.C5.82ad_Gaussa| o rozkładzie Gaussa]] — standardowy rozkład Gaussa (<math>N(0,1): \mu=0, \sigma^2=1</math>).]]

Teraz możemy już określić — wedle ogólnie przyjętej terminologii —
podstawowe elementy testu, który będziemy wykonywać:

'''Hipoteza zerowa''' zakłada, że pomiar wykonywano poprawnie.

'''Statystyką testową''' — czyli miarą badanego efektu — będzie różnica uzyskanego wyniku i jego wartości tablicowej ("prawdziwej", znanej skądinąd), podzielona przez wariancję wyników uzyskiwanych w świetle hipotezy zerowej, czyli przy prawidłowym wykonywaniu eksperymentów:
<math>
Z = \frac {x - \mu}{\sigma} = \frac{x- 9,81}{0,1}.
</math>

'''Rozkładem statystyki testowej (<math>Z</math>) w świetle hipotezy zerowej''' będzie standardowy rozkład normalny o wartości oczekiwanej równej zeru i jednostkowej wariancji.

'''Poziom istotności''' <math>\ldots</math> zasługuje na osobny rozdział.

===Poziom istotności i moc testu===

Nad znaczeniem tych pojęć musimy się jeszcze chwilę zastanowić, bowiem
konieczność wyboru poziomu istotności testu jest najmniej eleganckim
(najczęściej arbitralnym), lecz niestety koniecznym elementem
weryfikacji hipotez. Dlaczego koniecznym?

Przyjrzyjmy się <xr id="fig:97"> rysunkowi %i</xr>. Największe są
prawdopodobieństwa uzyskania wyników w pobliżu 9,81, powiedzmy między
9,6 a 10,1. Jednak według wzoru na
[[WnioskowanieStatystyczne/Rozklady-przyklady#label-eq:78|rozkład Gaussa]] istnieje
również niezerowe prawdopodobieństwo uzyskania wielkości bardzo dużej,
na przykład większej niż 20.<ref>Warto zwrócić uwagę, że niezerowe
jest również prawdopodobieństwo uzyskania ujemnej wartości
przyspieszenia ziemskiego, co byłoby już raczej wynikiem
niefizycznym. Uwzględnienie podobnych warunków (zwanych więzami)
możliwe jest w ramach [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Bayesowskiego podejścia do statystyki]].</ref> Biorąc to dosłownie, powinniśmy
zaliczać ćwiczenie studentom przynoszącym dowolne wyniki, ale nie jest
to sprawiedliwe w stosunku do tych, którzy pracowicie przygotowali
prawidłowy eksperyment zamiast podać w wyniku np. swój numer buta<ref>
Lub dowolne inne liczby, nie będące wynikiem poprawnie
przeprowadzanego eksperymentu.</ref> (podejrzenie tego typu będziemy
dalej określać mianem '''hipotezy alternatywnej''').

Niestety okazuje się, że aby dokonać sprawiedliwej oceny, musimy z góry założyć
pewien kontrolowany poziom dopuszczalnej niesprawiedliwości. Jeśli uznamy, że w
jednym przypadku na dwadzieścia możemy skrzywdzić studenta, który pomimo
prawidłowego wykonania doświadczenia uzyskał odległy od wartości tablicowej
wynik, to będziemy mogli dokładnie ustalić granice akceptacji wyników jako
"wylosowanych z populacji eksperymentów przeprowadzonych prawidłowo".
Jak to zrobić?

Przyjęcie poziomu istotności testu na poziomie 5% oznacza, że
będziemy odrzucać różnice większe, niż mogłyby wystąpić co najwyżej w pięciu
procentach losowań. Można to przetłumaczyć na konkretne wartości statystyki
— w tym przypadku <math>Z</math> z równania <xr id="eq:98">(%i)</xr>. Trzeba po prostu znaleźć taką wartość
<math>Z_\textrm{graniczne}</math>, aby prawdopodobieństwo wylosowania wartości większej
niż <math>Z_\textrm{graniczne}</math> wyniosło 5%. Jeśli <math> p(Z)</math> jest rozkładem statystyki testowej, to wartość <math>Z_\textrm{graniczne}</math> spełnia równanie

<math>
\int\limits_{Z_\textrm{graniczne}}^{\infty} p(Z) = 0,05.
</math>

[[Plik:wh_gauss2.png|thumb|center|600px|<figure id="fig:100"></figure>Rozkład gaussowskich błędów pomiarów o jednostkowej wariancji (<math>\mu=0, \ \sigma=1</math>). Zaznaczone obszary odrzucenia hipotezy zerowej (obszary krytyczne)
na poziomie istotności 5% (a) — test jednostronny (pole obszaru
zacieniowanego wynosi 0,05 jednostkowego pola pod krzywą), (b) — dwustronny (suma pól obszarów zacieniowanych wynosi 0,05). ]]

Na <xr id="fig:100">rysunku %i</xr> będzie to odpowiadać polu
pod wykresem gęstości prawdopodobieństwa na prawo od <math>Z_\textrm{graniczne}=1,645</math>.

Zaraz, ale dlaczego tylko na prawo? Przecież równie nieprawdopodobne
powinny być bardzo małe wartości wyników pomiaru, czyli silnie ujemne
wartości statystyki. Z problemem tym zetknęliśmy się już w [[WnioskowanieStatystyczne/Testy_permutacyjne#Test_jedno-_i_dwustronny|rozdziale o testach permutacyjnych]] — wyjściem jest podzielenie pola odpowiadającego poziomowi
istotności przez dwa (<xr id="fig:100">rys. %i</xr>b). Dzięki temu otrzymujemy
jednoznaczny dla danego poziomu istotności '''obszar akceptacji''',
czyli przedział wartości statystyki, dla których będziemy przyjmować
hipotezę zerową.

Wiemy już, że w około jednym przypadku na dwadzieścia (5%) pozwalamy sobie skrzywdzić studenta, czyli odrzucić prawdziwą hipotezę o prawidłowym wykonywaniu
eksperymentu. A co dzięki temu zyskujemy? Im większy poziom istotności, tym
większa '''moc testu''', czyli prawdopodobieństwo odrzucenia hipotezy
fałszywej.<ref>To znaczy hipotezy zerowej w przypadku, gdy jest ona fałszywa, a prawdziwa jest hipoteza alternatywna. Moc testu możemy dokładnie określić tylko dla konkretnej hipotezy alternatywnej.</ref>

Wróćmy do podejrzenia, że zamiast wyników pomiarów niektórzy studenci
podawali liczby luźno związane z numerem buta podzielonym np. przez 4
("hipoteza alternatywna"); rozkład tych liczb mógłby wyglądać na
przykład tak jak linia przerywana na rysunku <xr id="fig:101">
%i</xr>. Wtedy też mogą trafić się wartości bliskie 9,81, czyli leżące
w "obszarze akceptacji", który przyjęliśmy dla testu. Jednak im
większy poziom istotności, tym mniejszy obszar akceptacji, a wtedy
również mniejsze prawdopodobieństwo przyjęcia hipotezy
fałszywej.<ref>Czyli hipotezy zerowej, w przypadku, gdy jest ona
fałszywa, a prawdziwa jest któraś z hipotez alternatywnych.</ref>

Na górnym wykresie rysunku <xr id="fig:101">rys. %i</xr> zacieniowano pole odpowiadające
prawdopodobieństwu przyjęcia którejś z możliwych hipotez alternatywnych (np. mówiącej o ¼ numeru buta). '''Moc testu''' to
prawdopodobieństwo odrzucenia hipotezy alternatywnej, zaznaczone na dolnym wykresie rysunku <xr id="fig:101"> %i</xr>.

[[Plik:wh_moc.png|thumb|center|600px|<figure id="fig:101"></figure>Linią przerywaną jest oznaczony rozkład jednej z możliwych hipotez
alternatywnych dla testu według rys. <xr id="fig:100"> %i</xr>(b).
Na górnym wykresie zacieniowany obszar odpowiada prawdopodobieństwu błędnej akceptacji hipotezy alternatywnej. Na dolnym zacieniowany obszar odpowiada prawdopodobieństwu odrzucenia hipotezy alternatywnej, czyli '''mocy testu''' względem tej hipotezy alternatywnej. Linia ciągła — statystyka testowa z rysunku <xr id="fig:100"> %i</xr> (obszary krytyczne dla testu dwustronnego).]]

Jak widać, moc testu (dla danej hipotezy zerowej i poziomu istotności) zależy od
hipotezy alternatywnej, dla której przykładowy rozkład prawdopodobieństwa na
rysunku <xr id="fig:101"> %i</xr> oznaczono linią przerywaną. Niestety, zwykle nie znamy rozkładów prawdopodobieństwa wszystkich możliwych hipotez alternatywnych, i dokładne określenie mocy testu w ich świetle nie jest możliwe. Ogólnie warto zauważyć, że:

*im większy poziom istotności, tym mniejszy obszar akceptacji (czyli przedział wartości statystyki, dla których akceptujemy hipotezę zerową),
*im mniejszy obszar akceptacji (na rysunku <xr id="fig:101"> %i</xr> między — 1,96 a 1,96), tym mniejsze prawdopodobieństwo akceptacji dla każdej hipotezy alternatywnej<ref>Niestety, również dla hipotezy zerowej...</ref> i tym większa moc testu.
*'''Ergo''': im większy poziom istotności, tym większa moc testu.

===Wielokrotne porównania i poprawka Bonferroniego===
Czego należy oczekiwać, gdy ten sam eksperyment powtórzymy 20 razy, za każdym razem badając istotność wyników na poziomie 5%?

Tym problemem zajmiemy się dokładniej w rozdziale [[WnioskowanieStatystyczne/Bonferroni#Wielokrotne_por.C3.B3wnania|Wielokrotne porównania]].

==Schemat Weryfikacji Hipotez Statystycznych raz jeszcze==

Rozwiązawszy napotkane problemy, możemy raz jeszcze powrócić do Schematu
Weryfikacji Hipotez Statystycznych, który
wykorzystywaliśmy już w podrozdziałach [[WnioskowanieStatystyczne/Testy_permutacyjne#Weryfikacja_hipotez_statystycznych_---_terminologia|terminologia przy weryfikacji hipotez statystycznych]], [[WnioskowanieStatystyczne/Testy_permutacyjne#Poziom_istotno.C5.9Bci_testu|poziom istotności testu]] i [[WnioskowanieStatystyczne/Testy_permutacyjne#Testy_permutacyjne_dla_wi.C4.99kszych_liczebno.C5.9Bci|testy permutacyjne dla większych liczebności]] w rozdziale [[WnioskowanieStatystyczne/Testy_permutacyjne|o testach permutacyjnych]].
Wypiszemy go od początku w zastosowaniu do [[WnioskowanieStatystyczne/Weryfikacja_hipotez#Przykład|przykładu]].
#Jako '''hipotezę zerową''' przyjmujemy, że mamy do czynienia z wynikiem prawidłowo przeprowadzonego pomiaru.
#Jako '''statystykę testową''' przyjmujemy różnicę wyniku i wartości oczekiwanej rozkładu określonego przez hipotezę zerową (w tym przypadku 10—9,81), podzieloną przez odchylenie standardowe wyników wyznaczone dla warunków odpowiadających hipotezie zerowej (poprawne wykonywanie pomiarów).
#Za '''rozkład gęstości prawdopodobieństwa statystyki testowej w świetle hipotezy zerowej''' przyjmujemy standardowy rozkład normalny o wartości oczekiwanej 0 i jednostkowej wariancji.
#Ustalamy '''poziom istotności''' testu — na przykład 5%, akceptując tym samym możliwość odrzucenia hipotezy prawdziwej w jednym przypadku na dwadzieścia.
#Znajdujemy wartości statystyki <math>Z_\textrm{graniczne}</math> wyznaczające '''obszar akceptacji hipotezy zerowej'''. Dla testu dwustronnego będą one wyznaczone przez związki <math>\begin{matrix} P(Z<Z_\textrm{graniczne lewe})<2,5\% \qquad \textrm{ i } \qquad P(Z>Z_\textrm{graniczne prawe})<2,5\%\end{matrix}</math>. W tym przypadku będą to liczby — 1,96 i 1,96, co oznacza, że hipotezę zerową będziemy przyjmować dla wartości statystyki testowej pomiędzy tymi dwoma wielkościami.
#Obliczamy wartość statystyki testowej dla badanej zmiennej losowej, która w tym przypadku jest różnicą otrzymanej wartości (10) i wartości tablicowej podzieloną przez odchylenie standardowe: (10 - 9,81)/0,1 = 1,9.
#Otrzymana wartość leży w obszarze akceptacji, więc hipotezę zerową przyjmujemy.

I tak to wygląda w teorii, jednak po wykonaniu takiej procedury (szczególnie,
jeśli wynik byłby "nie po naszej myśli") możemy się zastanawiać: a gdybyśmy tak wybrali większy poziom istotności, może hipoteza zostałaby odrzucona?

Oczywiście nie warto "próbować" — możemy od razu obliczyć
największy poziom istotności, na którym można przyjąć hipotezę zerową
dla wartości zmiennej losowej <math>x_d</math> będącej wynikiem doświadczenia. Będzie on określony wzorem:

<math>
p= 2 \int\limits_{|x_d|}^{\infty} p(x) dx
</math>

gdzie <math>p(x)</math> oznacza rozkład prawdopodobieństwa według
hipotezy zerowej, a czynnik 2 wynika ze stosowania testu
dwustronnego. Dla wartości 1,9 występującej w omawianym przykładzie
dostaniemy

<math>
p= 2 \int\limits_{1,9}^{\infty} \frac{1}{\sqrt{2\pi }\cdot 1 }e^{\frac{-(x-0
)^{2}}{2\cdot 1^{2}}} dx \approx 0,\!0574.
</math>

Jak widać, w tym przypadku test na poziomie istotności większym niż 5,8% dałby odpowiedź negatywną. Programy do obliczeń statystycznych podają zwykle w
wyniku tę właśnie wielkość <math>p</math>, określającą największy poziom istotności, na
którym możemy zaakceptować badaną hipotezę. Coraz częściej wartość tę podajemy również jako wynik procedury weryfikacji hipotezy: wszak na poziomie istotności 5% odrzucimy zarówno hipotezę dającą <math>p=4,9\%</math>, jak i <math>p=0,0001\%</math>, ale w drugim przypadku wątpliwości będą znacznie mniejsze.

------------------
<references />

WnioskowanieStatystyczne/Twierdzenie Bayesa

2026-09-08T10:27:00Z

Durka: /* Prawdopodobieństwo zarażenia w świetle wyników testu na HIV */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Prawdopodobieństwo warunkowe i zdarzenia niezależne==

Zapis <math>P(A\mid B)</math> oznacza prawdopodobieństwo zdarzenia
<math>A</math> liczone w sytuacji, gdy mamy pewność wystąpienia
zdarzenia <math>B</math>. Odpowiada to w pewnym sensie wystąpieniu
obydwu zdarzeń (<math>A\cap B</math>), jednak prawdopodobieństwo tej
sytuacji należy obliczać inaczej niż <math>P(A\cap B</math>).

''Przykład: Niech <math>A</math> oznacza wyrzucenie szóstki, a <math>B</math> —
wyrzucenie parzystej liczby oczek w rzucie kostką. Wtedy <math>A\cap
B</math> oznacza wyrzucenie szóstki, <math>P(A\cap
B)=\frac{1}{6}</math>. Jednak jeśli bierzemy pod uwagę tylko te
przypadki, w których wyrzucono parzystą liczbę oczek (2, 4 lub 6), to
<math>P(A\mid B)=\frac{1}{3}</math>.''

Rozważmy <math>P(A\mid\Omega)</math>; dla dowolnego <math>A</math>
mamy

:<math> P(A)=P(A\mid\Omega)=P(A\cap\Omega)</math>

bo oczywiście <math>A\in\Omega</math>.

Rozbijając przestrzeń
wszystkich możliwych zdarzeń <math>\Omega</math> na część
odpowiadającą zdarzeniu <math>B</math> i pozostałą <math>\overline
B</math> (<math>\Omega=B\cup\overline{B}</math>), dostajemy:
:<math>
P(A)=P(A\mid\Omega)=\\
P\left(A\cap(B\cup\overline{B})\right)=\\
P\left((A\cap B)\cup(A\cap\overline{B})\right)=\\
P(A\cap B) +
P(A\cap\overline{B})</math>

czyli prawdopodobieństwo zdarzenia <math>A</math> jest równe sumie
prawdopodobieństw zajścia <math>A</math>, jeśli zaszło również
<math>B</math>, oraz prawdopodobieństwa zajścia <math>A</math>, jeśli
<math>B</math> nie zaszło. Jeśli wiemy, że zaszło zdarzenie
<math>B</math> (wszak liczymy <math>P(\cdot\mid B)</math>), to drugi
człon znika (<math>P(\overline{B})=0</math>). Aby uzyskać wzór na
<math>P(A\mid B)</math>, pozostały człon musimy podzielić przez
<math>P(B)</math> (aby dla <math>B=A</math> było <math>P(A\mid
A)=1</math>)

:<math> P(A\mid B)=\frac{P(A\cap B)}{P(B)}
</math>

Jeśli wystąpienie zdarzenia <math>B</math> nie ma żadnego wpływu na
prawdopodobieństwo wystąpienia zdarzenia <math>A</math>, czyli
<math>P(A\mid B)=P(A)</math>, to mówimy, że zdarzenia <math>A</math> i
<math>B</math> są niezależne. Z powyższego równania wynika, że dla zdarzeń niezależnych <math>A</math> i <math>B</math> zachodzić będzie
<math>
P(A\cap B)=P(A)P(B)
</math>

W przykładzie z kostką:

:<math>P(\textrm{parzysta liczba oczek})=\frac{1}{2}</math>,
:<math>P(\mathrm{szóstka})=\frac{1}{6}</math>,
:<math>P(\mathrm{szóstka} | \textrm{parzysta liczba oczek}) = \dfrac{\frac16}{\frac12} = \frac13</math>.

==Twierdzenie Bayesa==
Twierdzenie Bayesa można wyprowadzić z elementarnych reguł
prawdopodobieństwa, wychodząc z powyższej definicji prawdopodobieństwa warunkowego. Ponieważ interesuje nas głównie
weryfikacja hipotez statystycznych,
przekształćmy ten wzór, wstawiając od razu zamiast
zdarzeń <math>A</math> i <math>B</math> hipotezę <math>H</math> i dane <math>D</math>. Wtedy <math>P(D\mid H)</math> będzie prawdopodobieństwem
''wylosowania danych <math>D</math> pod warunkiem, że prawdziwa jest hipoteza <math>H</math>'':

[[Plik:prawd_warunkowe_P_D_H.png|right|frameless|400px]]

<equation id="eq:52">
<math>
P(D\mid H)=\frac{P(D\cap H)}{P(H)} \Longrightarrow P(D\cap H)=P(D\mid H) P(H) \,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,
</math>
</equation>

Analogicznie

<math>
P(H\mid D) = \frac{P(H\cap D)}{P(D)} \Longrightarrow
P(H\cap D)=P(H\mid D) P(D).
</math>

Ponieważ

<math>P(D\cap H)=P(H\cap D)</math>

czyli

<math>P(D\mid H) P(H) = P(H\mid D) P(D)</math>

dostajemy

<equation id="eq:53">
<math>
P(H\mid D)=\frac{P(D\mid H) P(H)}{P(D)} \,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\, (2)
</math>
</equation>

Prawdopodobieństwo <math>P(D)</math> uzyskania w doświadczeniu danych
<math>D</math> trudno ocenić bezpośrednio, jeśli nie wiemy, czy
prawdziwa jest odnosząca się do nich hipoteza <math>H</math>. W tej
sytuacji należy wziąć pod uwagę wszystkie możliwe hipotezy
<math>H_i</math>, tworzące kompletny, czyli pokrywający całą
przestrzeń <math>\Omega</math>: <math>\sum_i H_i=\Omega</math> zbiór
hipotez <math>H_i</math> wykluczających się wzajemnie <math>\left(
P(H_i\cap H_j)=0 \right)</math>. Wtedy

<math>
P(D)=P(D\cap\Omega)=\sum_i P(D\cap H_i).
</math>

Korzystając z <xr id="eq:52">(%i)</xr> dostajemy

<math>
P(D)=\sum_i P(D\mid H_i) P(H_i) \,\,\,\,\,\, (3)
</math>

Wstawiając tę zależność do <xr id="eq:53">(%i)</xr>, i podstawiając za
<math>H</math> jedną z możliwych <math>H_i</math>, dostajemy wzór
wyrażający twierdzenie Bayesa:

<math>
P(H_i\mid D)=\frac{P(D\mid H_i)P(H_i)}{\sum_j P(D\mid H_j)P(H_j)}.
</math>

Prawdopodobieństwo hipotezy <math>H_i</math> wyrażone jest przez:
* prawdopodobieństwo uzyskania w jej świetle danych <math>D</math>, czyli <math>P(D\mid H_i)</math>
* stopień naszego zaufania do hipotezy <math>H_i</math> (niezależny od eksperymentu, w którym uzyskaliśmy dane <math>D</math>), czyli <math>P(H_i)</math>
* całkowite prawdopodobieństwo uzyskania danych <math>D</math> w świetle wszystkich możliwych hipotez <math>H_j</math>, czyli <math>\sum_j P(D\mid H_j)P(H_j)</math>

Najbardziej bulwersujące jest tu <math>P(H_i)</math>, wyrażające naszą
wiarę w hipotezę <math>H_i</math> niezależną od danych <math>D</math>.
Wielkość tę określa się mianem prawdopodobieństwa "a priori", lub
jak proponuje [http://www.fuw.edu.pl/~rjn/sdf.html R. Nowak],
"prawdopodobieństwem zaczątkowym" lub "zaczątkiem" . Dla
odróżnienia od (szukanego) prawdopodobieństwa <math>P(H)</math>
oznaczmy zaczątek jako <math>P_0</math>; wzór Bayesa przyjmie wtedy
postać

<equation id="eq:54">
<math>
P(H_i\mid D)=\frac{P(D\mid H_i)P_0(H_i)}{\sum_j P(D\mid H_j)P_0(H_j)}.
</math>
</equation>

Jeśli nie dysponujemy informacją o kompletnym zbiorze hipotez
<math>H_i</math>, możemy badać stosunek prawdopodobieństw dwóch
hipotez <math>H_1</math> i <math>H_2</math>:

<equation id="eq:55">
<math>
\frac{P(H_1\mid D)}{P(H_2\mid D)} = \frac{P(D\mid H_1)P_0(H_1)}{P(D\mid
H_2)P_0(H_2)}.
</math>
</equation>

==Przykłady==

Celem wnioskowania statystycznego powinna być ocena prawdopodobieństwa prawdziwości hipotezy <math>H</math> w świetle zdarzenia opisanego obserwowanymi danymi <math>D</math>, a nie odwrotnie. Mylenie tych dwóch prawdopodobieństw prowadzi np. do tzw. [https://pl.wikipedia.org/wiki/Błąd_rozumowania_prokuratorskiego błędu rozumowania prokuratorskiego].

<cite>
Poniższe przykłady zaczerpnięto z
[http://www.roma1.infn.it/~dagos/cern/index.html raportu Giuglio D'Agostini "Bayesian Reasoning in High Energy Physics - Principles and Applications"].
</cite>

===Prawdopodobieństwo zarażenia w świetle wyników testu na HIV===

<cite>
Przypadkowo wybrany z populacji (w której na 60
milionów jest około stu tysięcy nosicieli wirusa) obywatel poddany
jest testowi na obecność wirusa HIV. Użyty test wykrywa niemal 100% przypadków zakażenia, i daje około 0,2% „fałszywych alarmów”. Jakie jest prawdopodobieństwo, że badany obywatel jest
nosicielem wirusa, jeśli test dał wynik pozytywny?
</cite>

Na pierwszy rzut oka wydaje się, że skoro test wykrywa wirusa fałszywie tylko w dwu
przypadkach na tysiąc, to szukane prawdopodobieństwo wynosi 1-0,2%<math>\approx</math> 99.8%. Jednakże, jeśli wziąć pod uwagę prawdopodobieństwo ''a priori'' (zaczątek) wynoszące 100 000/60 000 000 <math>\approx</math> 0,17% otrzymamy wartość bliską 50%!

Na początek wyobraźmy sobie wynik tego testu na całej populacji: będzie on
pozytywny dla stu tysięcy zarażonych i dla 0,2%
pozostałych, czyli w sumie 220 tysięcy. Wśród nich faktycznych nosicieli będzie
tylko sto tysięcy, pozostali będą ofiarami błędu testu. Prawdopodobieństwo, że
jesteśmy nosicielem, jeśli znaleźliśmy się w tej grupie, jest równe
<math>\frac{100 000}{220000}\approx</math> 45% (a nie 99,8%!).

Formalnie możemy dowieść tego wyniku korzystając z <xr id="eq:53">(%i)</xr> i
<xr id="eq:55">(%i)</xr>. Oznaczmy:
* <math>P(+)</math> — prawdopodobieństwo pozytywnego wyniku testu,
* <math>P(HIV)</math> — prawdopodobieństwo, że badany jest nosicielem (zaczątek),
* <math>P(\overline{HIV})</math> — prawdopodobieństwo, że badany nie jest nosicielem (również zaczątek).

Z opisu przykładu dostaniemy:
<math>P(+|HIV)\approx 1</math>,

<math>P(+|\overline{HIV})=0,002</math>,

<math>P(HIV)= \frac{100 000}{60 000 000} = \frac{1}{600}</math>

<math>P(\overline{HIV}) \approx 1</math>.

Szukamy <math>P(HIV|+)</math>:

<math>\begin{matrix}
P(HIV|+)& =& \frac{P(+|HIV)P(HIV)}{P(+)}\\
P(\overline{HIV}|+)& = &\frac{P(+|\overline{HIV})P(\overline{HIV})}{P(+)}\\
\frac{P(HIV|+)}{P(\overline{HIV}|+)}&=&\frac{P(+|HIV)P(HIV)}{P(+|\overline{HIV})P(\overline{HIV})}
= \frac{1 \cdot \frac{1}{600}}{0,002 \cdot 1} = \frac{1}{1,2}.
\end{matrix}</math>

Ponieważ <math>P(HIV|+) + P(\overline{HIV}|+) = 1</math>, dostajemy <math>P(HIV|+)
\approx 0.455</math>, czyli ok. 45%

===Uaktualnianie prawdopodobnieńswa zaczątkowego czyli Bayes w barze===
<cite>
Spotykamy w barze znajomego, który proponuje prostą grę losową: za drinki płaci ten, kto wyciągnie z zakrytej talii niższą kartę. Zgadzamy się wierząc w losowość gry (czyli uczciwość znajomego, który grę prowadzi), ale jeśli przegramy kilka razy z rzędu zaczynamy wątpić.
</cite>
Opiszmy to liczbami:

Na początku przyjmujemy, że znajomy proponuje uczciwą grę losową, z prawdopodobieństwem na przykład <math>P_0(U)=0.95</math>. Poziom naszej początkowej wiary z możliwość przeciwną, czyli że jeteśmy oszukiwani, wynosi wtedy <math>P_0(O)=0.05</math>. Dla uproszczenia załóżmy, że jeśli prowadzący grę znajomy oszukuje, to zawsze wygra, czyli prawdopodobieństwo wygrania w każdej z gier wyniesie wtedy <math>P(W|O)=1</math>. Jeśli gra byłaby uczciwa (losowa), to prawdopodobieństwo wygrania w każdej grze wynosiłoby <math>0.5</math>, czyli <math>P(W|U)=2^{-1}</math>. Jeśli kolejne gry są zdarzeniami niezależnymi, to prawdopodobieństwo wygrania w <math>n</math> kolejnych grach wyniesie <math>P(W_n|U)=2^{-n}</math>.

Ostatecznie

<math>
P(O|W_n)=\frac{ P(W_n|O) P_0(O) }{ P(W_n|O) P_0(O) + P(W_n|U) P_0(U) }
</math>

<math>
P(O|W_n)=\frac{P_0(O) }{ P_0(O) +2^{-n} [1 - P_0(O)] }
</math>

{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
|kod
|-
|<source lang=python>
import matplotlib.pyplot as plt
import numpy
t = numpy.arange(0, 20.0, 1.0)
def p(n,p0c):
return p0c/(p0c+(1-p0c)*0.5**n)
plt.plot(t, p(t, 0.01), label='$p_0=0.01$')
plt.plot(t, p(t, 0.05), label='$p_0=0.05$')
plt.plot(t, p(t, 0.5), label='$p_0=0.5$')
plt.xlabel('n')
plt.ylabel('P')
plt.grid(True)
plt.legend()
plt.show()
|</source>
|}

[[Image:Bayes_w_barze.png|none|frameless|500px]]

===Referencja===
Polecam doskonały tekst Giuglio D'Agostini z 1995 roku pt. "Probability and Measurement Uncertainty in Physics — a Bayesian Primer", dostępny z
https://arxiv.org/abs/hep-ph/9512295

WnioskowanieStatystyczne/Bonferroni

2026-09-08T10:24:49Z

Durka: /* Przykład */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Wielokrotne porównania==
Niebranie pod uwagę problemu wielokrotnych porównań (ang. multiple comparisons) ilustruje jakościowo przykład z Wikipedii: http://en.wikipedia.org/wiki/Data_dredging

===Przykład ilościowy===
<math>N</math> obserwacji podzielonych na 7 grup. Testujemy hipotezę o różnicy między średnimi dowolnych par grup, wykonując <math>\binom{7}{2}=21</math> testów hipotez o różnicach między dwoma grupami.

Załóżmy, że podziału na 7 grup dokonaliśmy zupełnie przypadkowo, czyli że nie powinna wystąpić istotna statystycznie różnica między średnimi żadnej pary. Jeśli test dla każdej pary wykonujemy na poziomie istoności p=5%, to przyjmujemy, że z prawdopodobieństwem 0,05 test może wykazać różnicę (FP). Prawdopodobieństwo, że test nie wykaże różnicy, wynosi

1 - 0,05 = 0,95. Prawdopodobieństwo, że test poprawnie '''nie''' wykaże różnicy we '''wszystkich''' 21 porównaniach, wynosi (0,95)21 czyli ok. 0,34. Tak więc prawdopodobieństwo, że przynajmniej w jednej parze grup test fałszywie wykaże różnicę, pomimo wykonywania każdego testu na poziomie istotności 0,05 wynosi aż 1 - 0,34 = 0,66!

===FWER: family-wise error rate===
Poziomy istotności zdefiniowane dla pojedynczych testów zastępujemy pojęciem FWER, czyli prawdopodobieństwem popełnienia przynajmniej jednego błędu I rodzaju w grupie (rodzinie) testów.

Niech rodzina składa się z <math>m</math> hipotez <math>\{H_i\}_{i=1..m}</math>,

z których <math>m_0</math> jest prawdziwych,

a każdej z hipotez <math>H_i</math> odpowiada prawdopodobieństwo <math>p_i</math>.

===Poprawka Bonferroniego===
gwarantuje, że jeśli każdy z ''m'' testów wykonamy na poziomie istotności <math>\frac{\alpha}{m}</math>, to <math>\mathrm{FWER}=\alpha</math>.

====Dowód====
Powtórzmy założenia: rozważamy rodzinę <math>m</math> hipotez <math>H_i</math>, przypisując każdemu z testów odpowiadających <math>H_i</math> p-wartość (ang. p-value) ''pi''.
Niech <math>m_0 \le m</math> z tych hipotez będzie prawdziwych.

Jeśli wszystkie hipotezy z rodziny będziemy testować na tym samym poziomie istotności <math>\frac{\alpha}{m}</math>,
to pojedynczą hipotezę <math>H_i</math> odrzucimy, jeśli <math>p_i\leq\frac{\alpha}{m}</math>.

W tej sytuacji <math>\mathrm{FWER}</math>, czyli prawdopodobieństwo popełnienia przynajmniej jednego błędu I rodzaju w którymś z <math>m_0</math> testów prawdziwych hipotez <math>H_i</math>,
będzie logiczną sumą <math>m_0</math> takich zdarzeń

<math> \text{FWER} = P\left\{ \bigcup_{i=1}^{m_0}\left(p_i\leq\frac \alpha m \right) \right\}</math>

i zgodnie z [https://en.wikipedia.org/wiki/Boole%27s_inequality nierównością Boole'a] będzie nie większe niż suma prawdopodobieństw popełnienia błędu I rodzaju
<math> \sum_{i=1}^{m_0} P\left(p_i\leq\frac \alpha m\right)</math>
w każdym testów z osobna:

<math> P\left\{ \bigcup_{i=1}^{m_0}\left(p_i\leq\frac \alpha m \right) \right\} \leq \sum_{i=1}^{m_0} P\left(p_i\leq\frac \alpha m\right)
= m_0 \frac{\alpha}{m}</math>

Ponieważ nie wiemy a priori, ile z hipotez <math>H_i</math> jest prawdziwych, nie znamy wartości <math>m_0</math>. Wiemy tylko, że <math>m_0 \le m</math>, więc

<math>\mathrm{FWER} \leq m_0 \frac{\alpha}{m} \le m \frac{\alpha}{m} = \alpha</math>

Jest to poprawka bardzo konserwatywna, wymuszająca przeprowadzanie testów na potencjalnie zaniżonych poziomach istotności <math>\frac{\alpha}{m}</math>.

====Przykład====
Sprawdźmy, jak poprawka Bonferroniego zadziała w opisanym powyżej przykładzie 7 grup: mamy 21 porównań, jeśli chcemy utrzymać prawdopodobieństwo co najmniej jednego błędu I rodzaju na poziomie 5%, każdy test musimy wykonać na poziomie <math>\frac{0.05}{21} \approx 0.002381</math> czyli mniej niż 0,24%! Wtedy prawdopodobieństwo popełnienia jednego błędu I rodzaju wyniesie

<math> 1 - \left( 1 - \frac{0,05}{21} \right)^{21} \approx 0,0488 </math>

czyli mniej niż 0,05.

Analogiczny wynik dostaniemy np. dla tysiąca testów

<math> 1 - \left( 1 - \frac{0,05}{1000} \right)^{1000} \approx 0,0488 </math>

ale wtedy każdy z testów musielibyśmy wykonywać na poziomie istotności 0,00005.


===Poprawka Bonferroniego-Holma===

gwarantuje, że jeśli każdy z <math>m</math> testów wykonamy na poziomie <math> \frac{\alpha}{m+1-k}</math>, gdzie <math>k</math> znajdujemy w opisanej poniżej procedurze, to <math>\mathrm{FWER} = \alpha</math>

====Znajdowanie <math>k</math>====
P-wartości pi, odpowiadające hipotezom ''Hi'', sortujemy w kolejności od najmniejszej do największej

''p(1) < p(2) < ... < p(m)''

Dla <math>\textrm{FWER}=\alpha</math> znajdujemy najmniejsze ''k'', dla którego

<math>p_k > \frac{\alpha}{m+1-k}</math>

i odrzucamy hipotezy ''H1 ... Hk-1'', przyjmując ''Hk ... Hm''.

====Dowód====
Mamy dowieść, że prawdopodobieństwo popełnienia błędu I rodzaju w tej procedurze jest nie większe niż <math>\alpha</math>. Ponownie zakładamy, że wśród <math>m</math> testowanych <math>H_i</math> jest <math>m_0</math> hipotez prawdziwych.

Jak w przepisie na znajdowanie <math>k</math>, hipotezy <math>H_i</math> renumerujemy tak, żeby hipotezie <math>H_1</math> odpowiadała najmniejsza wartość <math>p_i</math>.


Niech pierwszą hipotezą, dla której <math>p_k > \frac{\alpha}{m-k+1}</math> będzie <math>H_k</math>. To znaczy, że odrzucamy hipotezy <math>H_1 \ldots H_{k-1}</math>, czyli wykazujemy <math>(k-1)</math> istotnych różnic, i akceptujemy <math>(m-k+1)</math> pozostałych hipotez <math>\{H_i\}_{i=k \ldots m}</math>.

Błąd I rodzaju oznacza odrzucenie (przynajmniej) jednej z <math>m_0</math> prawdziwych hipotez. Czyli liczba hipotez prawdziwych <math>m_0</math> będzie w tym przypadku mniejsza, niż liczba hipotez, które przyjęliśmy, czyli <math>m-k+1</math>.

[[Plik:Bonferroni-holmes.png|600px|right|frameless]]


:<math>
m_0 \leq m - k + 1 \\
\dfrac{1}{m_0} \ge \dfrac{1}{m-k+1}\\
\dfrac{\alpha}{m_0} \ge \dfrac{\alpha}{m-k+1}
</math>

Skoro <math>H_k</math> została odrzucona, to z definicji procedury

:<math> p_k \leq \frac{\alpha}{m - k +1} \leq \frac{\alpha}{m_0}</math>

— odpowiada to poprawce Bonferroniego w zbiorze <math>m_0</math> hipotez prawdziwych, czyli kontroluje <math>\mathrm{FWER}</math> na poziomie <math>\alpha</math>.

===False Discovery Rate FDR===
...w podobnej procedurze kontroluje oczekiwany '''stosunek liczby hipotez błędnie odrzuconych do liczby hipotez odrzuconych'''.

Poniżej przykład zastosowania z artykułu [https://www.ncbi.nlm.nih.gov/pubmed/15248533 On the statistical significance of event-related EEG desynchronization and synchronization in the time-frequency plane.] [http://www.fuw.edu.pl/~durka/papers/tfstats/tfstats.pdf PDF].

[[Plik:ERDS_stat.png|center|thumb| Calculating the high-resolution ERD/ERS from the MP decomposition in statistically significant regions. (a) Average time-frequency energy density approximated from the MP decomposition. Reference epoch marked by black vertical lines, movement onset in the fifth second marked by white dashed line. (b) Energy from (a) integrated in resels 0.25 s x 2 Hz. (c) Average values of ERD/ERS calculated for the time from the end of the reference epoch to the end of the recorded epoch (black dashed vertical lines in (a) and (b)). (d) ERD/ERS from (c) indicated as statistically different from the reference epoch by the pseudo- bootstrap procedure (Section II-D3) corrected by a 5% FDR. (e) High-resolution map of ERD/ERS calculated from (a). (f) High-resolution ERD/ERS in statistically significant regions from (d). A— <math>\mu</math> desynchronization, B—desynchonization of the <math>\mu</math> harmonic, C—postmovement <math>\beta</math> synchronization, D—harmonic of <math>\beta</math>. Horizontal scales in seconds, vertical in Hz.]]

==Evaluation of measurement data — Guide to the expression of uncertainty in measurement==
JCGM 100:2008 GUM 1995 with minor corrections http://www.iso.org/sites/JCGM/GUM-JCGM100.htm

''3.4.8 Although this Guide provides a framework for assessing uncertainty, it cannot substitute for critical thinking, intellectual honesty and professional skill. The evaluation of uncertainty is neither a routine task nor a purely mathematical one; it depends on detailed knowledge of the nature of the measurand and of the measurement. The quality and utility of the uncertainty quoted for the result of a measurement therefore ultimately depend on the understanding, critical analysis, and integrity of those who contribute to the assignment of its value.''

Formalnym sposobem przeciwdziałania praktykom wybiórczego raportowania wyników jest [https://pl.wikipedia.org/wiki/Prerejestracja_badania prerejestracja badań].

WnioskowanieStatystyczne/Test chi2

2026-09-08T10:22:47Z

Durka: /* Za dokładnie? */

==Rozkład <math>\chi ^2</math>==

Próbując doprowadzić problem z poprzedniego rozdziału do rozkładu normalnego,
doszliśmy do rozkładu Studenta. W tym rozdziale postąpimy odwrotnie: najpierw
wprowadzimy nowy rozkład prawdopodobieństwa, a potem znajdziemy dla niego
ciekawe zastosowania.

[[Plik:Rozklad_gaussa.png|600px|thumb|center|<math>N(0,1)</math>, czyli
standardowy rozkład Gaussa o zerowej średniej (<math>\mu=0</math>) i
jednostkowej wariancji (<math>\sigma=1</math>).]]

Rozważmy sumę kwadratów zmiennych z rozkładu Gaussa.
Oznaczmy jako <math>\left\{x_i\right\}</math> niezależne zmienne losowe
z rozkładu normalnego o zerowej średniej <math>\mu=0</math> i jednostkowej
wariancji <math>\sigma ^{2}=1.</math> Suma

<center>
<equation id="eq:111">
<math>
\displaystyle
\chi ^2=\sum\limits_{i=1}^N x_i^2
</math>
</equation>
</center>

będzie podlegać<ref>Dowód tego faktu można znaleźć np. w [http://www.wnt.com.pl/product.php?action=0&prod_id=1488&hot=1 książce "Probabilistyka. Rachunek Prawdopodobieństwa. Statystyka matematyczna. Procesy stochastyczne" Agnieszki i Edmunda Plucińskich].</ref> rozkładowi <math>\chi^2</math> o gęstości prawdopodobieństwa danej następującym równaniem:

<center>
<equation id="eq:112">
<math>
\displaystyle
p(\chi ^{2})=\frac{1}{\Gamma \left(\frac{f}{2}\right)2^{\frac{f}{2}}}
\left(\chi^{2}\right)^{\frac{f}{2}-1}e^{-\frac{\chi ^{2}}{2}} ,
</math>
</equation>
</center>

gdzie <math>f</math> oznacza liczbę stopni swobody,
a <math>\Gamma</math> funkcję Eulera.<ref>
<math>\Gamma(x+1)=\int_0^\infty t^xe^{-t}dt</math>;
<math>\Gamma(n+1)=n!</math> dla <math>n=1,2,\ldots</math>
</ref>

W przypadku, gdy zmienne w <xr id="eq:111">sumie </xr> są
niezależne, <math>f=N</math>, czyli liczba stopni swobody jest równa
liczbie składników w sumie <xr id="eq:111">(%i)</xr>. W praktyce, jak
zobaczymy w poniższych przykładach, do statystyki <math>\chi^2</math>
dochodzimy zwykle estymując potrzebne parametry z próby. Wtedy liczba
stopni swobody jest równa liczbie elementów próby pomniejszonej o
ilość więzów, czyli estymowanych z niej parametrów, wykorzystanych do
obliczenia statystyki <xr id="eq:111">(%i)</xr>.

Wartość oczekiwana rozkładu <math>\chi^2</math> jest równa liczbie stopni swobody <math>f</math>,
a wariancja jest równa <math>2f</math>. Również kształt rozkładu zależy od <math>f</math>: <xr id="fig:113">poniższy rysunek</xr> przedstawia wykresy <math>p(\chi^2)</math> dla kilku wartości <math>f</math>.

[[Plik:rozklad_chi2.png|thumb|center|800px|<figure id="fig:113"></figure>Rozkład <math>\chi^2</math> dla różnych liczb stopni swobody <math>f</math>. Pozioma linia o szerokości dwóch odchyleń standardowych wycentrowana na wartości oczekiwanej każdego z rozkładów.]]

===Za dokładnie?===

Wróćmy raz jeszcze do [[WnioskowanieStatystyczne/Weryfikacja hipotez#Przykład|przykładu z rozdziału Weryfikacja hipotez statystycznych]]. Tym razem skoncentrujemy się na rozrzucie wyników:

''Studenci wykonują ćwiczenie za pomocą znanego układu''
''doświadczalnego, dla którego prawidłowo przeprowadzane pomiary dają''
''wyniki z rozkładu normalnego o odchyleniu standardowym 0,1.''
''Jakie jest prawdopodobieństwo, że seria''
''wyników: 9,78, 9,81, 9,83, 9,86 i 9,79 pochodzi z pomiarów''
''przeprowadzanych na tym zestawie?''

Przyjrzyjmy się tym danym w kontekście znanej wariancji. Lewy wykres
na <xr id="fig:114">rysunku</xr> przedstawia te liczby oraz ich
średnią (linia przerywana) z zaznaczonym przedziałem <math>\pm</math>
odchylenie standardowe. Przedział ten bywa zwany potocznie "korytarzem
błędu", tak jak odchylenie standardowe bywa czasami nazywane
"błędem". Czy słusznie?

Jeśli interpretować odchylenie standardowe jako "błąd",
wszystko wydaje się w najlepszym porządku: wszystkie pomiary
leżą "w granicach błędu". Ale czym tak naprawdę jest odchylenie
standardowe? [[WnioskowanieStatystyczne/Momenty#label-eq:63|Definicja wariancji dana wzorem w rozdziale o momentach]] nie wyjaśnia dokładnie, jaka część zmiennych powinna się znaleźć w odległości mniejszej niż jej pierwiastek (czyli odchylenie standardowe) od wartości
oczekiwanej.<ref>Oszacowanie w ogólnym przypadku podaje
nierówność Czebyszewa:

<math>
P(\left| X-\overline{x}\right| >k\sigma )<k^{-2},\ \ k\in \mathbb{R}^{+}.
</math>

'''Dowód''':
<math>
\sigma ^{2}=\underset{-\infty }{\overset{\infty }{\int }}(x-
\overline{x})^{2}p(x)dx\geq \underset{\left| x-\overline{x}\right| \geq
k\sigma }\int (x-\overline{x})^{2}p(x)dx\geq k^{2}\sigma ^{2}\underset{
\left| x-\overline{x}\right| \geq k\sigma }{\int }p(x)dx=k^{2}\sigma
^{2}p(\left| X-\overline{x}\right| >k\sigma)
</math>

jednak dla jednego odchylenia standardowego nierówność ta
nie niesie żadnej informacji.</ref>
Jednak w przypadku, gdy znamy (lub co najmniej zakładamy)
postać rozkładu, możemy już te wielkości dokładnie obliczyć.
[[WnioskowanieStatystyczne/Rozklady-przyklady#label-eq:80|Z zależności podanej w rozdziale o rozkładzie Gaussa]] wynika, że średnio ok. 32% przypadków losowanych z rozkładu Gaussa przyjmuje wartości oddalone o więcej niż jedno odchylenie standardowe od wartości średniej. A tu wszystkie pięć wypada bliżej... Trochę podejrzane, ale to jeszcze nie dowód, gdyż 32% powinniśmy otrzymać jako średnią wartość dopiero w odpowiednio
długiej serii. Spróbujmy więc poszukać innej miary wiarygodności
dla tego przypadku.

[[Plik:chi2_1.png|thumb|center|600px|<figure id="fig:114"></figure> Lewy wykres: pięć wyników pomiarów (kółka), dla których zaznaczono (jednakowe dla wszystkich) odchylenie standardowe (0,1). Linia przerywana narysowana w wartości średniej, linie kropkowane zaznaczają przedział ''średnia <math>\pm</math> odchylenie standardowe'' (według hipotezy wynoszące 0,1). Prawy wykres: rozkład prawdopodobieństwa <math>\chi^2</math> dla czterech stopni swobody i wartość <math>\chi^2</math> według równania <xr id="eq:115">(%i)</xr> dla przypadku przedstawionego na lewym wykresie.]]

Skoro mamy się koncentrować na wariancji, usuńmy z hipotezy
wartość oczekiwaną — rozrzut lepiej liczyć względem wartości
średniej próby.
Można udowodnić, <ref>Dowód można znaleźć np. w [http://books.google.pl/books?id=XphcKk7VBqUC&printsec=frontcover&dq=Siegmund+Brandt}&source=bl&ots=voUbdUtqIL&sig=xa5JobprniVzaOiCfwqKo95Exu8&hl=pl&ei=mmy8S7fmKKaImwOdl6i9CA&sa=X&oi=book_result&ct=result&resnum=5&ved=0CBUQ6AEwBA#v=onepage&q&f=false książce Siegmunda Brandta "Analiza danych. Metody statystyczne i obliczeniowe"].</ref>
że wielkość

<center>
<equation id="eq:115">
<math>
\displaystyle
\chi^2=\sum_{i=1}^N
\left(\frac{x_i-\overline{x}}{\sigma}\right)^2 ,
</math>
</equation>
</center>

gdzie <math>\overline{x}=\frac 1 N \sum\limits_{i=1}^N x_i </math>,
podlega rozkładowi <math>\chi^2</math> o <math>N-1</math> stopniach
swobody.

Rozkład ten przedstawiony jest w prawej części
<xr id="fig:114">rysunku</xr>. Zaznaczono na nim również (przerywaną linią
pionową) wartość statystyki <math>\chi^2</math>, obliczoną dla dyskutowanego
przypadku. Okazuje się, że wartość ta jest podejrzanie
mała! Prawdopodobieństwo uzyskania tak niewielkiej (lub jeszcze mniejszej) wartości
<math>\chi^2</math> nie przekracza 2%, więc nawet test dwustronny na poziomie istotności 5% odrzuciłby hipotezę mówiącą, że zmienne pochodzą z rozkładu normalnego o odchyleniu standardowym równym 0,1!

Można to zjawisko uznać za model "naciągania" wyników —
czujemy się lepiej, gdy przedstawiamy wyniki bliskie wartości
uznawanej za prawidłową. Oczywiście jest to nieuczciwa praktyka,
którą — jak widać — można wykryć, jeżeli dysponujemy
informacją o wariancji. Co ciekawe, "wpadki" tego typu zdarzają się nawet
w raportach z badań naukowych — w tym przypadku przyczyną bywa raczej
(poza niezrozumieniem statystyki) tendencja do ostrożnego zawyżania oceny błędów.

Częściej spotykamy się z sytuacją, w której rozrzut jest "za duży" w
stosunku do hipotezy o wariancji, jak na rysunku <xr id="fig:116">
%i</xr>. Jeśli odchylenia od wartości średniej będą duże w stosunku do
wariancji, otrzymamy dużą wartość statystyki <math>\chi^2</math>. W
świetle rozkładu <math>\chi^2</math> dla odpowiedniej liczby stopni
swobody, taka wartość powinna sugerować odrzucenie hipotezy mówiącej,
że zmienne pochodzą z rozkładu normalnego o wariancji
<math>\sigma</math>.

[[Plik:chi2_2.png|thumb|center|800px|<figure id="fig:116"></figure>W danych z rysunku <xr id="fig:114"> %i</xr> zmieniliśmy pierwszą i ostatnią liczbę, otrzymując serię: 10,1, 9,8, 9,83, 9,86 i 9,63. Tym razem rozrzut okazuje się "za duży" jak na hipotezę o pochodzeniu tych danych z rozkładu normalnego o wariancji 0,1.]]

==Test <math>\chi^2</math> Pearsona==

Zdecydowana większość klasycznych testów opiera się na założeniu, że
zmienne pochodzą z populacji o rozkładzie normalnym. Stosując taki
test przyjmujemy za to założenie odpowiedzialność — jeśli nie było
ono spełnione, wynik testu może okazać się nieprawdziwy.

Ale jak to sprawdzić, jeśli jedyną informacją o populacji jest próba złożona
z <math>N</math> elementów? Dobrym zwyczajem jest oglądanie histogramów analizowanych danych. Na [[WnioskowanieStatystyczne/CLT#label-fig:ctg|rysunku w rozdziale o Centralnym Twierdzeniu Granicznym]] używaliśmy histogramów i wykresu dopasowanych do nich funkcji Gaussa jako praktycznych argumentów za Centralnym Twierdzeniem Granicznym. Jak oceniamy "wzrokowo" podobieństwo histogramu do krzywej?

W każdym z przedziałów histogramu porównujemy liczbę przypadków zliczonych z
danych (np. na górnym wykresie <xr id="fig:119">rys.</xr> określają je szerokie jasne słupki) z wykresem dopasowanej funkcji, określającej hipotezę o rozkładzie.
Liczba przypadków określona przez hipotezę o rozkładzie
wynosi <math>Np_i</math>, gdzie <math>p_i</math> jest całką rozkładu w granicach <math>i</math>-tego
przedziału histogramu (wartości te reprezentują na górnym wykresie <xr id="fig:119">rys. %i</xr> wąskie szare słupki). Jeśli ilość danych w <math>i</math>-tym binie<ref>W literaturze polskojęzycznej bin określa się również jako "przedział stałych wartości histogramu".</ref> histogramu oznaczymy jako <math>n_i</math>, to wygodną miarą rozbieżności danych od hipotetycznego rozkładu może być suma kwadratów <math>\sum(n_i-Np_i)^2</math>. Wyrazy tej sumy warto podzielić przez wartość oczekiwaną w każdym binie, czyli <math>Np_i</math>, dzięki czemu zaproponowana przez Pearsona w roku 1900 statystyka

<center>
<equation id="eq:118">
<math>
\displaystyle
\chi ^{2}=\sum\limits_{i=1}^r \frac{\left( n_i-N p_i\right) ^{2}}{N p_i}
</math>
</equation>
</center>

dla <math>N\rightarrow\infty</math> i odpowiednio dużych
<math>Np_i</math> podlega<ref>Dowód tego faktu można znaleźć np. w
[http://www.fuw.edu.pl/~rjn/sdf.html książce Romana Nowaka "Statystyka dla Fizyków"]. Argumentacją (nie zastępującą dowodu) będzie
spostrzeżenie, że znajdujące się w mianowniku <math>Np_i</math> jest
równe wartości oczekiwanej rozkładu Poissona dla prawdopodobieństwa
<math>p_i</math>. Ze [[WnioskowanieStatystyczne/Rozklady-przyklady#label-eq:75| wzoru w
rozdziale o rozkładzie Poissona]] wynika, że wariancja tego rozkładu
wynosi <math>Np_i</math>, więc podstawiając
<math>\sigma_{n_i}=\sqrt{Np_i}</math> wzór <xr id="eq:118"> %i</xr> można wyrazić w
postaci:

<math>
\sum\limits_{i=1}^r \frac{\left( n_i-N p_i\right)^{2}}{N p_i} =
\sum\limits_{i=1}^r \frac{\left( n_i-\mu_{n_i}\right) ^{2}}{\sigma_{n_i}}.
</math>

Przekształcenie <math>x\rightarrow \frac{x-\mu}{\sigma}</math> daje
zmienne z rozkładu o zerowej średniej i jednostkowej wariancji;
udowodnienie, że jest to rozkład Gaussa, wymaga zastosowania
przybliżeń, uzasadnionych dla "odpowiednio dużych" <math>Np_i</math>.
</ref> rozkładowi <math>\chi^2</math>. Za "odpowiednio duże" ilości
przypadków w każdym z przedziałów <math>Np_i</math> przyjmuje się
zwykle przynajmniej pięć. Dla mniejszych ilości zliczeń w binach,
<math>\chi^2</math> nie będzie dobrym przybliżeniem rozkładu powyższej
statystyki — w takich przypadkach możemy zastosować test oparty na dokładnych wartościach statystyki, wyliczanych kombinatorycznie, jak np. dokładny test Fishera; dokładne statystyki można oczywiście stosować w każdym przypadku.

[[Plik:chi2Pearson.png|thumb|center|600px|<figure id="fig:119"></figure>Górny wykres: histogram 200 wartości (jasne, szerokie słupki); wąskie (ciemniejsze) słupki przedstawiają wartości oczekiwane <math>Np_i</math>, gdzie <math>p_i</math> są całkami dopasowanej krzywej (rozkładu Gaussa) w odpowiednim przedziale. Dolny wykres: rozkład statystyki <math>\chi^2=\sum_{i=1}^{15} \frac{(n_i-Np_i)^2}{Np_i}</math> dla 12 stopni swobody (15 binów minus więzy: wyznaczone z danych <math>\mu</math>, <math>\sigma</math> oraz <math>\sum_{i=1}^{15}n_i=N</math>) z zaznaczoną wartością <math>\chi^2_d</math> dla danych z lewego wykresu. Ponieważ <math>\int_{\chi^2_d}^\infty p(\chi^2)=0,24</math>, hipotezę o pochodzeniu danych z rozkładu normalnego możemy przyjąć na poziomie istotności nawet 48% (test dwustronny).]]

===Test niezależności kolumn i wierszy w tabelach===

Test <math>\chi^2</math> Pearsona można wykorzystać do analizy tabel, w których, podobnie
jak w binach histogramu, znajdują się zliczenia przypadków.
Tabele takie zwane są w języku angielskim ''contingency tables'' ;
słownik Międzynarodowego Instytutu Statystyki<ref>International Statistical
Institute (ISI), [http://www.cbs.nl/isi http://www.cbs.nl/isi].</ref> podaje jako polskie tłumaczenie "tablica kontyngencyjna" lub "tablica wielodzielcza".

====Przykład====

<center>
<figure id="fig:120">
{|class="wikitable"
|-
!''klasa''<math>\rightarrow</math>
!I
!II
!III
!''razem''<math>\downarrow</math>
|-
|-
|uratowanych
|203
|118
|178
|499
|-
|zaginionych
|122
|167
|528
|817
|-
|-
|''razem''<math>\rightarrow</math>
|325
|285
|706
|1316
|}
<caption>Powyższa tabela sumuje liczby ofiar słynnej katastrofy statku pasażerskiego Titanic (zob. [http://www.encyclopedia-titanica.org http://www.encyclopedia-titanica.org]) w zależności od klasy, którą podróżowali pasażerowie. Czy wykupienie biletu w pierwszej zamiast trzeciej klasie zwiększało szanse przeżycia?</caption></figure>
</center>

Okazuje się, że wśród uratowanych było więcej pasażerów III klasy (178),
niż pasażerów II klasy (118). Ale być może wynika to po prostu z faktu, że
trzecią klasą podróżowało w ogóle więcej pasażerów (706) niż drugą (285)?
Trzeba te proporcje wziąć pod uwagę.

Załóżmy, że szansa przeżycia nie miała nic wspólnego z tym, którą klasą
podróżował pasażer. W takim przypadku szanse przeżycia byłyby jednakowe dla
wszystkich pasażerów niezależnie od klasy i ocenić je można jako stosunek
ilości uratowanych (499) do wszystkich pasażerów (1316), czyli ok. 38%<ref>dokładnie 37,9..., w tekście przytaczamy wartości bardziej zaokrąglone niż w faktycznych obliczeniach.</ref> W tej sytuacji spośród pasażerów III klasy powinno ocaleć 38% z 706, czyli prawie prawie 268<ref>Dokładniej 267,5. Nie oznacza to bynajmniej, że jeden pasażer
powinien ocaleć "połowicznie", tylko że 267 i 268 są liczbami najbliższymi
najbardziej prawdopodobnej.</ref>, z drugiej klasy 38% z 285 czyli około 108, wreszcie z pierwszej klasy — 38% z 325, czyli około123 pasażerów.
Przewidywane ilości zaginionych możemy obliczyć z analogicznych proporcji — w każdej klasie powinno zginąć średnio 817/1316 czyli ok. 62% pasażerów. W ten sposób możemy stworzyć tabelę:

<center>
<figure id="fig:121">
{|class="wikitable"
|-
!''klasa''<math>\rightarrow</math>
!I
!II
!III
!''razem''<math>\downarrow</math>
|-
|-
|uratowanych
|123
|108
|268
|499
|-
|zaginionych
|202
|177
|438
|817
|-
|-
|''razem''<math>\rightarrow</math>
|325
|285
|706
|1316
|}
<caption>Wartości oczekiwane dla tabeli z tabeli <xr id="fig:120"> %i</xr> (zaokrąglone do liczb całkowitych) w świetle hipotezy o niezależności kolumn i wierszy.</caption></figure>
</center>

Zwróćmy uwagę, że obliczone w ten sposób wartości oczekiwane dają takie same
wartości brzegowe (czyli sumy po wierszach i kolumnach) jak dane oryginalne.
W ogólnym przypadku dla tabeli o wymiarach <math>3\times 2</math>:

<center>
{| class="wikitable"
|-
|a
|b
|b
|-
|d
|e
|f
|}
</center>

i wartości brzegowych:

<center>
{| class="wikitable"
|-
|a
|b
|b
|(a+b+c)
|-
|d
|e
|f
|(d+e+f)
|-
|(a+d)
|(b+e)
|(c+f)
|(a+b+c+d+e+f)
|}
</center>

Hipotezę o niezależności kolumn i wierszy wyrażać będą wartości
oczekiwane przedstawione w <xr id="fig:122">tabeli</xr>.

<center>
<figure id="fig:122">
{| class="wikitable"
|-
|<math>\displaystyle\frac{(a+b+c)(a+d)}{a+b+c+d+e+f}</math>
|<math>\displaystyle\frac{(a+b+c)(b+e)}{a+b+c+d+e+f}</math>
|<math>\displaystyle\frac{(a+b+c)(c+f)}{a+b+c+d+e+f}</math>
|<math>(a+b+c)</math>
|-
|<math>\displaystyle\frac{(d+e+f)(a+d)}{a+b+c+d+e+f}</math>
|<math>\displaystyle\frac{(d+e+f)(b+e)}{a+b+c+d+e+f}</math>
|<math>\displaystyle\frac{(d+e+f)(c+f)}{a+b+c+d+e+f}</math>
|<math>(d+e+f)</math>
|-
|<math>(a+d)</math>
|<math>(b+e)</math>
|<math>(c+f)</math>
|<math>(a+b+c+d+e+f)</math>
|}
<caption>Wartości oczekiwane dla hipotezy o niezależności kolumn i wierszy tabeli <math>3\times 2</math>.</caption></figure>
</center>

Ale wróćmy do pytania postawionego w <xr id="fig:120">
przykładzie</xr>. Porównując dane z tego przykładu z <xr id="fig:121">
tabelą</xr> widzimy, że w klasach pierwszej i drugiej ocalało więcej
pasażerów, niż wynikałoby to z hipotezy o niezależności szans
przeżycia od klasy. Czy są to różnice statystycznie istotne, czy mogą
wynikać z przypadku?

Trzeba oczywiście wrócić do Schematu Weryfikacji Hipotez
Statystycznych. Wartości oczekiwane w świetle hipotezy zerowej
opisuje <xr id="fig:121">tabela</xr>, a za statystykę testową
posłuży <math>\chi^2</math> Pearsona:

<center>
<equation id="eq:123">
<math>
\displaystyle
\chi^2=\sum\limits_{i=1}^r
\frac{(n_i^{\textrm{obserwowane}}-n_i^{\textrm{oczekiwane}})^2}{n_i^{\textrm{oczekiwane}}},
</math>
</equation>
</center>

gdzie <math>n_i^{\textrm{obserwowane}}</math> pochodzić będą
bezpośrednio z <xr id="fig:120">tabeli</xr>, a
<math>n_i^{\textrm{oczekiwane}}</math> <xr id="fig:121">
z tabeli</xr>. Liczba stopni swobody dla testu tabeli o wymiarach
<math>3\times 2</math> wynosi <math>(3-1)(2-1)=2</math>. W ogólnym
przypadku dla tabeli o wymiarach <math>n\times m</math> ilość stopni
swobody dla testu <math>\chi^2</math> wynosi<ref>Zgodnie z
[[WnioskowanieStatystyczne/Test_t#cite_note-3|przypisem]] z rozdziału [[WnioskowanieStatystyczne/Test_t|o
rozkładzie <math>t</math> Studenta]] będzie to liczba niezależnych
zmiennych pomniejszona o liczbę obliczonych z nich parametrów —
w tym wypadku sumy wierszy i kolumn (z pominięciem całkowitej sumy,
którą można z nich obliczyć).</ref> <math>(n-1)(m-1)</math>.

Według wzoru <xr id="eq:123">(%i)</xr> sumować będziemy następujące
wartości:<ref>W poniższej tabeli zamieszczono wartości
oczekiwane zaokrąglone do liczb całkowitych; w obliczeniach wykorzystujemy
dokładne wartości <math>n_i^{\textrm{oczekiwane}}</math>, które nie muszą wyrażać się liczbami całkowitymi.</ref>

<center>
{| class="wikitable"
|-
| <math>\frac{(203-123)^2}{123}</math>
| <math>\frac{(118-108)^2}{108}</math>
|<math>\frac{(178-268)^2}{268}</math>
|-
|<math>\frac{(122-202)^2}{202}</math>
|<math>\frac{(167-177)^2}{177}</math>
|<math>\frac{(528-438)^2}{438}</math>
|}
</center>

Suma tych wartości wynosi ponad 133. Prawdopodobieństwo przypadkowego
uzyskania tak wielkiego <math>\chi^2</math> dla dwóch stopni swobody
jest bardzo bliskie zera, więc zależność szans na przeżycie w tej
katastrofie od tego, którą klasą podróżował pasażer, możemy uznać za
istotną.

----
<references/>

WnioskowanieStatystyczne/Test serii

2026-09-08T10:18:38Z

Durka: /* Test serii Walda-Wolfowitza */

[[Wnioskowanie_Statystyczne_-_wykład]]

=Test serii Walda-Wolfowitza=

Serią nazywamy ciąg jednakowych elementów. W poniższym przykładzie
mamy sześć serii (po trzy serie zer i jedynek):
<center>
<math>\underline{1}\overline{00}\underline{1}\overline{00}\underline{111}
\overline{0}</math>
</center>
Nie jest to oczywiście jedyna kombinacja kolejności pięciu zer i pięciu jedynek,
dająca w wyniku sześć serii. Ponieważ każda pojedyncza kombinacja jest jednakowo
prawdopodobna (jeśli jest wynikiem niezależnych losowań), to prawdopodobieństwo
uzyskania danej liczby serii będzie tym większe, im więcej różnych kombinacji
będzie dawać w wyniku tę liczbę serii. Sformułujmy więc problem ogólnie:

<blockquote>
Mamy <math>N=n_1+n_2</math> elementów, w tym <math>n_1</math> zer i <math>n_2</math> jedynek.
Na ile sposobów możemy je rozłożyć, aby uzyskać <math>k</math> serii?
</blockquote>

{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| kod 
|-
| <pre>

import matplotlib.pyplot as plt
import numpy

n1=25 # zera
n2=30 # jedynki
n=n1+n2
ile_losowan=1000

wynik=numpy.zeros(ile_losowan, dtype=numpy.int32)

for i in range(0, ile_losowan):
losowanie=numpy.zeros(n, dtype=numpy.int32)
while numpy.sum(losowanie) < n2:
losowanie[numpy.random.randint(0,n)]=1
#print(numpy.array_str(losowanie,max_line_width=numpy.inf).replace(" ",""), "\n")
zmiany=1
for j in range(1, n):
if(losowanie[j] != losowanie[j-1]):
zmiany += 1
wynik[i]=zmiany

plt.hist(wynik, bins=range(0,n))
plt.xlabel("$k$")
plt.ylabel("$P(k)$")
plt.title(f"$n_1$ = {n1}, $n_2$ = {n2}, {ile_losowan} losowań")
plt.show()
</pre>
|}

{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| animacja dla 1000 
|-
|[[Plik:Testserii1000.png|center|thumb|600px|<figure id="fig:132"></figure>Histogram liczby serii <math>k</math> w <math>10^3</math> niezależnych losowaniach 25 zer i 30 jedynek.]]
|}

[[Plik:Testserii.png|center|thumb|600px|<figure id="fig:132"></figure>Histogram liczby serii <math>k</math> w <math>10^5</math> niezależnych losowaniach 25 zer i 30 jedynek.]]
[[Plik:Testserii_10.9.png|center|thumb|600px|<figure id="fig:132"></figure>Histogram liczby serii <math>k</math> w <math>10^9</math> niezależnych losowaniach 25 zer i 30 jedynek.]]
[[Plik:Testserii_10.9.log.png|center|thumb|600px|<figure id="fig:132"></figure>Histogram liczby serii <math>k</math> w <math>10^9</math> niezależnych losowaniach 25 zer i 30 jedynek (skala logarytmiczna).]]



==Wyprowadzenie analityczne==

Wróćmy do prostszego przykładu, zawierającego pięć jedynek i pięć zer.
Podział na serie możemy interpretować jak przypisanie liczbom od jeden do dziesięciu
(pozycje w ciągu) zera lub jedynki:
<center>
{| class="wikitable"
|-
|'''1'''
|'''0'''
|'''0'''
|'''1'''
|'''0'''
|'''0'''
|'''1'''
|'''1'''
|'''1'''
|'''0'''
|-
|1
|2
|3
|4
|5
|6
|7
|8
|9
|10
|}
</center>

Inaczej mówiąc, konkretny ciąg <math>N</math> zer i jedynek wyznaczony
jest przez wylosowanie spośród liczb od jednego do <math>N</math> tych
liczb, którym mają być przypisane jedynki (pozostałym będą przypisane
zera — lub odwrotnie). Czyli wszystkich możliwych ciągów
<math>n_1</math> zer i <math>n_2</math> jedynek będzie tyle, na ile
sposobów można wylosować <math>n_1</math> elementów spośród
<math>N</math>. Policzmy: pozycję (czyli numer, wypisany w dolnym
rzędzie powyższej tabeli) pierwszego elementu losujemy spośród
<math>N</math> możliwości, drugiego — spośród <math>N-1</math>
pozostałych możliwości (jedna pozycja jest już zajęta), i tak dalej,
aż pozycję ostatniego z <math>n_1</math> elementów losujemy spośród
<math>N-n_1</math> pozostałych możliwości. Liczba możliwych wyników
będzie iloczynem tych wszystkich liczb, czyli wyniesie
<math>N\cdot(N-1)\cdot(N-2)\cdot\ \dots\ \cdot (N-n_1) =
N!/(N-n_1)!</math> Skoro wszystkie jedynki są jednakowe i nie
rozróżniamy wyników różniących się ich kolejnością, to wynik ten
musimy podzielić przez liczbę różnych ustawień kolejności elementów
(liczbę permutacji) zbioru <math>n_1</math>-elementowego. Wyniesie ona
<math>n_1\cdot(n_1-1)\cdot\ \dots\ \cdot 1</math>, czyli
<math>n_1!</math> Ostatecznie jako liczbę różnych ustawień
<math>n_1</math> zer i <math>N-n_1</math> jedynek dostajemy:

<center>
<math>\displaystyle
\frac{N!}{(N-n_1)!\ n_1!} = \binom{N}{n_1}
</math>
</center>

Jest to znany z [[WnioskowanieStatystyczne/Rozklady-przyklady#Rozkład dwumianowy|rozdziału o rozkładzie dwumianowym]] symbol Newtona <math>\binom{N}{n_1}</math>. Jego własności
symetrii zgadzają się z sytuacją, w ktorej "wybierać" możemy albo <math>n_1</math> zer
albo <math>n_2</math> jedynek:

<center><math>\displaystyle
\binom{N}{n_1}=\binom{n_1+n_2}{n_1}=\frac{(n_1+n_2)!}{n_1! n_2!}=\binom{n_1+n_2}{n_2}=\binom{N}{n_2}
</math></center>

Pozostaje policzyć, ile z tych możliwości (przy ustalonych liczbach
<math>n_1</math> jedynek i <math>n_2</math> zer) wygeneruje ciąg
wyników, w którym będzie dokładnie <math>k</math> serii?

<center>
<math>\displaystyle\underline{1}\overline{00}\underline{1}\overline{00}\underline{111}
\overline{0}</math>
</center>

===Jeśli liczba serii <math>k</math> jest parzysta===
będziemy mieć tyle samo serii jedynek i zer (po <math>k/2</math>). Aby rozmieścić <math>n_1</math> jedynek w <math>k/2</math> seriach musimy wyznaczyć <math>k/2-1</math> punktów podziału na serie; w powyższym przykładzie będą to (kropki) '''1.1.111''' — było 6 serii, więc mamy 2 punkty podziału. Inaczej losujemy spośród <math>n_1-1</math> możliwych punktów podziału <math>k/2-1</math> podziałów, jak wynika z liczby serii <math>k</math>. Daje to <math>\binom{n_1-1}{k/2-1}</math> możliwości. W miejsca podziału (oznaczone kropkami) wstawiamy serie zer; analogicznie możemy to zrobić na <math>\binom{n_2-1}{k/2-1}</math> możliwości (w przykładzie: '''00.00.0'''). Liczbę tę należy pomnożyć przez dwa ze względu na możliwość zamiany miejscami zer i jedynek. Prawdopodobieństwo danej liczby serii dostaniemy — zgodnie z klasyczną definicją prawdopodobieństwa — dzieląc liczbę wszystkich tych kombinacji <math>n_1</math> jedynek i <math>n_2</math> zer, które generują dokładnie <math>k</math> serii, przez liczbę wszystkich możliwych kombinacji:

<center>
<math>\displaystyle
P=\frac{ 2\binom{n_1-1}{k/2-1} \binom{n_2-1}{k/2-1}} { \binom{N}{n_1}} \qquad\textrm{dla }\ k\ \textrm{parzystych.}
</math>
</center>

===Jeśli liczba serii <math>k</math> jest nieparzysta===
którychś serii — zer lub jedynek — będzie dokładnie o jeden więcej. <equation id="eq:127"></equation>

<center>
<math>\displaystyle\underline{1}\overline{00}\underline{1}\overline{000}\underline{111}
</math>
</center>

'''Jeśli więcej jest serii jedynek''', mamy <math>(k-1)/2</math> serii zer i <math>(k-1)/2+1</math> serii jedynek. <math>n_1</math> jedynek dzielimy na <math>(k-1)/2+1</math> serii, czyli wyznaczamy <math>(k-1)/2</math> punktów podziału spośród <math>n_1-1</math> możliwych — daje to <math>\binom{n_1-1}{(k-1)/2}</math> możliwości. Z kolei <math>n_2</math> zer dzielimy na <math>(k-1)/2</math> serii, co daje <math>\binom{n_2-1}{(k-1)/2-1}</math> możliwości. Iloczyn tych dwóch wielkości określa liczbę możliwości dających <math>k</math> serii, jeśli więcej jest serii jedynek:

<center>
<equation id="eq:128"><math>\displaystyle \binom{n_1-1}{(k-1)/2} \binom{n_2-1}{(k-1)/2-1} </math></equation>
</center>

'''Jeśli więcej jest serii zer''', to na drodze analogicznego rozumowania dostajemy

<center>
<equation id="eq:129"><math>\displaystyle \binom{n_1-1}{(k-1)/2-1} \binom{n_2-1}{(k-1)/2} </math></equation>
</center>

Prawdopodobieństwo dla przypadku nieparzystej liczby serii będzie sumą tych dwóch wielkości, podzieloną, jak w przypadku parzystego <math>k</math>, przez liczbę wszystkich możliwości:

<center>
<equation id="eq:130">
<math>\displaystyle
P=\frac{\binom{n_1-1}{(k-1)/2} \binom{n_2-1}{(k-1)/2-1} +
\binom{n_1-1}{(k-1)/2-1} \binom{n_2-1}{(k-1)/2}}
{{\binom{N}{n_1}}}
</math></equation>
</center>
dla <math>k</math> nieparzystych.

===Pozostaje jeszcze rozważyć sytuację===
w której liczba serii jest nieparzysta, jak w punkcie 2., ale mniej liczne
elementy rozłożone są wyłącznie w serie jednoelementowe, na przykład
001010010100, czyli liczba serii wynosi <math>2n+1</math>, gdzie
<math>n</math> jest liczbą mniej licznych elementów (w tym
przykładzie jedynek). Wtedy znika jeden ze składników sumy z licznika
powyższego równania, gdyż zachodzić może wyłącznie
przypadek 2.1 lub 2.2.

Ostatecznie dostajemy następujący wzór na
prawdopodobieństwo wystąpienia <math>k</math> serii w próbie, w której
drogą niezależnych losowań wylosowano <math>n_1</math> zer i
<math>n_2</math> jedynek:

<center>
<equation id="eq:131">
<math>\displaystyle
P(k\mid n_1, n_2)=\begin{cases}
\frac{ 2\binom{n_1-1}{k/2-1} \binom{n_2-1}{k/2-1}}
{ \binom{N}{n_1}}
\qquad\qquad\qquad\qquad \textrm{dla }\ k\ \textrm{ parzystych}
\\
\frac{
\binom{n_1-1}{(k-1)/2} \binom{n_2-1}{(k-1)/2-1} +
\binom{n_1-1}{(k-1)/2-1} \binom{n_2-1}{(k-1)/2}
}
{{ \binom{N}{n_1}}}
\quad \textrm{dla }\ k\ \textrm{ nieparzystych}
\\
\frac{
\binom{n_\textrm{max}-1}{(k-1)/2}
}
{{ \binom{N}{(k-1)/2}}}
\ \quad\qquad\qquad\qquad\qquad \textrm{dla }\ k\ \textrm{ nieparzystych i }
n_\textrm{min}=\frac{k-1}{2},
\end{cases}
</math></equation>
</center>

gdzie <math>n_\textrm{min}=\min(n_1, n_2)</math> i
<math>n_\textrm{max}=\max(n_1, n_2)</math>.

Wzór ten określa rozkład statystyki, będącej liczbą serii w próbie złożonej
z dowolnych dwóch rodzajów elementów (oznaczanych powyżej jako '''0''' i '''1'''). Dzięki niemu możemy wreszcie skonstruować kompletny test hipotezy
mówiącej, że dany ciąg jest wynikiem niezależnych losowań. Przypomnijmy dane
z [[WnioskowanieStatystyczne/Testy_nieprametryczne|przykładu o nieuczciwym ankieterze]]:

<center>
'''1101101000101001011101101111010110010101001010100011101'''
</center>

W ciągu tym występuje 25 zer i 30 jedynek, układających się w 37
serii. Na podstawie wzoru <xr id="eq:131">(%i)</xr> możemy obliczyć
rozkład prawdopodobieństwa wylosowania ciągu 25 zer i 30 jedynek, w
którym będzie <math>k</math> serii. Możliwe wartości <math>k</math>
będą w tym przypadku zawierać się między 2 (jedna seria zer i jedna
jedynek) a 51 (ponieważ mniej jest zer, największa liczba serii
odpowiada przypadkowi, w którym wszystkie zera układają się w serie
jednoelementowe). Rozkład prawdopodobieństwa dla tego przypadku
przedstawia poniższy rysunek.

[[Plik:serie.png|center|thumb|600px|<figure id="fig:132"></figure>Rozkład prawdopodobieństw <math>P(k)</math> liczby serii <math>k</math> w niezależnym losowaniu 30 zer i 25 jedynek.]]

Zastosowania testów opartych na tej statystyce nie ograniczają się do
analizy ciągów zer i jedynek (lub innych dwóch elementów). Poniżej
przedstawiamy jeszcze dwa testy korzystające ze statystyki <xr
id="eq:131">(%i)</xr>.

==Testowanie, czy próba jest wynikiem niezależnych losowań==

Podobny problem — pytanie, czy elementy próby są wynikiem
niezależnych losowań — występuje np. przy testowaniu generatorów
liczb losowych ([[WnioskowanieStatystyczne/Z_komputerem#cite_note-0|będących kluczowym
elementem metod opisywanych w pierwszej części książki]]). Jednak w
tej sytuacji mamy do czynienia z ciągiem dowolnych liczb, a nie dwóch
symboli.

Pomysł jest prosty: ciąg wyników wyrażających się dowolnymi liczbami
możemy zamienić na ciąg zer i jedynek, wybierając próg <math>M</math>
i przypisując wynikom większym od <math>M</math> jedynkę, a mniejszym
— zero. Jeśli chcemy mieć tyle samo zer i jedynek, jako
<math>M</math> możemy wziąć [[WnioskowanieStatystyczne/Momenty#Mediana|medianę]] próby. Do
takiej serii możemy już z powodzeniem stosować opisany w poprzednim
rozdziale test oparty na statystyce <xr id="eq:131">(%i)</xr> —
oczywiście zachowując kolejność elementów w próbie.

==Test zgodności rozkładów w dwóch populacjach==

Mamy dwie próby. Hipoteza zerowa mówi, że zostały wylosowane z tego
samego rozkładu. Ciąg zer i jedynek tworzymy w następujący sposób:

Elementy obu prób ustawiamy w jeden ciąg w kolejności od najmniejszej
do największej<ref>Jeśli wartości losowane są z rozkładów ciągłych, to
wystąpienie jednakowych wartości jest teoretycznie niemożliwe. W
praktyce wartości zapisujemy ze skończoną dokładnością; zwykle
przyjmuje się, że jednakowe wartości można pominąć.</ref>. Elementom
pierwszej próby przypisujemy jedynki, a drugiej — zera.

Jeśli obie próby losowano z tej samej populacji, to liczba serii w tak określonym
ciągu podlega statystyce <xr
id="eq:131">(%i)</xr>, czyli ponownie możemy
stosować test Walda-Wolfowitza.

---------------
<references>

WnioskowanieStatystyczne/Test Wilcoxona

2026-09-08T10:15:28Z

Durka: /* Równoważność statystyk W_{m,n} i M_{m,n} */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Test rang Wilcoxona–Manna–Whitneya==

W [[WnioskowanieStatystyczne/Test_t#label-eq:109|przykładzie sprawdzającym skuteczność remontu linii produkcyjnej w fabryce]] zetknęliśmy się z jedną z sytuacji najczęściej
spotykanych w praktycznym stosowaniu statystyki, mianowicie pytaniem o
istotność różnic między dwoma grupami. Bardzo często zdarza się, że
nie mamy wystarczających informacji o rozkładach, z których pochodzą
analizowane dane. Jeśli pomimo to zastosujemy np. test <math>t</math>
oparty na założeniu normalności populacji, to popełniamy poważny błąd
metodologiczny, przez co możemy uzyskać nieprawdziwy wynik.

Dlatego od wielu lat ogromną popularnością — szczególnie w
naukach biomedycznych — cieszą się odpowiedniki testu
<math>t</math>, nie wymagające założeń normalności. Najpopularniejszym
z nich jest test zwany czasami testem Wilcoxona, innym znów razem
testem Manna–Whitneya. Niejasności wynikają z faktu, że
statystyki testowe zaproponowane przez
[http://sci2s.ugr.es/keel/pdf/algorithm/articulo/wilcoxon1945.pdf Wilcoxona w roku 1945] oraz przez
[http://projecteuclid.org/DPubS/Repository/1.0/Disseminate?view=body&id=pdf_1&handle=euclid.aoms/1177730491 Manna i Whitneya w roku 1947] są równoważne, czyli zastosowanie dowolnej z nich daje ''de facto'' ten sam test.

===Statystyka Wilcoxona===

Mamy dwie próby o liczebnościach odpowiednio <math>m</math> i
<math>n</math> elementów. Elementy pierwszej grupy oznaczymy
<math>\{x_i\}_{i=1\dots m}</math>, a drugiej —
<math>\{y_j\}_{j=1\dots n}</math>. Hipoteza zerowa zakłada ich
pochodzenie z tej samej populacji.

Liczby z obydwu prób "wrzucamy do jednego worka", a następnie
porządkujemy rosnąco. Każdej liczbie przypisujemy jej pozycję (rangę)
<math>R(x)</math>. Statystyką testową jest suma rang liczb
pochodzących z pierwszej próby. Wartość statystyki Wilcoxona możemy
zapisać jako
<equation id="eq:134">
<math>
W_{m,n}=\sum\limits_{i=1}^{m} R(x_i).
</math>
</equation>

Dla ilustracji użyjemy raz jeszcze danych z [[WnioskowanieStatystyczne/Test_t#label-eq:109|przykładu]]:
{| class="wikitable"
|-
|pierwsza próba (a)
|12, 9, 21, 14, 7, 17;
|-
|druga próba (b)
| 5, 9, 3, 11, 8, 19, 7, 5, 9, 12, 5, 11, 9, 6, 8, 17, 9, 12
|}

połączone próby:

{| class="wikitable"
|-
|''liczba''
| 3
| 5
| 7
| 8
| 9
| 9
| 11
| 12
| 14
| 17
| 19
| 21
|-
|''grupa''
| b
| b
| a
| b
| a
| b
| b
| a
| a
| a
| b
| a
|-
|''ranga''
| 1
| 2
| 3
| 4
| 5,5
| 5,5
| 7
| 8
| 9
| 10
| 11
| 12
|}

W tym przypadku suma rang dla pierwszej grupy (a) wyniesie 47,5.<ref>W przypadku występowania jednakowych wartości przypisujemy odpowiednie rangi ułamkowe.</ref>

===Statystyka Manna–Whitneya===

Ponownie porządkujemy elementy obu prób w jeden rosnący ciąg. Jako
inwersję definiujemy taką parę liczb z tego ciągu, w której liczba z
próby drugiej poprzedza (czyli jest od niej mniejsza) liczbę z próby pierwszej.
Wartość statystyki Manna–Whitneya jest ilością takich inwersji w ciągu
utworzonym z badanych prób.

Ilość inwersji zliczamy kolejno dla każdego elementu pierwszej grupy i sumujemy.
Możemy to zapisać jako
<equation id="eq:135">
<math>
M_{m,n}=\sum\limits_{i=1}^{m} \#\{j: y_j<x_i\} ,
</math>
</equation>
gdzie symbol <math>\#</math> oznacza liczebność.

==Równoważność statystyk <math>W_{m,n}</math> i <math>M_{m,n}</math>==

Dla każdego elementu pierwszej próby <math>x_i</math> jego ranga jest
równa liczbie poprzedzających go elementów (z obu prób) powiększonej o
jeden. Z kolei w <math>i</math>-tym składniku sumy <xr id="eq:135">(%i)</xr> zliczamy
wyłącznie poprzedzające <math>x_i</math> elementy drugiej próby
(<math>y_j</math>) — do pełnej sumy rang brakuje liczby
poprzedzających <math>x_i</math> elementów tej samej próby. Aby
uzyskać "pełną" rangę, musimy je dodać: dla <math>x_i</math> będzie
ich <math>i-1</math>.<ref>Przyjmujemy w tym miejscu, że
<math>x_i</math> są uporządkowane rosnąco.</ref> Ostatecznie w <xr id="eq:135">(%i)</xr> do pełnej sumy rang brakuje <math>\sum\limits_{i=1}^m
i</math>. Ponieważ
<math>
\sum\limits_{i=1}^m i = \frac{m(m+1)}{2} ,
</math>
dostajemy

<math> W_{m,n} =M_{m,n}+\frac{m(m+1)}{2}. </math>

Ponieważ dla ustalonych liczebności grup wartości tych statystyk
różnią się o czynnik zależny wyłącznie od liczebności jednej z grup, ich
rozkłady będą jednakowe z dokładnością do przesunięcia o ten czynnik, czyli
oparte na nich testy będą równoważne.

Oznacza to, że testy oparte na tych statystykach będą dawać dokładnie takie same
wyniki, czyli nie ma sensu ich rozróżnianie. Pozostaje więc znaleźć postać
rozkładu prawdopodobieństwa dla jednej z tych statystyk...

<center>
:-/
</center>

No tak, może faktycznie po ciężkich doświadczeniach z wyprowadzaniem postaci
rozkładu z poprzedniego rozdziału byłoby to mało rozwijające. W dodatku w tym
wypadku nie da się znaleźć tak "spójnej" postaci jak w poprzednim
rozdziale,<ref>Za to rozkład statystyki <xr id="eq:134">(%i)</xr> jest szybko zbieżny
do rozkładu normalnego (por. [http://www.wnt.com.pl/product.php?action=0&prod_id=1488&hot=1 z książką Probabilistyka. Rachunek Prawdopodobieństwa. Statystyka matematyczna. Procesy stochastyczne" Agnieszki i Edmunda Plucińskich]) i zwykle korzysta się z tego przybliżenia.</ref> więc zadowoliwszy się znajomością ogólnych reguł możemy spokojnie
skorzystać z tablic lub odpowiednich programów komputerowych.

[[Plik:Roz_4_rys_4.jpg|thumb|center|600px|<figure id="fig:26"></figure> Dane z [[WnioskowanieStatystyczne/Testy_permutacyjne#Przyk.C5.82ad|przykładu]].]]

Spróbujmy zastosować ten test do danych z
[[WnioskowanieStatystyczne/Test_t#label-eq:109|przykładu sprawdzającego skuteczność remontu linii produkcyjnej w fabryce]]. Po obliczeniu wartości
statystyki <xr id="eq:134">(%i)</xr> i porównaniu ze stablicowanymi
wartościami<ref>Tablice statystyk <xr id="eq:134">(%i)</xr> czy [[WnioskowanieStatystyczne/Test_serii#label-eq:131|dla testu serii]] można znaleźć praktycznie w każdym
podręczniku statystyki, choć w praktyce korzystamy z programów
komputerowych, zawierających te informacje. Tak naprawdę dla większych
prób programy te korzystają z postaci asymptotycznych tych rozkładów,
wyznaczonych analitycznie.</ref> okazuje się, że hipotezę o
pochodzeniu wyników przed i po remoncie z tej samej populacji można
przyjąć na poziomie 5% (graniczne prawdopodobieństwo wynosi 7,4%). Z
kolei stosowany przy pierwszej dyskusji tego przykładu
[[WnioskowanieStatystyczne/Testy_permutacyjne#Przykład|test permutacyjny]] odrzucił
hipotezę o braku zmian przy poziomie istotności
ok. 3,8%<ref>[[WnioskowanieStatystyczne/Test_t#label-eq:109|Test Studenta dla tych samych danych]] dał wynik podobny do uzyskanego w teście permutacyjnym,
jednak w tym przypadku nie mamy gwarancji spełnienia założeń.</ref>
Zgodnie z oczekiwaniami sugeruje to mniejszą moc testu
Wilcoxona–Manna–Whitneya, jako opartego jedynie na
względnych wartościach. Zauważmy, że np. zastąpienie największej z
wartości (21) wartością dowolnie większą (np. 21000) nie zmieni
wartości statystyki <xr id="eq:134">(%i)</xr>! Tak więc test ten nie wykorzystuje całej informacji zawartej w analizowanych danych — jest to cena za
niezależność od rozkładu.

Na koniec powinniśmy wziąć pod uwagę jeszcze jeden czynnik. Ponieważ
rozkład statystyki <xr id="eq:134">(%i)</xr> jest symetryczny względem
zamiany grupy "pierwszej" i "drugiej", czyli <math>P(W_{m, n})=P(W_{n,
m})</math>, implementacje tego testu w programach komputerowych podają
zwykle wynik dla testu dwustronnego. Graniczne prawdopodobieństwo dla
testu jednostronnego byłoby dwukrotnie mniejsze od podanego, co daje
dowód hipotezy o wpływie remontu linii na ilość braków, podobnie jak w
teście permutacyjnym i <math>t</math>. Jednak fakt ten nie podważa
ogólnej wartości rozważań poprzedniego akapitu.

-------------
<references>

WnioskowanieStatystyczne/Test Wilcoxona

2026-09-08T10:14:07Z

Durka: /* Równoważność statystyk W_{m,n} i M_{m,n} */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Test rang Wilcoxona–Manna–Whitneya==

W [[WnioskowanieStatystyczne/Test_t#label-eq:109|przykładzie sprawdzającym skuteczność remontu linii produkcyjnej w fabryce]] zetknęliśmy się z jedną z sytuacji najczęściej
spotykanych w praktycznym stosowaniu statystyki, mianowicie pytaniem o
istotność różnic między dwoma grupami. Bardzo często zdarza się, że
nie mamy wystarczających informacji o rozkładach, z których pochodzą
analizowane dane. Jeśli pomimo to zastosujemy np. test <math>t</math>
oparty na założeniu normalności populacji, to popełniamy poważny błąd
metodologiczny, przez co możemy uzyskać nieprawdziwy wynik.

Dlatego od wielu lat ogromną popularnością — szczególnie w
naukach biomedycznych — cieszą się odpowiedniki testu
<math>t</math>, nie wymagające założeń normalności. Najpopularniejszym
z nich jest test zwany czasami testem Wilcoxona, innym znów razem
testem Manna–Whitneya. Niejasności wynikają z faktu, że
statystyki testowe zaproponowane przez
[http://sci2s.ugr.es/keel/pdf/algorithm/articulo/wilcoxon1945.pdf Wilcoxona w roku 1945] oraz przez
[http://projecteuclid.org/DPubS/Repository/1.0/Disseminate?view=body&id=pdf_1&handle=euclid.aoms/1177730491 Manna i Whitneya w roku 1947] są równoważne, czyli zastosowanie dowolnej z nich daje ''de facto'' ten sam test.

===Statystyka Wilcoxona===

Mamy dwie próby o liczebnościach odpowiednio <math>m</math> i
<math>n</math> elementów. Elementy pierwszej grupy oznaczymy
<math>\{x_i\}_{i=1\dots m}</math>, a drugiej —
<math>\{y_j\}_{j=1\dots n}</math>. Hipoteza zerowa zakłada ich
pochodzenie z tej samej populacji.

Liczby z obydwu prób "wrzucamy do jednego worka", a następnie
porządkujemy rosnąco. Każdej liczbie przypisujemy jej pozycję (rangę)
<math>R(x)</math>. Statystyką testową jest suma rang liczb
pochodzących z pierwszej próby. Wartość statystyki Wilcoxona możemy
zapisać jako
<equation id="eq:134">
<math>
W_{m,n}=\sum\limits_{i=1}^{m} R(x_i).
</math>
</equation>

Dla ilustracji użyjemy raz jeszcze danych z [[WnioskowanieStatystyczne/Test_t#label-eq:109|przykładu]]:
{| class="wikitable"
|-
|pierwsza próba (a)
|12, 9, 21, 14, 7, 17;
|-
|druga próba (b)
| 5, 9, 3, 11, 8, 19, 7, 5, 9, 12, 5, 11, 9, 6, 8, 17, 9, 12
|}

połączone próby:

{| class="wikitable"
|-
|''liczba''
| 3
| 5
| 7
| 8
| 9
| 9
| 11
| 12
| 14
| 17
| 19
| 21
|-
|''grupa''
| b
| b
| a
| b
| a
| b
| b
| a
| a
| a
| b
| a
|-
|''ranga''
| 1
| 2
| 3
| 4
| 5,5
| 5,5
| 7
| 8
| 9
| 10
| 11
| 12
|}

W tym przypadku suma rang dla pierwszej grupy (a) wyniesie 47,5.<ref>W przypadku występowania jednakowych wartości przypisujemy odpowiednie rangi ułamkowe.</ref>

===Statystyka Manna–Whitneya===

Ponownie porządkujemy elementy obu prób w jeden rosnący ciąg. Jako
inwersję definiujemy taką parę liczb z tego ciągu, w której liczba z
próby drugiej poprzedza (czyli jest od niej mniejsza) liczbę z próby pierwszej.
Wartość statystyki Manna–Whitneya jest ilością takich inwersji w ciągu
utworzonym z badanych prób.

Ilość inwersji zliczamy kolejno dla każdego elementu pierwszej grupy i sumujemy.
Możemy to zapisać jako
<equation id="eq:135">
<math>
M_{m,n}=\sum\limits_{i=1}^{m} \#\{j: y_j<x_i\} ,
</math>
</equation>
gdzie symbol <math>\#</math> oznacza liczebność.

==Równoważność statystyk <math>W_{m,n}</math> i <math>M_{m,n}</math>==

Dla każdego elementu pierwszej próby <math>x_i</math> jego ranga jest
równa liczbie poprzedzających go elementów (z obu prób) powiększonej o
jeden. Z kolei w <math>i</math>-tym składniku sumy <xr id="eq:135">(%i)</xr> zliczamy
wyłącznie poprzedzające <math>x_i</math> elementy drugiej próby
(<math>y_j</math>) — do pełnej sumy rang brakuje liczby
poprzedzających <math>x_i</math> elementów tej samej próby. Aby
uzyskać "pełną" rangę, musimy je dodać: dla <math>x_i</math> będzie
ich <math>i-1</math>.<ref>Przyjmujemy w tym miejscu, że
<math>x_i</math> są uporządkowane rosnąco.</ref> Ostatecznie w <xr id="eq:135">(%i)</xr> do pełnej sumy rang brakuje <math>\sum\limits_{i=1}^n
i</math>. Ponieważ
<math>
\sum\limits_{i=1}^m i = \frac{m(m+1)}{2} ,
</math>
dostajemy

<math> W_{m,n} =M_{m,n}+\frac{m(m+1)}{2}. </math>

Ponieważ dla ustalonych liczebności grup wartości tych statystyk
różnią się o czynnik zależny wyłącznie od liczebności jednej z grup, ich
rozkłady będą jednakowe z dokładnością do przesunięcia o ten czynnik, czyli
oparte na nich testy będą równoważne.

Oznacza to, że testy oparte na tych statystykach będą dawać dokładnie takie same
wyniki, czyli nie ma sensu ich rozróżnianie. Pozostaje więc znaleźć postać
rozkładu prawdopodobieństwa dla jednej z tych statystyk...

<center>
:-/
</center>

No tak, może faktycznie po ciężkich doświadczeniach z wyprowadzaniem postaci
rozkładu z poprzedniego rozdziału byłoby to mało rozwijające. W dodatku w tym
wypadku nie da się znaleźć tak "spójnej" postaci jak w poprzednim
rozdziale,<ref>Za to rozkład statystyki <xr id="eq:134">(%i)</xr> jest szybko zbieżny
do rozkładu normalnego (por. [http://www.wnt.com.pl/product.php?action=0&prod_id=1488&hot=1 z książką Probabilistyka. Rachunek Prawdopodobieństwa. Statystyka matematyczna. Procesy stochastyczne" Agnieszki i Edmunda Plucińskich]) i zwykle korzysta się z tego przybliżenia.</ref> więc zadowoliwszy się znajomością ogólnych reguł możemy spokojnie
skorzystać z tablic lub odpowiednich programów komputerowych.

[[Plik:Roz_4_rys_4.jpg|thumb|center|600px|<figure id="fig:26"></figure> Dane z [[WnioskowanieStatystyczne/Testy_permutacyjne#Przyk.C5.82ad|przykładu]].]]

Spróbujmy zastosować ten test do danych z
[[WnioskowanieStatystyczne/Test_t#label-eq:109|przykładu sprawdzającego skuteczność remontu linii produkcyjnej w fabryce]]. Po obliczeniu wartości
statystyki <xr id="eq:134">(%i)</xr> i porównaniu ze stablicowanymi
wartościami<ref>Tablice statystyk <xr id="eq:134">(%i)</xr> czy [[WnioskowanieStatystyczne/Test_serii#label-eq:131|dla testu serii]] można znaleźć praktycznie w każdym
podręczniku statystyki, choć w praktyce korzystamy z programów
komputerowych, zawierających te informacje. Tak naprawdę dla większych
prób programy te korzystają z postaci asymptotycznych tych rozkładów,
wyznaczonych analitycznie.</ref> okazuje się, że hipotezę o
pochodzeniu wyników przed i po remoncie z tej samej populacji można
przyjąć na poziomie 5% (graniczne prawdopodobieństwo wynosi 7,4%). Z
kolei stosowany przy pierwszej dyskusji tego przykładu
[[WnioskowanieStatystyczne/Testy_permutacyjne#Przykład|test permutacyjny]] odrzucił
hipotezę o braku zmian przy poziomie istotności
ok. 3,8%<ref>[[WnioskowanieStatystyczne/Test_t#label-eq:109|Test Studenta dla tych samych danych]] dał wynik podobny do uzyskanego w teście permutacyjnym,
jednak w tym przypadku nie mamy gwarancji spełnienia założeń.</ref>
Zgodnie z oczekiwaniami sugeruje to mniejszą moc testu
Wilcoxona–Manna–Whitneya, jako opartego jedynie na
względnych wartościach. Zauważmy, że np. zastąpienie największej z
wartości (21) wartością dowolnie większą (np. 21000) nie zmieni
wartości statystyki <xr id="eq:134">(%i)</xr>! Tak więc test ten nie wykorzystuje całej informacji zawartej w analizowanych danych — jest to cena za
niezależność od rozkładu.

Na koniec powinniśmy wziąć pod uwagę jeszcze jeden czynnik. Ponieważ
rozkład statystyki <xr id="eq:134">(%i)</xr> jest symetryczny względem
zamiany grupy "pierwszej" i "drugiej", czyli <math>P(W_{m, n})=P(W_{n,
m})</math>, implementacje tego testu w programach komputerowych podają
zwykle wynik dla testu dwustronnego. Graniczne prawdopodobieństwo dla
testu jednostronnego byłoby dwukrotnie mniejsze od podanego, co daje
dowód hipotezy o wpływie remontu linii na ilość braków, podobnie jak w
teście permutacyjnym i <math>t</math>. Jednak fakt ten nie podważa
ogólnej wartości rozważań poprzedniego akapitu.

-------------
<references>

Sztuczne sieci neuronowe (ANN )

2026-09-08T09:03:18Z

Durka: /* Liniowa Analiza dyskryminacyjna (Linear Discriminant Analysis, LDA) */

[[Wnioskowanie_Statystyczne_-_wykład]]

=Uczenie (maszynowe, ML) nadzorowane (supervised learning)=
Dane mamy podzielone na grupy,
szukamy funkcji najlepiej je rozdzielającej, która umożliwi
zaklasyfikowanie nowej obserwacji do jednej z tych grup.

'''Zdefiniowany powyżej cel jest zasadniczo różny od jak najdokładniejszej estymacji p-wartości, która była przedmiotem większości dotychczasowych rozważań.'''

==Regresja Logistyczna (''Logistic regression, LR'')==


Omawiana wcześniej [[WnioskowanieStatystyczne/Regresja_liniowa|regresja liniowa]] opierała się na linowej zależności między zmienną niezależną <math>x</math> a zmienną zależną <math>y</math>
:<math>y = a x + b</math>

Regresję logistyczną stosujemy w przypadku, gdy zmienna zależna jest jakościowa (wyliczeniowa / czynnikowa / kategoryczna = ''categorical variable''). Nie szacujemy wtedy wartości <math>y</math> na podstawie <math>x</math>, tylko prawdopodobieństwo przynależności <math>x</math> do jednej z klas (kategorii) <math>K_i</math>.
:<math>P(K_i | x) = \frac{1}{1 - e^ {-(a x + b)}}</math>
[[Plik:Lin_log_reg.png|center|frameless|600px]]

Podobnie jak w przypadku regresji liniowej, parametry <math>a</math> i <math>b</math> możemy estymować [[WnioskowanieStatystyczne/MLF | metodą największej wiarygodności]]. Niestety w przypadku LR nie daje się znaleźć rozwiązania analitycznego, do maksymalizacji prawdopodobieństwa a posteriori stosowane są zwykle metody gradientowe.

==Liniowa Analiza dyskryminacyjna (''Linear Discriminant Analysis, LDA'')==
Do każdego punktu danych (potencjalnie wielowymiarowych) mamy przypisaną przynależność do jednej z 2 (w klasycznym podejściu Fishera z 1936r.) lub więcej grup/klas. Założenia o danych wejściowych: rozkład normalny, [https://pl.wikipedia.org/wiki/Homoskedastyczno%C5%9B%C4%87 homoskedastyczność], niezależność.
Wykorzystywana jest do znalezienia liniowej kombinacji cech, które najlepiej rozróżniają klasy.

''[https://en.wikipedia.org/wiki/Linear_discriminant_analysis In bankruptcy prediction based on accounting ratios and other financial variables, linear discriminant analysis was the first statistical method applied to systematically explain which firms entered bankruptcy vs. survived. Despite limitations including known nonconformance of accounting ratios to the normal distribution assumptions of LDA, Edward Altman's 1968 model is still a leading model in practical applications.]''

[[Plik:Lda example bank.png|noborder|500px]]

Na LDA opierały się też w dużej części techniki psychologicznego mikrotargetowania opracowane przez [https://pl.wikipedia.org/wiki/Micha%C5%82_Kosi%C5%84ski Michała Kosińskiego], użytego pomimo jego ostrzeżeń (por. artykuł [https://www.pnas.org/doi/10.1073/pnas.1710966114 "Psychological targeting as an effective approach to digital mass persuasion"]) przez [https://en.wikipedia.org/wiki/Cambridge_Analytica Cambridge Analitica].

===Przykład: gatunki Kosaćca ([https://en.wikipedia.org/wiki/Iris_flower_data_set Iris flower dataset])===
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| dane 
|-
| <pre>
s_length s_width p_length p_width species
0 5.1 3.5 1.4 0.2 0
1 4.9 3.0 1.4 0.2 0
2 4.7 3.2 1.3 0.2 0
3 4.6 3.1 1.5 0.2 0
4 5.0 3.6 1.4 0.2 0
.. ... ... ... ... ...
145 6.7 3.0 5.2 2.3 2
146 6.3 2.5 5.0 1.9 2
147 6.5 3.0 5.2 2.0 2
148 6.2 3.4 5.4 2.3 2
149 5.9 3.0 5.1 1.8 2
[150 rows x 5 columns]
</pre>
|}
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| macierz kowariancji 
|-
| <pre>
s_length s_width p_length p_width
s_length 0.685694 -0.042434 1.274315 0.516271
s_width -0.042434 0.189979 -0.329656 -0.121639
p_length 1.274315 -0.329656 3.116278 1.295609
p_width 0.516271 -0.121639 1.295609 0.581006
</pre>
|}
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| macierz korelacji 
|-
| <pre>
s_length s_width p_length p_width
s_length 1.000000 -0.117570 0.871754 0.817941
s_width -0.117570 1.000000 -0.428440 -0.366126
p_length 0.871754 -0.428440 1.000000 0.962865
p_width 0.817941 -0.366126 0.962865 1.000000
</pre>
|}
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| kod 
|-
| <pre>
#sepal --- działki kielicha
#Iris --- Kosaciec
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn
from sklearn import datasets
iris=datasets.load_iris()
# convert dataset into a pandas dataframe
df = pd.DataFrame(data = np.c_[iris['data']], columns = iris['feature_names'])
df['species'] = pd.Categorical.from_codes(iris.target, iris.target_names)
df.columns = ['s_length', 's_width', 'p_length', 'p_width','species']
seaborn.pairplot(df, hue="species") #, diag_kind="hist")
plt.show()

df2 = df[df.columns[:-1]]
print('\nkowariancja:\n', df2.cov())
print('\nkorelacja:\n', df2.corr())
</pre>
|}

[[Plik:Kosaciec scatter.png|600px]]

==Przykładowe wyniki zastosowania LDA, LR i modelu wyższego rzędu (QDA) do par cech.==
Docelowo klasyfikacje robimy oczywiście w oparciu o wszystkie cechy, ale w dwóch wymiarach łatwiej zaobserwować własności metod.
{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| kod
|-
| <pre>
import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis, QuadraticDiscriminantAnalysis
from sklearn.linear_model import LogisticRegression
from sklearn.preprocessing import StandardScaler

iris = datasets.load_iris()
# Bierzemy tylko dwie cechy dla wizualizacji:
# [:,:2] --- sepal
# [:,2:] --- petal

X = iris.data[:, 2:]
feature_names = iris.feature_names[2:]
target_names = iris.target_names
y = iris.target
X_scaled=X
# Inicjalizacja modeli
lda = LinearDiscriminantAnalysis()
logreg = LogisticRegression()
qda = QuadraticDiscriminantAnalysis()
# Trenowanie modeli
lda.fit(X_scaled, y)
logreg.fit(X_scaled, y)
qda.fit(X_scaled, y)
# Tworzenie siatki punktów dla wizualizacji
h = 0.02 # Rozmiar siatki
x_min, x_max = X_scaled[:, 0].min() - 1, X_scaled[:, 0].max() + 1
y_min, y_max = X_scaled[:, 1].min() - 1, X_scaled[:, 1].max() + 1
lda_grid_x, lda_grid_y = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
logreg_grid_x, logreg_grid_y = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
qda_grid_x, qda_grid_y = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
lda_grid = np.c_[lda_grid_x.ravel(), lda_grid_y.ravel()]
logreg_grid = np.c_[logreg_grid_x.ravel(), logreg_grid_y.ravel()]
qda_grid = np.c_[qda_grid_x.ravel(), qda_grid_y.ravel()]
# Predykcja klas dla punktów na siatce w metodzie LDA
lda_pred_grid = lda.predict(lda_grid)
lda_pred_grid = lda_pred_grid.reshape(lda_grid_x.shape)
# Predykcja klas dla punktów na siatce w metodzie regresji logistycznej
logreg_pred_grid = logreg.predict(logreg_grid)
logreg_pred_grid = logreg_pred_grid.reshape(logreg_grid_x.shape)
# Predykcja klas dla punktów na siatce w metodzie QDA
qda_pred_grid = qda.predict(qda_grid)
qda_pred_grid = qda_pred_grid.reshape(qda_grid_x.shape)

# Wykresy
fig, axes = plt.subplots(1, 3, figsize=(15, 5))
# Wykres dla LDA
ax1 = axes[0]
for color, i, target_name in zip(['navy', 'turquoise', 'darkorange'], [0, 1, 2], target_names):
ax1.scatter(X_scaled[y == i, 0], X_scaled[y == i, 1], color=color, alpha=0.8, lw=2, label=target_name)
ax1.contourf(lda_grid_x, lda_grid_y, lda_pred_grid, alpha=0.3, cmap='Set1')
ax1.set(xlim=(x_min, x_max), ylim=(y_min, y_max))
ax1.set_title('LDA')
ax1.set_xlabel(feature_names[0])
ax1.set_ylabel(feature_names[1])
ax1.legend()
# Wykres dla regresji logistycznej
ax2 = axes[1]
for color, i, target_name in zip(['navy', 'turquoise', 'darkorange'], [0, 1, 2], target_names):
ax2.scatter(X_scaled[y == i, 0], X_scaled[y == i, 1], color=color, alpha=0.8, lw=2, label=target_name)
ax2.contourf(logreg_grid_x, logreg_grid_y, logreg_pred_grid, alpha=0.3, cmap='Set1')
ax2.set(xlim=(x_min, x_max), ylim=(y_min, y_max))
ax2.set_title('Regresja logistyczna')
ax2.set_xlabel(feature_names[0])
ax2.set_ylabel(feature_names[0])
ax2.legend()
# Wykres dla QDA
ax3 = axes[2]
for color, i, target_name in zip(['navy', 'turquoise', 'darkorange'], [0, 1, 2], target_names):
ax3.scatter(X_scaled[y == i, 0], X_scaled[y == i, 1], color=color, alpha=0.8, lw=2, label=target_name)
ax3.contourf(qda_grid_x, qda_grid_y, qda_pred_grid, alpha=0.3, cmap='Set1')
ax3.set(xlim=(x_min, x_max), ylim=(y_min, y_max))
ax3.set_title('QDA')
ax3.set_xlabel(feature_names[0])
ax3.set_ylabel(feature_names[0])
ax3.legend()

plt.tight_layout()
plt.show()
</pre>
|}

[[Plik:Kosaciec_sep1.png|800px]]

[[Plik:Kosaciec_sep2.png|800px]]

==Weryfikacja==
Ponieważ nie chodzi nam o klasyfikowanie obserwacji już zaklasyfikowanych, tylko nowych, do weryfikacji działania algorytmów stosujemy [https://pl.wikipedia.org/wiki/Sprawdzian_krzy%C5%BCowy sprawdzian krzyżowy] (ang. [https://en.wikipedia.org/wiki/Cross-validation_(statistics) cross-validation]).

==Sztuczne sieci neuronowe (''ANN'' )==
''Artificial Neural Networks, ANN'' powstały w wyniku dążenia do stworzenia systemów naśladujących działanie mózgu. Mózg człowieka składa się z ok. <math>10^{11}-10^{12}</math> neuronów, każdy z nich posiada ok. <math>10^4</math> połączeń z innymi neuronami. Ich działanie w największym uproszczeniu można opisać jak następuje:
<blockquote>
Potencjał czynnościowy wygenerowany przez neuron propaguje się przez wypustki (akson i dendryty) do innych neuronów. Potencjały docierające do każdego z neuronów sumują się, z wagami zależnymi od siły połączeń. Połączenia między neuronami mogą mieć różną siłę, czyli potencjał czynnościowy generowany ze stałą wartością może mieć różny wkład w zależności od tego, przez jakie połączenie dotarł. Jeśli suma tych potencjałów (po odjęciu wkładu połączeń hamujących) przekroczy ustalony dla danego neuronu próg, to generowany jest potencjał czynnościowy o stałej wartości.
Potencjał czynnościowy wygenerowany przez neuron propaguje się...
</blockquote>

Ogólnym modelem matematycznym, naśladującym opisane procesy, będzie
<blockquote>
sieć złożona z prostych jednostek obliczeniowych, połączonych kanałami komunikacyjnymi zdolnymi do przenoszenia wartości numerycznych. Jednostki działają wyłącznie w oparciu o swe lokalne dane i wejścia z kanałów komunikacyjnych (połączeń).
</blockquote>
Jednak bliższe badania nad mózgiem człowieka wykazały nieporównanie wyższy niż w przytoczonym opisie stopień złożoności, związany m. in. z wpływem szeregu procesów biochemicznych. I tak np.
<blockquote>
do przekazu impulsu z dendrytów do ciała neuronu konieczna jest obecność szeregu neurotransmiterów, czyli cząsteczek przenoszących impuls drogą chemiczną przez szczelinę synaptyczną między dendrytem a ciałem neuronu-adresata<ref>wybiórcze blokowanie neurotransmiterów przez niektóre leki psychotropowe czy narkotyki prowadzi m. in. do specyficznych zaburzeń działania mózgu</ref>. Z kolei generacja potencjału czynnościowego, czyli jak się wydaje podstawowej jednostki przekazu informacji w układzie nerwowym, jest wynikiem złożonych procesów rządzących depolaryzacją błony neuronu. W stanie spoczynku wnętrze neuronu wykazuje potencjał -75 mV względem otoczenia;
jest on utrzymywany dzięki aktywności błony neuronu (pompa jonowo-sodowa), utrzymującej wyższe stężenie jonów <math>Na^{+}</math> na zewnątrz oraz niższe stężenie <math>Cl^{-}</math> wewnątrz. Neurotransmitery uwolnione z synapsy neuronu wysyłającego impuls powodują otwarcie kanałów przepuszczjących dodatnio naładowane jony sodu (<math>Na^{+}</math>) do wnętrza neuronu, co zmienia potencjał z -75 mV do +55 mV. Ta depolaryzacja aktywuje kanały sodowe w sąsiednich częściach błony, co powoduje propagację pobudzenia.
</blockquote>
Przytoczony powyżej (z pominięciem roli jonów potasu) model Hodgkina-Huxleya jest dziś uważany za bardzo uproszczony. Mimo to, jego stopień komplikacji tak dalece odbiega od sztucznych sieci neuronowych, że nie można ich traktować jako modelu działalności mózgu. Modelowanie prosesów zachodzących w mózgu człowieka to osobna gałąź nauki. Za to właśnie dzięki drastycznym uproszczeniom sztuczne sieci neuronowe (ANN) zyskały efektywność obliczeniową, która w połączeniu z równoległością, tolerancją na błędy i atrakcyjną terminologią doprowadziła do rozpowszechnienia ANN w praktycznych zastosowaniach obliczeniowych.



przykładowy problem:
https://en.wikipedia.org/wiki/MNIST_database

===Sieci warstwowe z propagacją wsteczną===
[[Plik:ANN_3w.jpg|noborder|right|Schemat sieci neuronowej z jedną warstwą ukrytą]]

Na sąsiednim schemacie wagę połączenia przewodzącego pobudzenie od <math>j</math>-tego do <math>i</math>-tego neuronu w <math>k</math>-tej warstwie oznaczono <math>w_{ij}^k</math>. Suma pobudzeń docierających w danej chwili do <math>i</math>-tego neuronu wyniesie

<math>\sum_{j} w_{ij} n_j</math>

Przetwarzanie w neuronie polega na odjęciu od tej sumy charakteryzującego neuron progu <math>\mu_i</math> i podziałaniu na wynik nieliniową funkcją <math>\Phi</math>:

<equation id="eq:46">
<math>
n_i=\Theta\left(\sum_{j} w_{ij}^k n_j - \mu_i\right)
</math>
</equation>

W oryginalnym modelu McCulloha i Pittsa z roku 1943, <math>\Theta(\cdot)</math> była funkcją progową:

<math>
\Theta(x)=\begin{cases} 0 \ dla \ x < 0\\ 1\ dla \ x\ge 0
\end{cases}.
</math>

Aktualnie najczęściej stosowaną formą nieliniowości jest funkcja logistyczna

<math>
\Theta(x)=\frac{1}{1+e^{-\beta x}}
</math>

Działanie tej sieci wygląda następująco:

* Sygnał wejściowy <math>\vec{x}=\{x_1, x_2, x_3, x_4\}</math> podawany jest na neurony warstwy wejściowej.
* Aktywacja każdego z neuronów warstwy ukrytej obliczana jest na podstawie równania <xr id="eq:46"> %i</xr>. Dla przykładu dla "środkowego" neuronu <math> n_2=\frac{1}{1+e^{-\beta\left(w_{21}^1x_1+w_{22}^1x_2+w_{23}^1x_3+w_{24}^1x_4-\mu_2 \right)}}.</math>
* Aktywacja neuronów warstwy wyjściowej, czyli odpowiedź sieci na sygnał <math>\vec{x}</math>, obliczana jest analogicznie jak w poprzednim kroku, tylko sygnały wejściowe <math>x_i</math> zastęują obliczone aktywacje neuronów warstwy ukrytej.

"Inteligencja" sieci zawarta jest w wagach <math>w_{ij}^k</math>
połączeń między kolejnymi warstwami. ''Clou'' problemu polega na
dobraniu tych wag tak, by realizowały interesujące nas odwzorowanie.

W klasycznym przypadku, nieznane odwzorowanie mamy zadane z pomocą
zestawu "przykładów" postaci (wektor wejściowy, prawidłowa
klasyfikacja) — oznaczmy je <math>(\vec{x}^i, \vec{r}^i)</math>.
Rozważmy dla przykładu konstrukcję sieci rozpoznającej pisane
odręcznie litery. Zestaw przykładów stanowić będą mapy bitowe obrazów
reprezentujących litery i ich prawidłowe klasyfikacje. Wagi dobierane
są w procesie ''uczenia'' sieci. Klasyczna procedura przebiega jak
następuje:

#Ustalamy ''architekturę'' sieci:
#* rozmiar warstwy wejściowej jest zwykle zdeterminowany przez rozmiar wektora danych; np w przypadku zapisu pisanych odręcznie liter w postaci obrazów o rozmiarach 15x15 pixeli, rozmiar warstwy wejściowej wyniesie 225 neuronów,
#* rozmiar i liczba warstw ukrytych są problemem otwartym; najczęściej używamy jednej warstwy ukrytej, której rozmiar dobieramy empirycznie,
#* rozmiar warstwy wyjściowej zależy od sposobu kodowania informacji, którą chcemy na niej odczytywać; w przypadku rozpoznawania dużych liter alfabetu polskiego najlepiej wybrać 35 neuronów wyjściowych: literę "A" reprezentować będzie jedynka na pierwszym neuronie i zera na pozostałych, "B" — jedynka na drugim neuronie itd.
#Inicjalizujemy wagi połączeń <math>w_{ij}^k</math> przypisując im małe liczby losowe — warto zapamiętać, że w związku z tym każde uruchomienie ''tego samego algorytmu na tych samych danych'' może dać w wyniku ''inną'' sieć.
#Wybrany losowo ze zbioru uczącego wektor <math>\vec{x}^{in}</math> prezentujemy na wejściu sieci i obliczamy odpowiedź <math>\vec{n}^{out}</math>.
#Wartości odczytane z neuronów wyjściowych <math>n_i^{out}</math> porównujemy z "prawidłową odpowiedzią" <math>r_i^{out}</math>. Jeśli jako funkcję kosztu wybierzemy błąd średniokwadratowy, będzie ona postaci <math> \sum_i (n_i^{out} -r_i^{out})^2</math>
#Modyfikujemy wagi połączeń kolejnych warstw proporcjonalnie do ich wkładu w dany wynik; jeśli funkcją kosztu będzie błąd średniokwadratowy, wzór na propagację wsteczną błędu otrzymamy wypisując ''explicite'' wzór na wartości otrzymane na neuronach wyjściowych w zależności od wag i wartości wejściowych, i różniczkując go po wagach połączeń między kolejnymi warstwami.
#Punkty 3—5 powtarzamy na losowo wybieranych przykładach aż do uzyskania zamierzonego efektu.

Ostatni punkt wymaga podjęcia wysoce nietrywialnej decyzji, od której
m.in. zależeć będzie zdolność sieci do ''generalizacji'' wiedzy
podanej w postaci przykładów.

Metodą uczenia bezpośrednio nakierowaną na optymalizację rozpoznawania wejść spoza zbioru uczącego jest [https://pl.wikipedia.org/wiki/Sprawdzian_krzy%C5%BCowy Sprawdzian Krzyżowy] (ang. [https://en.wikipedia.org/wiki/Cross-validation_(statistics) cross-validation]).

====Generalizacja====
[[Plik:Deep learning fig 5.2.png|thumb|z książki "Deep Learning" Ian Goodfellow, Yoshua Bengio and Aaron Courville]]
Głównym celem opisanej powyżej przykładowej konstrukcji nie było rozpoznawanie liter ze zbioru przygotowanego do uczenia sieci (to możnaby osiągnąć znacznie prostszymi metodami), lecz prawidłowa klasyfikacja ''nowych'' , nie widzianych przez sieć przypadków. Uzyskanie takiej własności wymaga prawidłowej generalizacji wiedzy "widzianej" w procesie uczenia. Doskonała klasyfikacja przypadków prezentowanych sieci w procesie uczenia nie implikuje wcale poprawnego zachowania sieci na nowych elementach — czasami dla uzyskania prawidłowej generalizacji konieczna jest wręcz pewna tolerancja w stosunku do wyników uzyskiwanych na zbiorze uczącym.


Uzyskaniu poprawnej generalizacji służy m. in. dzielenie zbioru przykładów przeznaczonych do uczenia sieci na zbiór uczący i zbiór kontrolny, nie prezentowany sieci w procesie uczenia (punkty 3—5), i służący wyłącznie do weryfikacji zdolności generalizacji.


Opisany powyżej schemat to zaledwie szkielet metodologii stosowanej w rozwiązywaniu konkretnych problemów. Nawet w swej podstawowej postaci zawiera dwie arbitrarnie wybierane stałe (współczynniki uczenia i bezwładności) od których zależy jego działanie. Metody uczenia stosowane w praktyce oferują ogromą ilość modyfikacji polepszających zbieżność i generalizację.

Polecana lektura: książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville



<references/>

=Sztuczne sieci neuronowe vs. mózg człowieka=
[[plik:ANN1.png]]
[[plik:ANN2.png]]

WnioskowanieStatystyczne/Analiza wariancji

2026-09-08T09:01:51Z

Durka: /* Rozkład F */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Rozkład F==

Niech zmienne <math>x</math> i <math>y</math> mają rozkłady <math>\chi
^{2}</math> o odpowiednio <math>f_{1}</math> i <math>f_{2}</math>
stopniach swobody. Zmienna

<math>
F=\frac{\frac{1}{f_{1}} x}{\frac{1}{f_{2}}y}=\frac{f_{2}x}{f_{1}y}
</math>

posiada rozkład <math>F</math> z <math>f_{1}</math> i
<math>f_{2}</math> stopniami swobody o wartości oczekiwanej <math>E(f)=\frac{f_{2}}{(f_{2}-2)}</math>

<math>
f(F)=\left( \frac{f_{1}}{f_{2}}\right) ^{\frac{f_{1}}{2}}\frac{\Gamma \left(
\frac{1}{2}\left( f_{1}+f_{2}\right) \right) }{\Gamma \left( \frac{f_{1}}{2}
\right) \Gamma \left( \frac{f_{2}}{2}\right) }F^{\frac{f_{2}}{2}-1}\left( 1+
\frac{f_{1}}{f_{2}}F\right) ^{-\frac{f_{1}+f_{2}}{2}}
</math>
[[Plik:rozklad_f.png|thumb|center|<figure id="fig:1"></figure>Rozkład <math>F</math> Fishera dla przykładowych liczb stopni swobody <math>f_1</math> i <math>f_2</math>.]]
Dla próby z rozkładu normalnego wielkość

<math>
\chi ^{2}=\underset{i=1}{\overset{N}{\sum }}\frac{(x_{i}-\overline{x})^{2}}{
\sigma ^{2}}
</math>

podlega rozkładowi <math>\chi ^{2}</math> o <math>f=N-1</math>
stopniach swobody. Jeśli dwie takie próby zostały pobrane z jednej
populacji, to iloraz

<math>
F=\frac{\left( N_{y}-1\right) \underset{i=1}{\overset{N}{\sum (}}x_{i}-
\overline{x})^{2}}{\left( N_{x}-1\right) \underset{i=1}{\overset{N}{\sum }}
(y_{i}-\overline{y})^{2}}
</math>

podlega rozkładowi <math>F</math> o <math>f_{y}</math> i
<math>f_{x}</math> stopniach swobody.

==Analiza wariancji ''(ANalysis of VAriance — ANOVA)''==

<math>N</math> obserwacji <math>\{x_{i}\}_{i=1..N}</math>:

[[Plik:Anova1.png|center|450px]]
podzielonych na <math>k</math> grup wedle jakiegoś kryterium:
<math>N=n_{1}+n_{2}+...+n_{k}</math>:
[[Plik:Anova2.png|center|500px]]

Średnie wewnątrz grup: <math>
\overline{x}_{i}=\frac{1}{n_{i}}\underset{j=1}{\overset{n_{i}}{\sum }}x_{ij}
</math>
[[Plik:Anova3.png|center|500px]]

Średnia globalna <math>\overline{x}</math>:
[[Plik:Anova4.png|center|500px]]

Odchylenia poszczególnych elementów od średnich grup
<math>x_{ij} - \overline{x_i}</math>
oraz odchylenia średnich grup pd średniej globalnej
<math>\overline{x_i} - \overline{x}</math>:
[[Plik:Anova5.png|center|500px]]

===Rozkład wariancji===
Rozważmy sumę kwadratów odchyleń wszystkich elementów próby od
wartości średniej całej próby

<math>
\underset{i=1}{\overset{k}{\sum }}\underset{j=1}{\overset{n_{i}}{\sum }}
(x_{ij}-\overline{x})^{2}=\underset{i=1}{\overset{k}{\sum }}\underset{j=1}{
\overset{n_{i}}{\sum }}(x_{ij}-\overline{x}_{i}+\overline{x}_{i}-\overline{x}
)^{2}=
</math>

<math>
\underset{i=1}{\overset{k}{\sum }}\underset{j=1}{\overset{n_{i}}{\sum }}
(x_{ij}-\overline{x}_{i})^{2}+\underset{i=1}{\overset{k}{\sum }}\underset{j=1
}{\overset{n_{i}}{\sum }}(\overline{x}_{i}-\overline{x})^{2}+2\underset{i=1}{
\overset{k}{\sum }}\underset{j=1}{\overset{n_{i}}{\sum }}(x_{ij}-\overline{x}
_{i})(\overline{x}_{i}-\overline{x})
</math>

Ponieważ
<math>
\underset{i=1}{\overset{k}{\sum }}\underset{j=1}{\overset{n_{i}}{\sum }}
(x_{ij}-\overline{x}_{i})(\overline{x}_{i}-\overline{x})=\underset{i=1}{
\overset{k}{\sum }}(\overline{x}_{i}-\overline{x})\underset{j=1}{\overset{
n_{i}}{\sum }}(x_{ij}-\overline{x}_{i})=0
</math>,

oraz
<math>
\underset{i=1}{\overset{k}{\sum }}\underset{j=1}{\overset{n_{i}}{\sum }}(
\overline{x}_{i}-\overline{x})^{2}=\underset{i=1}{\overset{k}{\sum }}n_{i}(
\overline{x}_{i}-\overline{x})^2
</math>,
dostajemy

<math>
\underset{i=1}{\overset{k}{\sum }}\underset{j=1}{\overset{n_{i}}{\sum }}
(x_{ij}-\overline{x})^{2}=\underset{i=1}{\overset{k}{\sum }}\underset{j=1
}{\overset{n_{i}}{\sum }}(x_{ij}-\overline{x}_{i})^{2}+\underset{i=1}{
\overset{k}{\sum }}n_{i}(\overline{x}_{i}-\overline{x}
)^{2}
</math>

inaczej

<math>\underset{i=1}{\overset{k}{\sum }}\underset{j=1}{\overset{n_{i}}{\sum }}
(x_{ij}-\overline{x})^{2} = s_{wew}^{2}+s_{pom}^{2}
</math>

Jeśli wszystkie pomiary pochodzą z tej samej populacji o wariancji
<math> \sigma ^{2}</math>, to

<math>
\frac{s^2_{wew}}{\sigma ^{2}}\ i\ \ \frac{s^2_{pom}}{\sigma ^{2}}
</math>

podlegają rozkładom <math>\chi ^{2}</math> o odpowiednio
<math>n-k</math> i <math>k-1</math> stopniach swobody. Iloraz

<math>
\frac{\left( n-k\right) s^2_{pom}}{\left( k-1\right)
s^2_{wew}}
</math>

podlega rozkładowi <math>F</math> o <math>k-1</math> i
<math>n-k</math> stopniach swobody.

Wyrażenia
<math>
\frac{1}{n-k}\underset{i=1}{\overset{k}{\sum
}}\underset{j=1}{\overset{n_{i} }{\sum
}}(x_{ij}-\overline{x}_{i})^{2}</math>
oraz <math>\frac{1}{k-1}\underset{i=1}{
\overset{k}{\sum }}n_{i}(\overline{x}_{i}-\overline{x})^{2}
</math>, czyli
<math>
\frac{s_{wew}^{2}}{n-k}
</math> oraz <math>\frac{s_{pom}^{2}}{k-1}
</math>, są nieobciążonymi estymatami wariancji populacji.

=Testy par a posteriori=

Testowanie ''a posteriori'' (inaczej ''post hoc'') -> [[WnioskowanieStatystyczne/Bonferroni | porównania wielokrotne]]

WnioskowanieStatystyczne/wstep

2026-09-08T09:01:09Z

Durka:

__TOC__
[[Wnioskowanie_Statystyczne_-_wykład]]
==Wstęp==
Nigdy w historii matematyki tak wielu nie popełniało tak licznych błędów w tak niewielu zastosowaniach. To parafraza wypowiedzi Winstona Churchilla (w brytyjskim parlamencie 20 sierpnia 1940 roku), ale tutaj chodzi o statystykę. Dlaczego?
* Zdecydowana większość ludzi korzystających z metod statystycznych to specjaliści w zupełnie innych dziedzinach, względem których statystyka pełni rolę służebną.
* Klasyczna teoria statystyki powstawała ponad pół wieku temu i z braku podówczas komputerów opiera się na zaawansowanych metodach analitycznych (czytaj: długich i skomplikowanych wzorach) oraz koniecznych do ich wyprowadzenia założeniach, nie zawsze spełnianych w praktyce.
* Próba wyjaśnienia tej złożonej teorii na kursie lub w podręczniku dla nie-statystyków kończy się zwykle katalogiem przepisów ''kiedy stosować który test''. Niestety, żaden katalog nie uwzględni wszystkich przypadków, z którymi możemy mieć do czynienia, i nie zastąpi zrozumienia podstaw. Na przykład studium 50 artykułów w najbardziej prestiżowym czasopiśmie medycznym ([http://content.nejm.org/ New England Journal of Medicine]), w których wykorzystano do analizy wyników test ''t'' wykazało, że w ponad połowie z nich użycie tego testu było nieprawidłowe — cytat za książką [http://www.juliansimon.com/writings/Resampling_Philosophy/ Juliana L. Simona &bdquo;The Philosophy and Practice of Resampling Statistics"].
* Główną konsekwencją rozpowszechnienia komputerów jest ułatwienie dostępu do tych skomplikowanych metod: z wczytaniem danych do specjalizowanego pakietu statystycznego jakoś sobie poradzimy, potem tylko trzeba &bdquo;doklikać się” do jakiegoś testu i... komputer zawsze &bdquo;wyrzuci” jakiś wynik. Ale komputer nie przyjmie odpowiedzialności za dobór metody do problemu i poprawne sformułowanie hipotezy.

Na szczęście komputery niosą tu również dobrą nowinę. Są nią nowe, rewolucyjnie proste i intuicyjne metody
oparte na idei repróbkowania (ang. ''resampling'') — testy permutacyjne i bootstrap — oraz możliwość szerokiego stosowania
symulacji Monte Carlo. Uwalniając użytkownika od skomplikowanej teorii i wzorów pozwalają skupić się na istocie pytania, na które
statystyka ma odpowiedzieć. Ponadto działają często w sytuacjach, w których tradycyjne metody analityczne zawodzą (jak np. bootstrap w szacowaniu błędów złożonych funkcji).

Ideę testów permutacyjnych po raz pierwszy zaproponował R. A. Fisher w latach 1930-tych jako teoretyczny argument za testem [[WnioskowanieStatystyczne/Test_t|<math>t</math> Studenta]] (student to w tym przypadku pseudonim [https://pl.wikipedia.org/wiki/William_Sealy_Gosset Williama Gosseta]); symulacje [[WnioskowanieStatystyczne/Z_komputerem#.22Prawdziwe.22_Monte_Carlo|Monte Carlo]] ([[wikipedia:Stanisław Ulam|Stanisław Ulam]]) zaczęto stosować po II wojnie światowej, gdy pojawiły się pierwsze komputery. Idee repróbkowania ([[wikipedia:Julian L Simon|Julian L. Simon]]) i bootstrapu ([[wikipedia:Bradley Efron|Bradley Efron]]) w dzisiejszej postaci sformułowano w latach 80. XX wieku, jednak praktyczne możliwości wykorzystania tych metod na szerszą skalę pojawiły się dopiero w latach 90. dzięki rozwojowi technologii komputerowej.

Nowe metody oparte są na &bdquo;brutalnej mocy” obliczeniowej. Kilkadziesiąt lat temu fakt ten uniemożliwiał ich praktyczne zastosowanie (pewnie dlatego nie zawracano sobie podówczas głowy ich wymyślaniem). Kilkanaście lat temu stanowiło to poważną przeszkodę w ich rozpowszechnieniu. Dzisiaj stosowanie tych metod może Tobie co najwyżej uświadomić, że komputer na Twoim biurku ma w sobie więcej mocy obliczeniowej niż maszyna do pisania, którą na co dzień zastępuje.

To &bdquo;brutalne” podejście nie zachwyca, jak się łatwo domyślić, wyrafinowaną elegancją matematyczną (zachwyca raczej prostotą). Być może to właśnie jest przyczyną jego relatywnie małej popularności, szczególnie wśród wykształconych matematycznie przedstawicieli nauk przyrodniczych. Ale nawet wśród nich większość zgadza się, że statystyka pełni w stosunku do innych nauk rolę służebną — choć często kluczowo ważną.

Wreszcie niekwestionowanym walorem tych metod jest ich ogromna wartość dydaktyczna, umożliwiająca zrozumienie podstaw &bdquo;przed” zmierzeniem się z komplikacjami matematycznymi i ideowymi statystyki klasycznej.

==Co znajdziemy w tej książce i jak z niej korzystać==

Pierwsza część to luźne i bezstresowe (bez użycia wzorów) wprowadzenie podstawowych pojęć statystyki, dzięki którym dochodzimy — wciąż bez żadnego wzoru — do całkiem poważnych i przydatnych zastosowań metody Monte Carlo i repróbkowania (testów permutacyjnych i bootstrapu).
Celem tej części jest:
* zapoznanie Czytelnika z najnowszymi trendami w statystyce,
* umożliwienie samodzielnego i poprawnego rozwiązywania wielu problemów statystycznych w sposób intuicyjny drogą symulacji komputerowych, co pozwala na skoncentrowanie się na poprawnym sformułowaniu problemu (hipotezy) i znacząco zmniejsza szansę popełnienia grubego błędu metodycznego,
* wprowadzenie w sposób intuicyjny i na konkretnych przykładach pojęć z klasycznej teorii statystyki (jak np. poziom istotności i moc testu), co ułatwi zrozumienie części drugiej.

W części drugiej całki itp. są już nie do uniknięcia; jednak liczba wzorów podawanych bez dowodu ograniczona jest do koniecznego minimum. Znajdziemy tam:
* podstawy wystarczające do zrozumienia klasycznej — i wciąż najbardziej powszechnej — metodologii weryfikacji hipotez statystycznych; stanowi ona podstawę większości zastosowań wnioskowania statystycznego, czyli &bdquo;testów statystycznych",
* dokładne i poparte przykładami omówienie najczęściej stosowanych testów: <math>t</math> Studenta, <math>\chi^2</math> dla tabel i dopasowania rozkładu, testu serii Walda–Wolfowitza i testu rang Wilcoxona–Manna–Whitneya,
* wyprowadzenie od podstaw statystyki [[WnioskowanieStatystyczne/Test_serii|testu serii]], co pozwala na prześledzenie kompletnej drogi powstawania metody statystycznej również w podejściu klasycznym,
*oparty na wielu dokładnie analizowanych przykładach opis podstawowego schematu weryfikacji hipotez statystycznych, na którym opierają się wszystkie powszechnie stosowane testy statystyczne.

Do zrozumienia części pierwszej nie jest wymagane praktycznie żadne
przygotowanie matematyczne. Dla samodzielnego zastosowania opisywanych w niej
metod konieczne jest zastosowanie dowolnego języka programowania bądź
specjalizowanego pakietu statystycznego.

Przyswojenie podstawowych pojęć wprowadzonych w części
pierwszej znacznie ułatwia zrozumienie części drugiej, w której
korzysta się już z pojęcia całki i podstaw kombinatoryki.

Pierwsza część książki oparta jest na intensywnym wykorzystaniu
komputerów. Dodatek A opisuje ogólne ograniczenia,
którym podlegają wszelkie rozwiązania problemów za pomocą maszyn liczących.

Na koniec Dodatek B zawiera oryginalne teksty wszystkich programów, wykorzystanych do tworzenia
rysunków i wykonywania obliczeń prezentowanych w tej książce, w języku
''Matlab''. Jest to język wysokiego poziomu o stosunkowo intuicyjnej
składni, dzięki czemu teksty te mogą stanowić uzupełnienie opisywanych
algorytmów również dla osób nie korzystających z pakietu ''Matlab''.
Studiowanie tych programów nie jest bynajmniej konieczne do zrozumienia
prezentowanych w książce zagadnień. Programy te, jak również inne związane z książką materiały i ewentualne uaktualnienia, znaleźć można w Internecie pod adresem [http://statystyka.durka.info http://statystyka.durka.info].

WnioskowanieStatystyczne/Statystyki i estymatory

2026-09-08T09:00:17Z

Durka:

[[Wnioskowanie_Statystyczne_-_wykład]]

==Statystyki i estymatory==
Funkcję <math>S(x_{1},x_{2},...x_{n})</math> określoną na elementach próby <math>\{x_i\}</math>
zwiemy '''statystyką'''. Obliczane w praktyce statystyki służą
weryfikacji hipotez statystycznych (zwiemy je wtedy '''statystykami testowymi''' — tym zajmiemy się w następnym rozdziale) lub estymacji (szacowaniu) parametrów rozkładu prawdopodobieństwa w populacji
zmiennej <math>x</math>, z której pobierana jest próba. W tym drugim przypadku zwiemy je
'''estymatorami'''. Na przykład wartość średnia próby

<math>\displaystyle
\overline{x}=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i} \qquad
</math>
może być estymatorem wartości oczekiwanej populacji <math>\mu=E(x)</math>.

Estymator zwiemy '''nieobciążonym''', jeśli dla każdej
wielkości próby <math>n</math> jego wartość oczekiwana jest równa
wartości estymowanego parametru (oznaczmy go np. <math>\beta</math>):

<math>\displaystyle
\forall n \ E(S(x_{1}...x_{n}))=\beta.
</math>

Estymator zwiemy '''zgodnym''', jeśli przy wielkości próby dążącej do
nieskończoności jego wariancja dąży do zera:

<math>\displaystyle
\underset{n\rightarrow \infty }{\lim }\sigma (S(x_{1}...x_{n}))=0.
</math>

==Estymator wartości oczekiwanej==

Dla rozkładów dyskretnych wartość oczekiwana <math>\displaystyle
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

Dla rozkładów ciągłych wartość oczekiwana <math>\displaystyle
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx
</math>

Estymator wartości oczekiwanej postaci
<equation id="eq:91">
<math>\displaystyle
\overline{x}=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i}
</math>
</equation>

jest nieobciążony i zgodny.

'''Dowód:'''

<math>\displaystyle
E(\overline{x})=E\left(\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i}\right)=
\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}E(x_{i})
=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}\mu
=\frac{1}{n}n\mu =\mu
</math>

<math>\displaystyle
\sigma ^{2}\left( \overline{x}\right) =
E \left( \left( \overline{x}-E(\overline{x})\right)^{2}\right) =
E\left(\left(\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i}-
\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}\mu \right)^{2}\right) =
</math>

<math>\displaystyle
=\frac{1}{n^{2}}E\left(\left(\underset{i=1}{\overset{n}{\sum }}(x_{i}-\mu )\right)^{2}\right)
</math>

Jeśli elementy próby są niezależne, to
<math>\displaystyle
E\left((x_{i}-\mu)(x_{j}-\mu )\right) =\delta _{ij}\sigma ^{2}(x_{i}),
</math>

gdzie <math>\delta_{ij}</math> oznacza deltę Kroneckera
(<math>\delta_{ij}=1\ \textrm{ dla }\ i=j,
\delta_{ij}=0\ \textrm{ dla }\ i\neq j</math>), czyli:

<math>\sigma ^{2}\left( \overline{x}\right)
=\frac{1}{n^{2}}E\left(\underset{i=1}{\overset{n}{\sum }}(x_{i}-\mu )^{2}\right)
=\frac{1}{n^{2}}\left(\underset{i=1}{\overset{n}{\sum }}E(x_{i}-\mu )^{2}\right)
= \frac{1}{n^{2}}\underset{i=1}{\overset{n}{
\sum }}\sigma ^{2}(x_i)
</math>

Ponadto, jeśli elementy próby pochodzą z tego samego rozkładu, to
<math>\sigma ^{2}(x_{i})=\sigma^{2}(x)</math>, czyli

<equation id="eq:91a">
<math>\displaystyle
{ \sigma ^{2}(\overline{x})=\frac{1}{n^{2}}\underset{i=1}{\overset{n}{
\sum }}\sigma ^{2}(x)=\frac{1}{n}\sigma ^{2}(x)\ }.
</math>
</equation>

{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| Prawo wielkich liczb (opcjonalnie)  
|-
| Do zgodności estymatora wartości oczekiwanej odnosi się również prawo wielkich liczb. Mówi ono, że
<blockquote>
wartość średnia <math>\overline{x}=\frac{1}{n}\sum\limits_{i=1}^{n} x_i</math>, obliczona z odpowiednio dużej próby (o liczności co najmniej <math>n_0</math>), pobieranej z populacji o skończonej wariancji, może być
dowolnie bliska wartości oczekiwanej <math>\mu</math>.
</blockquote>

Co to znaczy "odpowiednio duża próba" i "dowolnie bliska"?

Jeśli chcemy, żeby wartość średnia nie odbiegała od <math>\mu</math> o więcej niż <math>\varepsilon</math> z prawdopodobieństwem ,,prawie jeden", czyli <math>1-\eta</math>, to dla wybranych (dowolnie małych, dodatnich) <math>\varepsilon </math> i <math>\eta</math> istnieje takie
<math>n_{0}</math>, że dla każdego <math>n>n_{0}</math>:

<equation id="eq:92">
<math>\displaystyle \exists {\varepsilon, \eta} \forall{n>n_0}
P\left( \left| \frac{1}{n}\sum\limits_{i=1}^{n} x_i -\mu \right| <\varepsilon
\right) > 1-\eta.
</math>
</equation>

Jest to tzw. słabe prawo wielkich liczb; mocne prawo wielkich liczb mówi, że

<math>\displaystyle
\underset{n\rightarrow \infty }{\lim} \frac{1}{n}\sum\limits_{i=1}^{n} x_i = \mu .
</math>
Dokładniejsze formulacje i dowody można znaleźć np. w książce "Wnioskowanie statystyczne" L. Gajek i M. Kałuszka, WNT 2000.
|}

==Estymator wariancji==
Spróbujmy skonstruować estymator wariancji z próby jako  
<math>\displaystyle s_o^{2}=\frac{1}{n} \underset{i=1}{\overset{n}{\sum }}(x_{i}-\overline{x})^{2}.</math>

Aby wyliczyć jego wartość oczekiwaną, wyprowadźmy jeszcze kilka prostych zależności. Na początek wykażemy, że wariancja zmiennej losowej jest równa różnicy wartości oczekiwanej kwadratu tej zmiennej i kwadratu jej wartości oczekiwanej:

<math>\displaystyle
\sigma^{2}(x_i)=E((x_i-\mu)^{2})=E(x_i^{2}-2x_i\mu+\mu ^{2})=E(x_i^{2})-2\mu E(x_i)+\mu^{2}=\\
\quad\;\;\;\;\;\: = E(x_i^{2})-\mu^{2}=E(x_i^{2})-\left\{ E(x_i)\right\} ^{2}
</math>

Czyli <equation id="eq:64">
<center><math>\displaystyle
\sigma ^{2}(x_i) = E(x_i^{2})-\left\{ E(x_i)\right\} ^{2} = E(x_i^{2}) - \mu^2
</math></center>
</equation>

Wynika stąd w szczególności, że
<center><math>\displaystyle
E(x_i^{2}) = \sigma_{x_i}^2 + \mu^2
</math></center>

Analogicznie dla wariancji wartości średniej
<center><math>\displaystyle
E(\overline{x}^2) = \sigma_\overline{x}^2 + \mu^2
</math></center>

Czyli <math>\sigma_\overline{x}^2 = E(\overline{x}^2) - \mu^2</math>.
Ponieważ <math> \sigma^{2}_\overline{x}=\frac{1}{n}\sigma^{2}_{x_i} </math>
dostajemy

<center><math>\displaystyle
\frac{1}{n}\sigma^{2}_{x_i} = E(\overline{x}^2) - \mu^2
</math></center>

<center><math>\displaystyle
E(\overline{x}^2) = \frac{1}{n}\sigma^{2}_{x_i} + \mu^2
</math></center>

Policzmy teraz wartość oczekiwaną proponowanego estymatora wariancji  
<math>\displaystyle s_o^{2}=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}(x_{i}-\overline{x})^{2}</math>

<math>\displaystyle
E\left( s_o^{2}\right) =
\frac{1}{n} E\left(\sum\limits_{i=1}^{n}(x_{i}-\overline{x})^{2}\right)
</math>

<math>\displaystyle =
\frac{1}{n} E\left(\sum\limits_{i=1}^{n}x_{i}^2 + \sum\limits_{i=1}^{n}\overline{x}^{2} - 2\sum\limits_{i=1}^{n} \overline{x} x_i \right)
</math>

<math>\displaystyle =
\frac{1}{n} \left(\sum\limits_{i=1}^{n}E(x_{i}^2) + \sum\limits_{i=1}^{n}E(\overline{x}^{2}) - 2 E \left(\overline{x} \sum\limits_{i=1}^{n} x_i \right) \right)
</math>

<math>\displaystyle =
\frac{1}{n} \left(\sum\limits_{i=1}^{n}E(x_{i}^2) + n E(\overline{x}^{2}) - 2 n E (\overline{x}^2 ) \right)
</math>

<math>\displaystyle =
\frac{1}{n} \left(n E\left(x_{i}^2\right) - n E\left(\overline{x}^{2}\right) \right)
</math>

podstawiając wyprowadzone wcześniej wzory na <math>E(x_{i}^2)</math> i <math>E(\overline{x}^{2})</math> dostajemy

<math>\displaystyle
E\left( s_o^{2}\right) = \frac{1}{n} \left( n \left(\sigma^2_{x_i} + \mu^2\right) -n \left( \frac{1}{n}\sigma^2_{x_i} + \mu^2 \right) \right)
=\frac{n-1}{n}\sigma^{2}_{x_i}
</math>

czyli nie jest dla każdej wielkości próby <math>n</math> wartość oczekiwana tego estymatora wyniesie <math>\sigma^2(x)</math>. Tak więc <math>s_o^2</math> jest estymatorem obciążonym.
W tej sytuacji, jako nieobciążony estymator wariancji możemy zaproponować
<equation id="eq:93">
<center><math>\displaystyle
{ s^{2}=\frac{1}{n-1}\underset{i=1}{\overset{n}{\sum }}(x_{i}-
\overline{x})^{2} }
</math></center>
</equation>

===Estymator wariancji wartości średniej===
Podstawiając tę zależność do wyprowadzonego powyżej wzoru na wariancję wartości średniej w miejsce <math>\sigma^2</math>, dostajemy wzór na estymator wariancji wartości średniej próby

<equation id="eq:94">
<center><math>\displaystyle
s^2_{\overline{x}} = \frac{1}{n(n-1)}\sum_{i=1}^n(x_{i}-\overline{x})^{2}.
</math>
</equation></center>

Pierwiastek tej wielkości

<equation id="eq:94a">
<center><math>\displaystyle
s_{\overline{x}} = \sqrt{
\frac{1}{n(n-1)}\sum_{i=1}^n(x_{i}-\overline{x})^{2}}
</math>
</equation></center>

jest estymatorem '''odchylenia standardowego wartości średniej'''.

WnioskowanieStatystyczne/Rozklady

2026-09-08T08:58:38Z

Durka:

[[Wnioskowanie_Statystyczne_-_wykład]]

==Rozkłady prawdopodobieństwa==
Rozkład prawdpopodobieństwa — zgodnie z nazwą — będzie funkcją określającą,
jak prawdopodobieństwo rozkłada się pomiędzy możliwe wyniki danego
doświadczenia. Mieliśmy już z nim do czynienia w pierwszej części książki,
<xr id="fig:boot+mc_kosz">rysunek %i</xr> przypomina niektóre z tych przypadków.

[[Plik:Boot+mc_kosz.png|300px|thumb|left|<figure id="fig:boot+mc_kosz"></figure>(a) rozkład liczby jedynek uzyskany z 10 tysięcy repróbkowań ze
zwracaniem (bootstrap) próby 18 jedynek i 82 zer;
(b) liczba trafień na 10 rzutów do kosza, przy średnim prawdopodobieństwie
trafienia 0,6 ]]

Nie są to prawdopodobieństwa, gdyż nie spełniają [[WnioskowanieStatystyczne/Prawdopodobienstwo#label-eq:45|aksjomatu]] <math>(0\leq P(A)\leq 1)</math>, który wraz z [[WnioskowanieStatystyczne/Prawdopodobienstwo#label-eq:43|aksjomatem]] <math>(P(\Omega)=1)</math> możemy spełnić dzieląc liczbę wystąpień każdego przypadku przez całkowitą liczbę eksperymentów —
wtedy suma wszystkich prawdopodobieństw (czyli <math>P(\Omega)</math>)
wyniesie 1. Przykład tak znormalizowanego dyskretnego rozkładu
prawdopodobieństwa przedstawia rysunek <xr id="fig:dysk_i_plask">rysunek %i(a)</xr>.

Pozostaje jeszcze problem formalny: występujące w klasycznej teorii
funkcje nie są określone na zdarzeniach, tylko na liczbach. Przejście
od zdarzeń do odpowiadających im liczb wymaga pojęcia ''zmiennej
losowej'' – odwzorowania <math>X(.)</math> z przestrzeni zdarzeń do
przestrzeni liczb rzeczywistych. Na przykład w doświadczeniu
polegającym na rzucaniu kostką zmienna losowa przypisze liczbę 4
przypadkowi, w którym na górnej ściance rzuconej kostki widać cztery
kropki.

Liczby (czyli zmienne losowe) są już pełnoprawnymi argumentami
funkcji, ale z definicją rozkładu prawdopodobieństwa będzie jeszcze
trochę kłopotu, jeśli wyniki eksperymentu będą pochodzić z ciągłych
przedziałów zmiennej losowej, a nie, jak w przykładach z rysunku <xr id="fig:boot+mc_kosz">rysunek %i</xr>, ze zbioru dyskretnego.

==Rozkłady ciągłe — gęstość prawdopodobieństwa==

[[Plik:Rozklad_dyskretny_i_plaski.png|300px|thumb|left|<figure
id="fig:dysk_i_plask"></figure>(a) dyskretny rozkład prawdopodobieństw
wyników rzutu kostką; (b) ciągły rozkład gęstości prawdopodobieństwa dla liczb
rzeczywistych z przedziału od zera do jednego. ]]

Z rozkładem ciągłym mieliśmy do czynienia, gdy używaliśmy generatora
liczb losowych — losował on z równym prawdopodobieństwem liczby
rzeczywiste z przedziału od zera do jednego. Funkcja przypisująca
równe prawdopodobieństwa liczbom od zera do jednego powinna wyglądać
jak na <xr id="fig:dysk_i_plask">rysunku %i(b)</xr>. A jednak coś się
tu nie zgadza...

Zacznijmy od rozkładu dyskretnego, czyli <xr
id="fig:dysk_i_plask">wykresu %i(a)</xr>. Prawdopodobieństwo dla
zmiennej losowej (teraz nie jest to już formalnie zdarzenie)
wynoszącej na przykład 2 odczytujemy jako wynoszące 0,167. Czyli
mniejsze od 1 i większe od zera. Suma prawdopodobieństw dla wszystkich
możliwych wartości zmiennej losowej wyniesie 1 — wszystko zgadza się
z [[WnioskowanieStatystyczne/Prawdopodobienstwo#Częstościowa definicja prawdopodobieństwa|aksjomatami definicji prawdopodobieństwa]].

Teraz spróbujmy z wykresu po prawej stronie odczytać wartość
prawdopodobieństwa wylosowania jakiejś liczby spomiędzy 0 i 1. Jeden?
To oznacza pewność — niemożliwe. Na osi <math>y</math> powinna
występować jakaś znacznie mniejsza wartość... Ale jaka?

Zastanówmy się: niezależnie od tego, jak małą (niezerową i nieujemną)
wartość przyjmiemy dla prawdopodobieństwa wylosowania dowolnej liczby
z tego przedziału, to gdy zaczniemy je sumować dla wszystkich
możliwych wyników, których na odcinku <math>(0, 1)</math> jest wszak
nieskończenie wiele, zawsze dostaniemy więcej niż jeden. Najwyraźniej
tak się nie da.

Widać już, że sumę będziemy musieli zastąpić całką — jest to właśnie
graniczny przypadek sumy. W tym układzie aksjomat
<math>P(\Omega)=1</math>, który dla przypadku dyskretnego wyrażał się
sumą

<math>
\sum_i P(X=x_i) = 1,
</math>

teraz będzie wyrażał się całką

<math>
\int p(x) dx = 1,
</math>

gdzie prawdopodobieństwo <math>P</math> zastąpiła, z przyczyn, które
staną się jasne za chwilę, gęstość prawdopodobieństwa <math>p</math>.
Łatwo sprawdzić, że całka rozkładu z <xr
id="fig:dysk_i_plask">rys. %i</xr> spełnia ten warunek. Jednak
pozostaje problem odczytywania wartości prawdopodobieństwa dla
konkretnej wartości zmiennej losowej.

Przypomnijmy sobie, że [[WnioskowanieStatystyczne/Bootstrap|symulując rzuty monetą]] korzystaliśmy z faktu, że prawdopodobieństwo wylosowania liczby
mniejszej niż <math>\frac1 2</math> wynosi 0,5. Zdefiniujmy więc
''dystrybuantę'' prawdopodobieństwa zmiennej losowej <math>X</math>
jako prawdopodobieństwo wystąpienia któregokolwiek ze zdarzeń, dla
których zmienna losowa przyjmuje wartości mniejsze od <math>x</math>:

<equation id="eq:59">
<math>
F(x)=P[X \leq x].
</math>
</equation>

Będzie to oczywiście funkcja niemalejąca, dążąca do zera dla małych
<math>x</math> i do jednego dla dużych. Dla rozkładu z <xr
id="fig:dysk_i_plask">rysunku %i</xr>(b) dystrybuanta będzie wyglądać
jak na <xr id="fig:plaski">rysunku %i</xr>.

[[Plik:Dystryb_plaski.png|300px|thumb|left|<figure
id="fig:plaski"></figure>Dystrybuanta ciągłej zmiennej losowej o
równym prawdopodobieństwie na przedziale (0, 1).]]

Dopiero teraz '''gęstość prawdopodobieństwa''' zmiennej losowej określimy jako
pochodną dystrybuanty

<equation id="eq:59a">
<math>
p(x)=\frac{d F(x)}{dx}=\frac{P[x\leq X\leq x+dx]}{dx}.
</math>
</equation>

Dlaczego gęstość, a nie po prostu rozkład prawdopodobieństwa, jak w
przypadku dyskretnym? Właśnie ze względu na problemy z odczytem
prawdopodobieństwa dla konkretnej wartości zmiennej. Na podobny
problem trafiamy np. w fizyce, próbując obliczyć masę punktu. Masa to
iloczyn (całka) gęstości i objętości, a punkt ma zerową objętość. Aby
otrzymać niezerową masę, gęstość materii musimy scałkować w jakimś
niezerowym obszarze — nie można przyjąć za masę gęstości materii w
danym punkcie. Tak samo w przypadku ciągłych rozkładów gęstości
prawdopodobieństwa, prawdopodobieństwo możemy obliczyć tylko dla
niezerowego przedziału zmiennej losowej, a wartość odczytywaną dla
konkretnej wartości zmiennej losowej interpretujemy jako gęstość.

WnioskowanieStatystyczne/Momenty

2026-09-08T08:55:05Z

Durka: /* Wariancja sumy i wariancja przeskalowanej zmiennej */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Wariancja, korelacja, mediana==
Jak widać, własności rozkładów ciągłych i dyskretnych będą opisywać nieco
odmienne wzory; poniżej
przytaczamy najczęściej wykorzystywane w praktyce definicje i zależności.

===Wartość oczekiwana===
Zgodnie z nazwą i intuicją, wartość oczekiwana (wartość średnia, przeciętna) określa środek rozkładu, czyli okolicę, w którą najczęściej powinny "trafiać" wyniki.<ref>Nie musi być równa wartości zmiennej losowej, dla której prawdopodobieństwo jest największe.</ref>
Dla rozkładów dyskretnych będzie się ona wyrażać wzorem:

<math>
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

a dla rozkładów ciągłych:
<equation id="eq:60">
<math>
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx.
</math>
</equation>

Na podstawie tych wzorów łatwo dowieść liniowości wartości oczekiwanej; dla zmiennych losowych <math>x</math> i
<math>y</math> oraz stałych <math>c_1</math> i <math>c_2</math>
<equation id="eq:61">
<math>
E(c_1 x+c_2 y)=c_1 E(x)+c_2 E(y).
</math>
</equation>

===Mediana===

Mediana to inna od wartości oczekiwanej miara położenia środka rozkładu. Określamy ją jako
taką wartość zmiennej losowej <math>x_{\frac{1}{2}}</math>, która dzieli rozkład gęstości
prawdopodobieństwa na dwie równe części — wartościom zmiennych losowych
mniejszym niż <math>x_{\frac{1}{2}}</math> odpowiada tyle samo przypadków, co wartościom większym:

<math>
\int\limits_{-\infty}^{x_{\frac{1}{2}}} p(x) dx = \int\limits_{x_{\frac{1}{2}}}^\infty p(x) dx= \ \frac{1}{2}.
</math>

Dla rozkładów symetrycznych mediana i wartość oczekiwana są sobie równe, w ogólnym przypadku rozkładów niesymetrycznych — NIE, por. np.
[https://upload.wikimedia.org/wikipedia/commons/d/de/Comparison_mean_median_mode.svg ilustracja różnic z Wikipedii]

===Wariancja===

Wariancja jest miarą rozrzutu zmiennej losowej wokół wartości
oczekiwanej, czyli "szerokości" rozkładu prawdopodobieństwa. Mała
wariancja oznacza, że zmienne (np. wyniki losowań) będą gromadzić się
("wypadać") blisko wartości oczekiwanej (i blisko siebie).

Wariancję określamy jako wartość oczekiwaną kwadratu różnicy zmiennej i jej
wartości oczekiwanej; dla rozkładów dyskretnych:

<math>
\sigma ^{2}(x)=E((x-\mu)^{2})=\overset{n}{\underset{i=1}{\sum }}
P(X=x_{i})(x_{i}-\mu)^{2}.
</math>

Dla rozkładów ciągłych:
<equation id="eq:63">
<math>
\sigma ^2(x)=E((x-\mu)^{2})=\underset{-\infty }{\overset{\infty }{
\int }}(x-\mu)^{2} p(x)dx.
</math>
</equation>

Pierwiastek wariancji <math>\left( \sigma=\sqrt{\sigma^2}\right)</math> nosi nazwę ''odchylenia standardowego''.

===Kowariancja i współczynnik korelacji===

[[Plik:Korelacja.png|300px|thumb|left|<figure id="fig:rozw2"></figure>Przykładowe wartości współczynnika korelacji dla 300 par <math>(x, y)</math> o
różnych stopniach współzależności.
]]

Miarą związku między zmiennymi <math>x</math> i <math>y</math> jest kowariancja

<math>
\sigma_{x, y} = E\left( (x-\mu_{x})(y-\mu_{y})\right)
</math>

lub unormowany do jedności współczynnik korelacji zmiennych <math>x</math> i <math>y</math>:

<math>
\rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}=
\frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)}
{\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}},
</math>

gdzie <math>\mu_x</math> i <math>\mu_y</math> to odpowiednio wartości
oczekiwane zmiennych <math>x</math> i <math>y</math>. Jeśli zmienne
<math>x</math> i <math>y</math> związane są deterministyczną
zależnością liniową (typu <math>y=c_1 x+c_2</math>), to ich korelacja
wynosi <math>1</math> (lub <math>-1</math>, jeśli <math>c_1<
0</math>). Jeśli wzrostowi zmiennej <math>x</math> towarzyszy
statystycznie wzrost zmiennej <math>y</math>, to ich korelacja jest
dodatnia (pomiędzy <math>0</math> a <math>1</math>). Dla zmiennych
niezależnych korelacja wynosi <math>0</math>.

Por. także [https://upload.wikimedia.org/wikipedia/commons/d/d4/Correlation_examples2.svg ilustracje z Wikipedii].

===Wariancja sumy i wariancja przeskalowanej zmiennej===

'''Skalowanie zmiennej a wariancja.''' Z liniowości <xr id="eq:61">(%i)</xr> mamy <math>E(ax+b)=a\mu+b</math>, a zatem

<math>
\sigma^2(ax+b)=E\left(\left((ax+b)-(a\mu+b)\right)^2\right)=E\left(a^2(x-\mu)^2\right)=a^2 E\left((x-\mu)^2\right)=a^2\sigma^2(x)
</math>

Jak widać, przesunięcie zmiennej <math>x</math> o stałą <math>b</math> nie zmienia rozrzutu, a przeskalowanie stałą <math>a</math> zmienia odchylenie standardowe proporcjonalnie do <math>|a|</math>, wariancję — z kwadratem:

<math>\sigma(ax+b)=|a|\,\sigma(x)</math>

'''Suma zmiennych.''' Oznaczmy <math>\mu_x=E(x)</math>, <math>\mu_y=E(y)</math>. Ponieważ <math>E(x+y)=\mu_x+\mu_y</math>, to znów wprost z definicji wariancji

<math>
\sigma^2(x+y)=E\left(\left((x-\mu_x)+(y-\mu_y)\right)^2\right)=
E\left((x-\mu_x)^2\right)+E\left((y-\mu_y)^2\right)+2E\left((x-\mu_x)(y-\mu_y)\right)
</math>

Dwa pierwsze składniki to <math>\sigma^2(x)</math> i <math>\sigma^2(y)</math>, a trzeci to podwojona kowariancja zdefiniowana w poprzednim podrozdziale — czyli

<math>
\sigma^2(x+y)=\sigma^2(x)+\sigma^2(y)+2\sigma_{x,y}
</math>

'''Zmienne niezależne.''' Dla zmiennych niezależnych kowariancja — a z nią współczynnik korelacji, o czym była mowa na końcu poprzedniego podrozdziału — wynosi zero. Wariancje po prostu się wtedy dodają, i to również dla różnicy:

<equation id="eq:62">
<math>
\sigma^2(x \pm y)=\sigma^2(x)+\sigma^2(y) \qquad \textrm{dla } x, y \textrm{ niezależnych.}
</math>
</equation>

Zwróćmy uwagę, że dodają się '''wariancje''', a nie odchylenia standardowe: <math>\sigma(x \pm y)=\sqrt{\sigma^2(x)+\sigma^2(y)}</math>.

Ze wzoru <xr id="eq:62">(%i)</xr> korzystamy dalej wielokrotnie: przy [[WnioskowanieStatystyczne/Rozklady-przyklady|wariancji rozkładu dwumianowego]], w dowodzie [[WnioskowanieStatystyczne/CLT|Centralnego Twierdzenia Granicznego]], przy [[WnioskowanieStatystyczne/Statystyki_i_estymatory|wariancji wartości średniej]] (<math>\sigma^2(\overline{x})=\sigma^2(x)/n</math>) oraz przy wariancji różnicy średnich w [[WnioskowanieStatystyczne/Test_t|teście t]].

--------------------
<references />

WnioskowanieStatystyczne/Momenty

2026-09-08T08:51:39Z

Durka: /* Wariancja sumy i wariancja przeskalowanej zmiennej */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Wariancja, korelacja, mediana==
Jak widać, własności rozkładów ciągłych i dyskretnych będą opisywać nieco
odmienne wzory; poniżej
przytaczamy najczęściej wykorzystywane w praktyce definicje i zależności.

===Wartość oczekiwana===
Zgodnie z nazwą i intuicją, wartość oczekiwana (wartość średnia, przeciętna) określa środek rozkładu, czyli okolicę, w którą najczęściej powinny "trafiać" wyniki.<ref>Nie musi być równa wartości zmiennej losowej, dla której prawdopodobieństwo jest największe.</ref>
Dla rozkładów dyskretnych będzie się ona wyrażać wzorem:

<math>
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

a dla rozkładów ciągłych:
<equation id="eq:60">
<math>
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx.
</math>
</equation>

Na podstawie tych wzorów łatwo dowieść liniowości wartości oczekiwanej; dla zmiennych losowych <math>x</math> i
<math>y</math> oraz stałych <math>c_1</math> i <math>c_2</math>
<equation id="eq:61">
<math>
E(c_1 x+c_2 y)=c_1 E(x)+c_2 E(y).
</math>
</equation>

===Mediana===

Mediana to inna od wartości oczekiwanej miara położenia środka rozkładu. Określamy ją jako
taką wartość zmiennej losowej <math>x_{\frac{1}{2}}</math>, która dzieli rozkład gęstości
prawdopodobieństwa na dwie równe części — wartościom zmiennych losowych
mniejszym niż <math>x_{\frac{1}{2}}</math> odpowiada tyle samo przypadków, co wartościom większym:

<math>
\int\limits_{-\infty}^{x_{\frac{1}{2}}} p(x) dx = \int\limits_{x_{\frac{1}{2}}}^\infty p(x) dx= \ \frac{1}{2}.
</math>

Dla rozkładów symetrycznych mediana i wartość oczekiwana są sobie równe, w ogólnym przypadku rozkładów niesymetrycznych — NIE, por. np.
[https://upload.wikimedia.org/wikipedia/commons/d/de/Comparison_mean_median_mode.svg ilustracja różnic z Wikipedii]

===Wariancja===

Wariancja jest miarą rozrzutu zmiennej losowej wokół wartości
oczekiwanej, czyli "szerokości" rozkładu prawdopodobieństwa. Mała
wariancja oznacza, że zmienne (np. wyniki losowań) będą gromadzić się
("wypadać") blisko wartości oczekiwanej (i blisko siebie).

Wariancję określamy jako wartość oczekiwaną kwadratu różnicy zmiennej i jej
wartości oczekiwanej; dla rozkładów dyskretnych:

<math>
\sigma ^{2}(x)=E((x-\mu)^{2})=\overset{n}{\underset{i=1}{\sum }}
P(X=x_{i})(x_{i}-\mu)^{2}.
</math>

Dla rozkładów ciągłych:
<equation id="eq:63">
<math>
\sigma ^2(x)=E((x-\mu)^{2})=\underset{-\infty }{\overset{\infty }{
\int }}(x-\mu)^{2} p(x)dx.
</math>
</equation>

Pierwiastek wariancji <math>\left( \sigma=\sqrt{\sigma^2}\right)</math> nosi nazwę ''odchylenia standardowego''.

===Kowariancja i współczynnik korelacji===

[[Plik:Korelacja.png|300px|thumb|left|<figure id="fig:rozw2"></figure>Przykładowe wartości współczynnika korelacji dla 300 par <math>(x, y)</math> o
różnych stopniach współzależności.
]]

Miarą związku między zmiennymi <math>x</math> i <math>y</math> jest kowariancja

<math>
\sigma_{x, y} = E\left( (x-\mu_{x})(y-\mu_{y})\right)
</math>

lub unormowany do jedności współczynnik korelacji zmiennych <math>x</math> i <math>y</math>:

<math>
\rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}=
\frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)}
{\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}},
</math>

gdzie <math>\mu_x</math> i <math>\mu_y</math> to odpowiednio wartości
oczekiwane zmiennych <math>x</math> i <math>y</math>. Jeśli zmienne
<math>x</math> i <math>y</math> związane są deterministyczną
zależnością liniową (typu <math>y=c_1 x+c_2</math>), to ich korelacja
wynosi <math>1</math> (lub <math>-1</math>, jeśli <math>c_1<
0</math>). Jeśli wzrostowi zmiennej <math>x</math> towarzyszy
statystycznie wzrost zmiennej <math>y</math>, to ich korelacja jest
dodatnia (pomiędzy <math>0</math> a <math>1</math>). Dla zmiennych
niezależnych korelacja wynosi <math>0</math>.

Por. także [https://upload.wikimedia.org/wikipedia/commons/d/d4/Correlation_examples2.svg ilustracje z Wikipedii].

===Wariancja sumy i wariancja przeskalowanej zmiennej===

'''Skalowanie zmiennej a wariancja.''' Z liniowości <xr id="eq:61">(%i)</xr> mamy <math>E(ax+b)=a\mu+b</math>, a zatem

<math>
\sigma^2(ax+b)=E\left(\left((ax+b)-(a\mu+b)\right)^2\right)=E\left(a^2(x-\mu)^2\right)=a^2 E\left((x-\mu)^2\right)=a^2\sigma^2(x)
</math>

Jak widać, przesunięcie zmiennej <math>x</math> o stałą <math>b</math> nie zmienia rozrzutu, a przeskalowanie stałą <math>a</math> zmienia odchylenie standardowe proporcjonalnie do <math>|a|</math>, wariancję — z kwadratem:

<math>\sigma(ax+b)=|a|\,\sigma(x)</math>

'''Suma zmiennych.''' Oznaczmy <math>\mu_x=E(x)</math>, <math>\mu_y=E(y)</math>. Ponieważ <math>E(x+y)=\mu_x+\mu_y</math>, to znów wprost z definicji wariancji

<math>
\sigma^2(x+y)=E\left(\left((x-\mu_x)+(y-\mu_y)\right)^2\right)=
E\left((x-\mu_x)^2\right)+E\left((y-\mu_y)^2\right)+2E\left((x-\mu_x)(y-\mu_y)\right)
</math>

Dwa pierwsze składniki to <math>\sigma^2(x)</math> i <math>\sigma^2(y)</math>, a trzeci to podwojona kowariancja zdefiniowana w poprzednim podrozdziale — czyli

<math>
\sigma^2(x+y)=\sigma^2(x)+\sigma^2(y)+2\sigma_{x,y}
</math>

'''Zmienne niezależne.''' Dla zmiennych niezależnych kowariancja — a z nią współczynnik korelacji, o czym była mowa na końcu poprzedniego podrozdziału — wynosi zero. Wariancje po prostu się wtedy dodają, i to również dla różnicy:

<equation id="eq:62">
<math>
\sigma^2(x \pm y)=\sigma^2(x)+\sigma^2(y) \qquad \textrm{dla } x, y \textrm{ niezależnych.}
</math>
</equation>

Zwróćmy uwagę, że dodają się '''wariancje''', a nie odchylenia standardowe: <math>\sigma(x \pm y)=\sqrt{\sigma^2(x)+\sigma^2(y)}</math>, czyli mniej niż <math>\sigma(x)+\sigma(y)</math>

Ze wzoru <xr id="eq:62">(%i)</xr> korzystamy dalej wielokrotnie: przy [[WnioskowanieStatystyczne/Rozklady-przyklady|wariancji rozkładu dwumianowego]], w dowodzie [[WnioskowanieStatystyczne/CLT|Centralnego Twierdzenia Granicznego]], przy [[WnioskowanieStatystyczne/Statystyki_i_estymatory|wariancji wartości średniej]] (<math>\sigma^2(\overline{x})=\sigma^2(x)/n</math>) oraz przy wariancji różnicy średnich w [[WnioskowanieStatystyczne/Test_t|teście t]].

--------------------
<references />

WnioskowanieStatystyczne/Momenty

2026-09-08T08:47:43Z

Durka: /* Wariancja sumy i wariancja przeskalowanej zmiennej */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Wariancja, korelacja, mediana==
Jak widać, własności rozkładów ciągłych i dyskretnych będą opisywać nieco
odmienne wzory; poniżej
przytaczamy najczęściej wykorzystywane w praktyce definicje i zależności.

===Wartość oczekiwana===
Zgodnie z nazwą i intuicją, wartość oczekiwana (wartość średnia, przeciętna) określa środek rozkładu, czyli okolicę, w którą najczęściej powinny "trafiać" wyniki.<ref>Nie musi być równa wartości zmiennej losowej, dla której prawdopodobieństwo jest największe.</ref>
Dla rozkładów dyskretnych będzie się ona wyrażać wzorem:

<math>
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

a dla rozkładów ciągłych:
<equation id="eq:60">
<math>
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx.
</math>
</equation>

Na podstawie tych wzorów łatwo dowieść liniowości wartości oczekiwanej; dla zmiennych losowych <math>x</math> i
<math>y</math> oraz stałych <math>c_1</math> i <math>c_2</math>
<equation id="eq:61">
<math>
E(c_1 x+c_2 y)=c_1 E(x)+c_2 E(y).
</math>
</equation>

===Mediana===

Mediana to inna od wartości oczekiwanej miara położenia środka rozkładu. Określamy ją jako
taką wartość zmiennej losowej <math>x_{\frac{1}{2}}</math>, która dzieli rozkład gęstości
prawdopodobieństwa na dwie równe części — wartościom zmiennych losowych
mniejszym niż <math>x_{\frac{1}{2}}</math> odpowiada tyle samo przypadków, co wartościom większym:

<math>
\int\limits_{-\infty}^{x_{\frac{1}{2}}} p(x) dx = \int\limits_{x_{\frac{1}{2}}}^\infty p(x) dx= \ \frac{1}{2}.
</math>

Dla rozkładów symetrycznych mediana i wartość oczekiwana są sobie równe, w ogólnym przypadku rozkładów niesymetrycznych — NIE, por. np.
[https://upload.wikimedia.org/wikipedia/commons/d/de/Comparison_mean_median_mode.svg ilustracja różnic z Wikipedii]

===Wariancja===

Wariancja jest miarą rozrzutu zmiennej losowej wokół wartości
oczekiwanej, czyli "szerokości" rozkładu prawdopodobieństwa. Mała
wariancja oznacza, że zmienne (np. wyniki losowań) będą gromadzić się
("wypadać") blisko wartości oczekiwanej (i blisko siebie).

Wariancję określamy jako wartość oczekiwaną kwadratu różnicy zmiennej i jej
wartości oczekiwanej; dla rozkładów dyskretnych:

<math>
\sigma ^{2}(x)=E((x-\mu)^{2})=\overset{n}{\underset{i=1}{\sum }}
P(X=x_{i})(x_{i}-\mu)^{2}.
</math>

Dla rozkładów ciągłych:
<equation id="eq:63">
<math>
\sigma ^2(x)=E((x-\mu)^{2})=\underset{-\infty }{\overset{\infty }{
\int }}(x-\mu)^{2} p(x)dx.
</math>
</equation>

Pierwiastek wariancji <math>\left( \sigma=\sqrt{\sigma^2}\right)</math> nosi nazwę ''odchylenia standardowego''.

===Kowariancja i współczynnik korelacji===

[[Plik:Korelacja.png|300px|thumb|left|<figure id="fig:rozw2"></figure>Przykładowe wartości współczynnika korelacji dla 300 par <math>(x, y)</math> o
różnych stopniach współzależności.
]]

Miarą związku między zmiennymi <math>x</math> i <math>y</math> jest kowariancja

<math>
\sigma_{x, y} = E\left( (x-\mu_{x})(y-\mu_{y})\right)
</math>

lub unormowany do jedności współczynnik korelacji zmiennych <math>x</math> i <math>y</math>:

<math>
\rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}=
\frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)}
{\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}},
</math>

gdzie <math>\mu_x</math> i <math>\mu_y</math> to odpowiednio wartości
oczekiwane zmiennych <math>x</math> i <math>y</math>. Jeśli zmienne
<math>x</math> i <math>y</math> związane są deterministyczną
zależnością liniową (typu <math>y=c_1 x+c_2</math>), to ich korelacja
wynosi <math>1</math> (lub <math>-1</math>, jeśli <math>c_1<
0</math>). Jeśli wzrostowi zmiennej <math>x</math> towarzyszy
statystycznie wzrost zmiennej <math>y</math>, to ich korelacja jest
dodatnia (pomiędzy <math>0</math> a <math>1</math>). Dla zmiennych
niezależnych korelacja wynosi <math>0</math>.

Por. także [https://upload.wikimedia.org/wikipedia/commons/d/d4/Correlation_examples2.svg ilustracje z Wikipedii].

===Wariancja sumy i wariancja przeskalowanej zmiennej===

'''Skalowanie zmiennej a wariancja.''' Z liniowości <xr id="eq:61">(%i)</xr> mamy <math>E(ax+b)=a\mu+b</math>, a zatem

<math>
\sigma^2(ax+b)=E\left(\left((ax+b)-(a\mu+b)\right)^2\right)=E\left(a^2(x-\mu)^2\right)=a^2 E\left((x-\mu)^2\right)=a^2\sigma^2(x)
</math>

Jak widać, przesunięcie zmiennej <math>x</math> o stałą <math>b</math> nie zmienia rozrzutu, a przeskalowanie stałą <math>a</math> zmienia odchylenie standardowe proporcjonalnie do <math>|a|</math>, wariancję — z kwadratem:

<math>\sigma(ax+b)=|a|\,\sigma(x)</math>

'''Suma zmiennych.''' Oznaczmy <math>\mu_x=E(x)</math>, <math>\mu_y=E(y)</math>. Ponieważ <math>E(x+y)=\mu_x+\mu_y</math>, to znów wprost z definicji wariancji

<math>
\sigma^2(x+y)=E\left(\left((x-\mu_x)+(y-\mu_y)\right)^2\right)=
E\left((x-\mu_x)^2\right)+E\left((y-\mu_y)^2\right)+2E\left((x-\mu_x)(y-\mu_y)\right)
</math>

Dwa pierwsze składniki to <math>\sigma^2(x)</math> i <math>\sigma^2(y)</math>, a trzeci to podwojona kowariancja zdefiniowana w poprzednim podrozdziale — czyli

<math>
\sigma^2(x+y)=\sigma^2(x)+\sigma^2(y)+2\sigma_{x,y}
</math>

Dla różnicy wystarczy podstawić <math>-y</math> w miejsce <math>y</math>: z reguły przeskalowania dla <math>a=-1</math> wariancja się nie zmienia (<math>\sigma^2(-y)=\sigma^2(y)</math>), a kowariancja zmienia znak (<math>\sigma_{x,-y}=-\sigma_{x,y}</math>, wprost z jej definicji), więc

<math>
\sigma^2(x-y)=\sigma^2(x)+\sigma^2(y)-2\sigma_{x,y}
</math>

'''Zmienne niezależne.''' Dla zmiennych niezależnych kowariancja — a z nią współczynnik korelacji, o czym była mowa na końcu poprzedniego podrozdziału — wynosi zero. Wariancje po prostu się wtedy dodają, i to również dla różnicy:

<equation id="eq:62">
<math>
\sigma^2(x \pm y)=\sigma^2(x)+\sigma^2(y) \qquad \textrm{dla } x, y \textrm{ niezależnych.}
</math>
</equation>

Zwróćmy uwagę, że dodają się '''wariancje''', a nie odchylenia standardowe: <math>\sigma(x \pm y)=\sqrt{\sigma^2(x)+\sigma^2(y)}</math>, czyli mniej niż <math>\sigma(x)+\sigma(y)</math>

Ze wzoru <xr id="eq:62">(%i)</xr> korzystamy dalej wielokrotnie: przy [[WnioskowanieStatystyczne/Rozklady-przyklady|wariancji rozkładu dwumianowego]], w dowodzie [[WnioskowanieStatystyczne/CLT|Centralnego Twierdzenia Granicznego]], przy [[WnioskowanieStatystyczne/Statystyki_i_estymatory|wariancji wartości średniej]] (<math>\sigma^2(\overline{x})=\sigma^2(x)/n</math>) oraz przy wariancji różnicy średnich w [[WnioskowanieStatystyczne/Test_t|teście t]].

--------------------
<references />

WnioskowanieStatystyczne/Momenty

2026-09-08T08:45:52Z

Durka: /* Kowariancja i współczynnik korelacji */

[[Wnioskowanie_Statystyczne_-_wykład]]

==Wariancja, korelacja, mediana==
Jak widać, własności rozkładów ciągłych i dyskretnych będą opisywać nieco
odmienne wzory; poniżej
przytaczamy najczęściej wykorzystywane w praktyce definicje i zależności.

===Wartość oczekiwana===
Zgodnie z nazwą i intuicją, wartość oczekiwana (wartość średnia, przeciętna) określa środek rozkładu, czyli okolicę, w którą najczęściej powinny "trafiać" wyniki.<ref>Nie musi być równa wartości zmiennej losowej, dla której prawdopodobieństwo jest największe.</ref>
Dla rozkładów dyskretnych będzie się ona wyrażać wzorem:

<math>
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

a dla rozkładów ciągłych:
<equation id="eq:60">
<math>
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx.
</math>
</equation>

Na podstawie tych wzorów łatwo dowieść liniowości wartości oczekiwanej; dla zmiennych losowych <math>x</math> i
<math>y</math> oraz stałych <math>c_1</math> i <math>c_2</math>
<equation id="eq:61">
<math>
E(c_1 x+c_2 y)=c_1 E(x)+c_2 E(y).
</math>
</equation>

===Mediana===

Mediana to inna od wartości oczekiwanej miara położenia środka rozkładu. Określamy ją jako
taką wartość zmiennej losowej <math>x_{\frac{1}{2}}</math>, która dzieli rozkład gęstości
prawdopodobieństwa na dwie równe części — wartościom zmiennych losowych
mniejszym niż <math>x_{\frac{1}{2}}</math> odpowiada tyle samo przypadków, co wartościom większym:

<math>
\int\limits_{-\infty}^{x_{\frac{1}{2}}} p(x) dx = \int\limits_{x_{\frac{1}{2}}}^\infty p(x) dx= \ \frac{1}{2}.
</math>

Dla rozkładów symetrycznych mediana i wartość oczekiwana są sobie równe, w ogólnym przypadku rozkładów niesymetrycznych — NIE, por. np.
[https://upload.wikimedia.org/wikipedia/commons/d/de/Comparison_mean_median_mode.svg ilustracja różnic z Wikipedii]

===Wariancja===

Wariancja jest miarą rozrzutu zmiennej losowej wokół wartości
oczekiwanej, czyli "szerokości" rozkładu prawdopodobieństwa. Mała
wariancja oznacza, że zmienne (np. wyniki losowań) będą gromadzić się
("wypadać") blisko wartości oczekiwanej (i blisko siebie).

Wariancję określamy jako wartość oczekiwaną kwadratu różnicy zmiennej i jej
wartości oczekiwanej; dla rozkładów dyskretnych:

<math>
\sigma ^{2}(x)=E((x-\mu)^{2})=\overset{n}{\underset{i=1}{\sum }}
P(X=x_{i})(x_{i}-\mu)^{2}.
</math>

Dla rozkładów ciągłych:
<equation id="eq:63">
<math>
\sigma ^2(x)=E((x-\mu)^{2})=\underset{-\infty }{\overset{\infty }{
\int }}(x-\mu)^{2} p(x)dx.
</math>
</equation>

Pierwiastek wariancji <math>\left( \sigma=\sqrt{\sigma^2}\right)</math> nosi nazwę ''odchylenia standardowego''.

===Kowariancja i współczynnik korelacji===

[[Plik:Korelacja.png|300px|thumb|left|<figure id="fig:rozw2"></figure>Przykładowe wartości współczynnika korelacji dla 300 par <math>(x, y)</math> o
różnych stopniach współzależności.
]]

Miarą związku między zmiennymi <math>x</math> i <math>y</math> jest kowariancja

<math>
\sigma_{x, y} = E\left( (x-\mu_{x})(y-\mu_{y})\right)
</math>

lub unormowany do jedności współczynnik korelacji zmiennych <math>x</math> i <math>y</math>:

<math>
\rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}=
\frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)}
{\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}},
</math>

gdzie <math>\mu_x</math> i <math>\mu_y</math> to odpowiednio wartości
oczekiwane zmiennych <math>x</math> i <math>y</math>. Jeśli zmienne
<math>x</math> i <math>y</math> związane są deterministyczną
zależnością liniową (typu <math>y=c_1 x+c_2</math>), to ich korelacja
wynosi <math>1</math> (lub <math>-1</math>, jeśli <math>c_1<
0</math>). Jeśli wzrostowi zmiennej <math>x</math> towarzyszy
statystycznie wzrost zmiennej <math>y</math>, to ich korelacja jest
dodatnia (pomiędzy <math>0</math> a <math>1</math>). Dla zmiennych
niezależnych korelacja wynosi <math>0</math>.

Por. także [https://upload.wikimedia.org/wikipedia/commons/d/d4/Correlation_examples2.svg ilustracje z Wikipedii].

===Wariancja sumy i wariancja przeskalowanej zmiennej===

Wartość oczekiwana jest liniowa (wzór <xr id="eq:61">(%i)</xr>), wariancja — nie.

'''Skalowanie zmiennej a wariancja.''' Z liniowości <xr id="eq:61">(%i)</xr> mamy <math>E(ax+b)=a\mu+b</math>, a zatem

<math>
\sigma^2(ax+b)=E\left(\left((ax+b)-(a\mu+b)\right)^2\right)=E\left(a^2(x-\mu)^2\right)=a^2 E\left((x-\mu)^2\right)=a^2\sigma^2(x).
</math>

Jak widać, przesunięcie zmiennej <math>x</math> o stałą <math>b</math> nie zmienia rozrzutu, a przeskalowanie stałą <math>a</math> zmienia odchylenie standardowe proporcjonalnie do <math>|a|</math>, wariancję — z kwadratem:

<math>\sigma(ax+b)=|a|\,\sigma(x).</math>

'''Suma zmiennych.''' Oznaczmy <math>\mu_x=E(x)</math>, <math>\mu_y=E(y)</math>. Ponieważ <math>E(x+y)=\mu_x+\mu_y</math>, to znów wprost z definicji wariancji

<math>
\sigma^2(x+y)=E\left(\left((x-\mu_x)+(y-\mu_y)\right)^2\right)=
E\left((x-\mu_x)^2\right)+E\left((y-\mu_y)^2\right)+2E\left((x-\mu_x)(y-\mu_y)\right).
</math>

Dwa pierwsze składniki to <math>\sigma^2(x)</math> i <math>\sigma^2(y)</math>, a trzeci to podwojona kowariancja zdefiniowana w poprzednim podrozdziale — czyli

<math>
\sigma^2(x+y)=\sigma^2(x)+\sigma^2(y)+2\sigma_{x,y}.
</math>

Dla różnicy wystarczy podstawić <math>-y</math> w miejsce <math>y</math>: z reguły przeskalowania dla <math>a=-1</math> wariancja się nie zmienia (<math>\sigma^2(-y)=\sigma^2(y)</math>), a kowariancja zmienia znak (<math>\sigma_{x,-y}=-\sigma_{x,y}</math>, wprost z jej definicji), więc

<math>
\sigma^2(x-y)=\sigma^2(x)+\sigma^2(y)-2\sigma_{x,y}.
</math>

'''Zmienne niezależne.''' Dla zmiennych niezależnych kowariancja — a z nią współczynnik korelacji, o czym była mowa na końcu poprzedniego podrozdziału — wynosi zero. Wariancje po prostu się wtedy dodają, i to również dla różnicy:

<equation id="eq:62">
<math>
\sigma^2(x \pm y)=\sigma^2(x)+\sigma^2(y) \qquad \textrm{dla } x, y \textrm{ niezależnych.}
</math>
</equation>

Zwróćmy uwagę, że dodają się '''wariancje''', a nie odchylenia standardowe: <math>\sigma(x \pm y)=\sqrt{\sigma^2(x)+\sigma^2(y)}</math>, czyli mniej niż <math>\sigma(x)+\sigma(y)</math>.

Ze wzoru <xr id="eq:62">(%i)</xr> korzystamy dalej wielokrotnie: przy [[WnioskowanieStatystyczne/Rozklady-przyklady|wariancji rozkładu dwumianowego]], w dowodzie [[WnioskowanieStatystyczne/CLT|Centralnego Twierdzenia Granicznego]], przy [[WnioskowanieStatystyczne/Statystyki_i_estymatory|wariancji wartości średniej]] (<math>\sigma^2(\overline{x})=\sigma^2(x)/n</math>) oraz przy wariancji różnicy średnich w [[WnioskowanieStatystyczne/Test_t|teście t]].

--------------------
<references />

WnioskowanieStatystyczne/Statystyki i estymatory

2026-09-08T07:53:55Z

Durka: ciągły / dyskretny :-D

[[Wnioskowanie_Statystyczne_-_wykład]]

==Statystyki i estymatory==
Funkcję <math>S(x_{1},x_{2},...x_{n})</math> określoną na elementach próby <math>\{x_i\}</math>
zwiemy '''statystyką'''. Obliczane w praktyce statystyki służą
weryfikacji hipotez statystycznych (zwiemy je wtedy '''statystykami testowymi''' — tym zajmiemy się w następnym rozdziale) lub estymacji (szacowaniu) parametrów rozkładu prawdopodobieństwa w populacji
zmiennej <math>x</math>, z której pobierana jest próba. W tym drugim przypadku zwiemy je
'''estymatorami'''. Na przykład wartość średnia próby

<math>\displaystyle
\overline{x}=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i} \qquad
</math>
może być estymatorem wartości oczekiwanej populacji <math>\mu=E(x)</math>.

Estymator zwiemy '''nieobciążonym''', jeśli dla każdej
wielkości próby <math>n</math> jego wartość oczekiwana jest równa
wartości estymowanego parametru (oznaczmy go np. <math>\beta</math>):

<math>\displaystyle
\forall n \ E(S(x_{1}...x_{n}))=\beta.
</math>

Estymator zwiemy '''zgodnym''', jeśli przy wielkości próby dążącej do
nieskończoności jego wariancja dąży do zera:

<math>\displaystyle
\underset{n\rightarrow \infty }{\lim }\sigma (S(x_{1}...x_{n}))=0.
</math>

==Estymator wartości oczekiwanej==

Dla rozkładów dyskretnych wartość oczekiwana <math>\displaystyle
\mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i})
</math>

Dla rozkładów ciągłych wartość oczekiwana <math>\displaystyle
\mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx
</math>

Estymator wartości oczekiwanej postaci
<equation id="eq:91">
<math>\displaystyle
\overline{x}=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i}
</math>
</equation>

jest nieobciążony i zgodny.

'''Dowód:'''

<math>\displaystyle
E(\overline{x})=E\left(\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i}\right)=
\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}E(x_{i})
=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}\mu
=\frac{1}{n}n\mu =\mu
</math>

<math>\displaystyle
\sigma ^{2}\left( \overline{x}\right) =
E \left( \left( \overline{x}-E(\overline{x})\right)^{2}\right) =
E\left(\left(\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}x_{i}-
\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}\mu \right)^{2}\right) =
</math>

<math>\displaystyle
=\frac{1}{n^{2}}E\left(\left(\underset{i=1}{\overset{n}{\sum }}(x_{i}-\mu )\right)^{2}\right)
</math>

Jeśli elementy próby są niezależne, to
<math>\displaystyle
E\left((x_{i}-\mu)(x_{j}-\mu )\right) =\delta _{ij}\sigma ^{2}(x_{i}),
</math>

gdzie <math>\delta_{ij}</math> oznacza deltę Kroneckera
(<math>\delta_{ij}=1\ \textrm{ dla }\ i=j,
\delta_{ij}=0\ \textrm{ dla }\ i\neq j</math>), czyli:

<math>\sigma ^{2}\left( \overline{x}\right)
=\frac{1}{n^{2}}E\left(\underset{i=1}{\overset{n}{\sum }}(x_{i}-\mu )^{2}\right)
=\frac{1}{n^{2}}\left(\underset{i=1}{\overset{n}{\sum }}E(x_{i}-\mu )^{2}\right)
= \frac{1}{n^{2}}\underset{i=1}{\overset{n}{
\sum }}\sigma ^{2}(x_i)
</math>

Ponadto, jeśli elementy próby pochodzą z tego samego rozkładu, to
<math>\sigma ^{2}(x_{i})=\sigma^{2}(x)</math>, czyli

<equation id="eq:91">
<math>\displaystyle
{ \sigma ^{2}(\overline{x})=\frac{1}{n^{2}}\underset{i=1}{\overset{n}{
\sum }}\sigma ^{2}(x)=\frac{1}{n}\sigma ^{2}(x)\ }.
</math>
</equation>

{| role="presentation" class="wikitable mw-collapsible mw-collapsed"
| Prawo wielkich liczb (opcjonalnie)  
|-
| Do zgodności estymatora wartości oczekiwanej odnosi się również prawo wielkich liczb. Mówi ono, że
<blockquote>
wartość średnia <math>\overline{x}=\frac{1}{n}\sum\limits_{i=1}^{n} x_i</math>, obliczona z odpowiednio dużej próby (o liczności co najmniej <math>n_0</math>), pobieranej z populacji o skończonej wariancji, może być
dowolnie bliska wartości oczekiwanej <math>\mu</math>.
</blockquote>

Co to znaczy "odpowiednio duża próba" i "dowolnie bliska"?

Jeśli chcemy, żeby wartość średnia nie odbiegała od <math>\mu</math> o więcej niż <math>\varepsilon</math> z prawdopodobieństwem ,,prawie jeden", czyli <math>1-\eta</math>, to dla wybranych (dowolnie małych, dodatnich) <math>\varepsilon </math> i <math>\eta</math> istnieje takie
<math>n_{0}</math>, że dla każdego <math>n>n_{0}</math>:

<equation id="eq:92">
<math>\displaystyle \exists {\varepsilon, \eta} \forall{n>n_0}
P\left( \left| \frac{1}{n}\sum\limits_{i=1}^{n} x_i -\mu \right| <\varepsilon
\right) > 1-\eta.
</math>
</equation>

Jest to tzw. słabe prawo wielkich liczb; mocne prawo wielkich liczb mówi, że

<math>\displaystyle
\underset{n\rightarrow \infty }{\lim} \frac{1}{n}\sum\limits_{i=1}^{n} x_i = \mu .
</math>
Dokładniejsze formulacje i dowody można znaleźć np. w książce "Wnioskowanie statystyczne" L. Gajek i M. Kałuszka, WNT 2000.
|}

==Estymator wariancji==
Spróbujmy skonstruować estymator wariancji z próby jako  
<math>\displaystyle s_o^{2}=\frac{1}{n} \underset{i=1}{\overset{n}{\sum }}(x_{i}-\overline{x})^{2}.</math>

Aby wyliczyć jego wartość oczekiwaną, wyprowadźmy jeszcze kilka prostych zależności. Na początek wykażemy, że wariancja zmiennej losowej jest równa różnicy wartości oczekiwanej kwadratu tej zmiennej i kwadratu jej wartości oczekiwanej:

<math>\displaystyle
\sigma^{2}(x_i)=E((x_i-\mu)^{2})=E(x_i^{2}-2x_i\mu+\mu ^{2})=E(x_i^{2})-2\mu E(x_i)+\mu^{2}=\\
\quad\;\;\;\;\;\: = E(x_i^{2})-\mu^{2}=E(x_i^{2})-\left\{ E(x_i)\right\} ^{2}
</math>

Czyli <equation id="eq:64">
<center><math>\displaystyle
\sigma ^{2}(x_i) = E(x_i^{2})-\left\{ E(x_i)\right\} ^{2} = E(x_i^{2}) - \mu^2
</math></center>
</equation>

Wynika stąd w szczególności, że
<center><math>\displaystyle
E(x_i^{2}) = \sigma_{x_i}^2 + \mu^2
</math></center>

Analogicznie dla wariancji wartości średniej
<center><math>\displaystyle
E(\overline{x}^2) = \sigma_\overline{x}^2 + \mu^2
</math></center>

Czyli <math>\sigma_\overline{x}^2 = E(\overline{x}^2) - \mu^2</math>.
Ponieważ <math> \sigma^{2}_\overline{x}=\frac{1}{n}\sigma^{2}_{x_i} </math>
dostajemy

<center><math>\displaystyle
\frac{1}{n}\sigma^{2}_{x_i} = E(\overline{x}^2) - \mu^2
</math></center>

<center><math>\displaystyle
E(\overline{x}^2) = \frac{1}{n}\sigma^{2}_{x_i} + \mu^2
</math></center>

Policzmy teraz wartość oczekiwaną proponowanego estymatora wariancji  
<math>\displaystyle s_o^{2}=\frac{1}{n}\underset{i=1}{\overset{n}{\sum }}(x_{i}-\overline{x})^{2}</math>

<math>\displaystyle
E\left( s_o^{2}\right) =
\frac{1}{n} E\left(\sum\limits_{i=1}^{n}(x_{i}-\overline{x})^{2}\right)
</math>

<math>\displaystyle =
\frac{1}{n} E\left(\sum\limits_{i=1}^{n}x_{i}^2 + \sum\limits_{i=1}^{n}\overline{x}^{2} - 2\sum\limits_{i=1}^{n} \overline{x} x_i \right)
</math>

<math>\displaystyle =
\frac{1}{n} \left(\sum\limits_{i=1}^{n}E(x_{i}^2) + \sum\limits_{i=1}^{n}E(\overline{x}^{2}) - 2 E \left(\overline{x} \sum\limits_{i=1}^{n} x_i \right) \right)
</math>

<math>\displaystyle =
\frac{1}{n} \left(\sum\limits_{i=1}^{n}E(x_{i}^2) + n E(\overline{x}^{2}) - 2 n E (\overline{x}^2 ) \right)
</math>

<math>\displaystyle =
\frac{1}{n} \left(n E\left(x_{i}^2\right) - n E\left(\overline{x}^{2}\right) \right)
</math>

podstawiając wyprowadzone wcześniej wzory na <math>E(x_{i}^2)</math> i <math>E(\overline{x}^{2})</math> dostajemy

<math>\displaystyle
E\left( s_o^{2}\right) = \frac{1}{n} \left( n \left(\sigma^2_{x_i} + \mu^2\right) -n \left( \frac{1}{n}\sigma^2_{x_i} + \mu^2 \right) \right)
=\frac{n-1}{n}\sigma^{2}_{x_i}
</math>

czyli nie jest dla każdej wielkości próby <math>n</math> wartość oczekiwana tego estymatora wyniesie <math>\sigma^2(x)</math>. Tak więc <math>s_o^2</math> jest estymatorem obciążonym.
W tej sytuacji, jako nieobciążony estymator wariancji możemy zaproponować
<equation id="eq:93">
<center><math>\displaystyle
{ s^{2}=\frac{1}{n-1}\underset{i=1}{\overset{n}{\sum }}(x_{i}-
\overline{x})^{2} }
</math></center>
</equation>

===Estymator wariancji wartości średniej===
Podstawiając tę zależność do wyprowadzonego powyżej wzoru na wariancję wartości średniej w miejsce <math>\sigma^2</math>, dostajemy wzór na estymator wariancji wartości średniej próby

<equation id="eq:94">
<center><math>\displaystyle
s^2_{\overline{x}} = \frac{1}{n(n-1)}\sum_{i=1}^n(x_{i}-\overline{x})^{2}.
</math>
</equation></center>

Pierwiastek tej wielkości

<equation id="eq:94a">
<center><math>\displaystyle
s_{\overline{x}} = \sqrt{
\frac{1}{n(n-1)}\sum_{i=1}^n(x_{i}-\overline{x})^{2}}
</math>
</equation></center>

jest estymatorem '''odchylenia standardowego wartości średniej'''.

Wnioskowanie Statystyczne - wykład

2026-09-02T13:21:58Z

Durka: /* Egzamin poprawkowy (pisemny) */

[[Category:Przedmioty specjalizacyjne]]
__NOTOC__

=Egzamin poprawkowy (pisemny)=

<big>* <big>'''Proponowany termin czwartek 10 lub piątek 11 września 2026 zależnie od terminu kolokwium poprawkowego.
*
* Osoby zainteresowane udziałem proszone są o zgłoszenie tego faktu przez email'''</big></big>



=Wnioskowanie statystyczne (wykład)=
'''UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń'''
#
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]] — ''przed 2. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]] — ''przed 3. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/wstep|Wstęp]]
## [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
## [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
#
## [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
#
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
#
## [[WnioskowanieStatystyczne/Z_komputerem|Monte Carlo]]
#
## [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
#
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
#
## [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
## [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
#
## [[WnioskowanieStatystyczne/Interpretacja współczynnika korelacji|Interpretacja współczynnika korelacji]]
## [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
#
## [[WnioskowanieStatystyczne/ROC|TP, FP, ROC]]
#
## [[WnioskowanieStatystyczne/Bonferroni|Problem porównań wielokrotnych — miejskie legendy i przepowiednie]]
#
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
## [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
## [[WnioskowanieStatystyczne/Effect_size|Wielkość efektu]]
#
## [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|PCA, MANOVA, analiza skupień]]
## [[Sztuczne sieci neuronowe (ANN )|LDA, LR, ANN]]
## [[Algorytmy Genetyczne|Algorytmy Genetyczne]]


----

{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
Na podstawie książki [https://www.fuw.edu.pl/~durka/ksiazki/statystyka/index.html Wstęp do współczesnej statystyki]. Autor: [http://durka.name Piotr Durka].

----

*[https://drive.google.com/drive/folders/1d9KI-_RZUJSmZEnGk8cgIXp825XFVf93 slajdy z wykładów]
* [https://drive.google.com/drive/folders/17gUnDAzVKY1CRQ4ExTqsjwYgXTJ-eWnq zapisy wideo zajęć zdalnych w 2021]
* książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville

=Egzamin i zaliczenie=
Do egzaminu podchodzą osoby, które zaliczą [[Wnioskowanie_Statystyczne_-_ćwiczenia | ćwiczenia]] — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z:
# testu jednokrotnego wyboru (<math>N</math> pytań, każde z czterema odpowiedziami do wyboru, 1 punkt za odpowiedź poprawną, zero punktów za odpowiedź błędną lub jej brak, z korektą dla <math>p</math> poprawnych odpowiedzi
<math>
p_{\% kor} = \frac{p - N/4}{N - N/4}
</math>
i
#kilku pytań otwartych (po 2—4 punkty).

Próg zaliczenia (dst) wynosi 50% (po korekcie na odpowiedzi przypadkowe w części testowej). Progi dla pozostałych ocen będą ustalone a posteriori na podstawie statystyk.

Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń '''i''' wykładu (koniunkcja warunków).

==Organizacja egzaminu==

* nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
* nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie

* dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
* w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
* nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
* odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
* odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
* oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".

==Tematy do przemyślenia przed egzaminem ==
Dla ustalenia uwagi, na przykład:
* Sformułuj Centralne Twierdzenie Graniczne.
* Wypisz i przedyskutuj definicje prawdopodobieństwa.
* Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
* Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0.
* Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0
* Co to jest <math>\chi^2</math>?
* Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
* Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
* Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
* Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
* Co to jest i jak obliczamy moc testu?
* Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników <math>\{x_{i}, i=1\dots N\}</math> i <math>\{y_{j}, j=1\dots M\}</math> metodą repróbkowania (resampling).
* Wyprowadź wzór na średnią ''N'' pomiarów <math>x_i</math> o różnych wariancjach <math>\sigma_{i}^2</math> z metody największej wiarygodności.
* Dany jest zbiór rozłącznych hipotez <math>H_{i}</math> pokrywających całą przestrzeń zdarzeń <math>\Omega</math>: <math>\sum_{i}H_{i}=\Omega</math> oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez <math>H_{i}</math>, czyli <math>P(W\mid H_{i})</math>. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy <math>H_{j}</math> w świetle wyników eksperymentu W.
* Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
* Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.

Wnioskowanie Statystyczne - wykład

2026-09-02T08:21:29Z

Durka: /* Egzamin poprawkowy (pisemny) */

[[Category:Przedmioty specjalizacyjne]]
__NOTOC__

=Egzamin poprawkowy (pisemny)=

<big>* <big>'''Proponowany termin czwartek 10 września 2026 o godzinie 10 (Pasteura 5).
*
* Osoby zainteresowane udziałem proszone są o zgłoszenie tego faktu przez email'''</big></big>



=Wnioskowanie statystyczne (wykład)=
'''UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń'''
#
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]] — ''przed 2. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]] — ''przed 3. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/wstep|Wstęp]]
## [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
## [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
#
## [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
#
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
#
## [[WnioskowanieStatystyczne/Z_komputerem|Monte Carlo]]
#
## [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
#
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
#
## [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
## [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
#
## [[WnioskowanieStatystyczne/Interpretacja współczynnika korelacji|Interpretacja współczynnika korelacji]]
## [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
#
## [[WnioskowanieStatystyczne/ROC|TP, FP, ROC]]
#
## [[WnioskowanieStatystyczne/Bonferroni|Problem porównań wielokrotnych — miejskie legendy i przepowiednie]]
#
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
## [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
## [[WnioskowanieStatystyczne/Effect_size|Wielkość efektu]]
#
## [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|PCA, MANOVA, analiza skupień]]
## [[Sztuczne sieci neuronowe (ANN )|LDA, LR, ANN]]
## [[Algorytmy Genetyczne|Algorytmy Genetyczne]]


----

{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
Na podstawie książki [https://www.fuw.edu.pl/~durka/ksiazki/statystyka/index.html Wstęp do współczesnej statystyki]. Autor: [http://durka.name Piotr Durka].

----

*[https://drive.google.com/drive/folders/1d9KI-_RZUJSmZEnGk8cgIXp825XFVf93 slajdy z wykładów]
* [https://drive.google.com/drive/folders/17gUnDAzVKY1CRQ4ExTqsjwYgXTJ-eWnq zapisy wideo zajęć zdalnych w 2021]
* książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville

=Egzamin i zaliczenie=
Do egzaminu podchodzą osoby, które zaliczą [[Wnioskowanie_Statystyczne_-_ćwiczenia | ćwiczenia]] — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z:
# testu jednokrotnego wyboru (<math>N</math> pytań, każde z czterema odpowiedziami do wyboru, 1 punkt za odpowiedź poprawną, zero punktów za odpowiedź błędną lub jej brak, z korektą dla <math>p</math> poprawnych odpowiedzi
<math>
p_{\% kor} = \frac{p - N/4}{N - N/4}
</math>
i
#kilku pytań otwartych (po 2—4 punkty).

Próg zaliczenia (dst) wynosi 50% (po korekcie na odpowiedzi przypadkowe w części testowej). Progi dla pozostałych ocen będą ustalone a posteriori na podstawie statystyk.

Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń '''i''' wykładu (koniunkcja warunków).

==Organizacja egzaminu==

* nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
* nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie

* dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
* w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
* nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
* odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
* odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
* oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".

==Tematy do przemyślenia przed egzaminem ==
Dla ustalenia uwagi, na przykład:
* Sformułuj Centralne Twierdzenie Graniczne.
* Wypisz i przedyskutuj definicje prawdopodobieństwa.
* Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
* Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0.
* Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0
* Co to jest <math>\chi^2</math>?
* Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
* Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
* Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
* Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
* Co to jest i jak obliczamy moc testu?
* Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników <math>\{x_{i}, i=1\dots N\}</math> i <math>\{y_{j}, j=1\dots M\}</math> metodą repróbkowania (resampling).
* Wyprowadź wzór na średnią ''N'' pomiarów <math>x_i</math> o różnych wariancjach <math>\sigma_{i}^2</math> z metody największej wiarygodności.
* Dany jest zbiór rozłącznych hipotez <math>H_{i}</math> pokrywających całą przestrzeń zdarzeń <math>\Omega</math>: <math>\sum_{i}H_{i}=\Omega</math> oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez <math>H_{i}</math>, czyli <math>P(W\mid H_{i})</math>. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy <math>H_{j}</math> w świetle wyników eksperymentu W.
* Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
* Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.

Wnioskowanie Statystyczne - wykład

2026-09-02T08:20:18Z

Durka:

[[Category:Przedmioty specjalizacyjne]]
__NOTOC__

=Egzamin poprawkowy (pisemny)=

<big>'''Proponowany termin czwartek 10 września 2026 o godzinie 10 (Pasteura 5).

Osoby zainteresowane udziałem proszone są o zgłoszenie tego faktu przez email'''</big>


=Wnioskowanie statystyczne (wykład)=
'''UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń'''
#
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]] — ''przed 2. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]] — ''przed 3. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/wstep|Wstęp]]
## [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
## [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
#
## [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
#
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
#
## [[WnioskowanieStatystyczne/Z_komputerem|Monte Carlo]]
#
## [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
#
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
#
## [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
## [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
#
## [[WnioskowanieStatystyczne/Interpretacja współczynnika korelacji|Interpretacja współczynnika korelacji]]
## [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
#
## [[WnioskowanieStatystyczne/ROC|TP, FP, ROC]]
#
## [[WnioskowanieStatystyczne/Bonferroni|Problem porównań wielokrotnych — miejskie legendy i przepowiednie]]
#
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
## [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
## [[WnioskowanieStatystyczne/Effect_size|Wielkość efektu]]
#
## [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|PCA, MANOVA, analiza skupień]]
## [[Sztuczne sieci neuronowe (ANN )|LDA, LR, ANN]]
## [[Algorytmy Genetyczne|Algorytmy Genetyczne]]


----

{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
Na podstawie książki [https://www.fuw.edu.pl/~durka/ksiazki/statystyka/index.html Wstęp do współczesnej statystyki]. Autor: [http://durka.name Piotr Durka].

----

*[https://drive.google.com/drive/folders/1d9KI-_RZUJSmZEnGk8cgIXp825XFVf93 slajdy z wykładów]
* [https://drive.google.com/drive/folders/17gUnDAzVKY1CRQ4ExTqsjwYgXTJ-eWnq zapisy wideo zajęć zdalnych w 2021]
* książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville

=Egzamin i zaliczenie=
Do egzaminu podchodzą osoby, które zaliczą [[Wnioskowanie_Statystyczne_-_ćwiczenia | ćwiczenia]] — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z:
# testu jednokrotnego wyboru (<math>N</math> pytań, każde z czterema odpowiedziami do wyboru, 1 punkt za odpowiedź poprawną, zero punktów za odpowiedź błędną lub jej brak, z korektą dla <math>p</math> poprawnych odpowiedzi
<math>
p_{\% kor} = \frac{p - N/4}{N - N/4}
</math>
i
#kilku pytań otwartych (po 2—4 punkty).

Próg zaliczenia (dst) wynosi 50% (po korekcie na odpowiedzi przypadkowe w części testowej). Progi dla pozostałych ocen będą ustalone a posteriori na podstawie statystyk.

Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń '''i''' wykładu (koniunkcja warunków).

==Organizacja egzaminu==

* nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
* nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie

* dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
* w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
* nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
* odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
* odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
* oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".

==Tematy do przemyślenia przed egzaminem ==
Dla ustalenia uwagi, na przykład:
* Sformułuj Centralne Twierdzenie Graniczne.
* Wypisz i przedyskutuj definicje prawdopodobieństwa.
* Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
* Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0.
* Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0
* Co to jest <math>\chi^2</math>?
* Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
* Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
* Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
* Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
* Co to jest i jak obliczamy moc testu?
* Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników <math>\{x_{i}, i=1\dots N\}</math> i <math>\{y_{j}, j=1\dots M\}</math> metodą repróbkowania (resampling).
* Wyprowadź wzór na średnią ''N'' pomiarów <math>x_i</math> o różnych wariancjach <math>\sigma_{i}^2</math> z metody największej wiarygodności.
* Dany jest zbiór rozłącznych hipotez <math>H_{i}</math> pokrywających całą przestrzeń zdarzeń <math>\Omega</math>: <math>\sum_{i}H_{i}=\Omega</math> oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez <math>H_{i}</math>, czyli <math>P(W\mid H_{i})</math>. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy <math>H_{j}</math> w świetle wyników eksperymentu W.
* Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
* Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.

Wnioskowanie Statystyczne - wykład

2026-09-02T08:19:45Z

Durka:

[[Category:Przedmioty specjalizacyjne]]
<notoc>

=Egzamin poprawkowy (pisemny)=

<big>'''Proponowany termin czwartek 10 września 2026 o godzinie 10 (Pasteura 5).

Osoby zainteresowane udziałem proszone są o zgłoszenie tego faktu przez email'''</big>


=Wnioskowanie statystyczne (wykład)=
'''UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń'''
#
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]] — ''przed 2. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]] — ''przed 3. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/wstep|Wstęp]]
## [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
## [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
#
## [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
#
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
#
## [[WnioskowanieStatystyczne/Z_komputerem|Monte Carlo]]
#
## [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
#
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
#
## [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
## [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
#
## [[WnioskowanieStatystyczne/Interpretacja współczynnika korelacji|Interpretacja współczynnika korelacji]]
## [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
#
## [[WnioskowanieStatystyczne/ROC|TP, FP, ROC]]
#
## [[WnioskowanieStatystyczne/Bonferroni|Problem porównań wielokrotnych — miejskie legendy i przepowiednie]]
#
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
## [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
## [[WnioskowanieStatystyczne/Effect_size|Wielkość efektu]]
#
## [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|PCA, MANOVA, analiza skupień]]
## [[Sztuczne sieci neuronowe (ANN )|LDA, LR, ANN]]
## [[Algorytmy Genetyczne|Algorytmy Genetyczne]]


----

{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
Na podstawie książki [https://www.fuw.edu.pl/~durka/ksiazki/statystyka/index.html Wstęp do współczesnej statystyki]. Autor: [http://durka.name Piotr Durka].

----

*[https://drive.google.com/drive/folders/1d9KI-_RZUJSmZEnGk8cgIXp825XFVf93 slajdy z wykładów]
* [https://drive.google.com/drive/folders/17gUnDAzVKY1CRQ4ExTqsjwYgXTJ-eWnq zapisy wideo zajęć zdalnych w 2021]
* książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville

=Egzamin i zaliczenie=
Do egzaminu podchodzą osoby, które zaliczą [[Wnioskowanie_Statystyczne_-_ćwiczenia | ćwiczenia]] — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z:
# testu jednokrotnego wyboru (<math>N</math> pytań, każde z czterema odpowiedziami do wyboru, 1 punkt za odpowiedź poprawną, zero punktów za odpowiedź błędną lub jej brak, z korektą dla <math>p</math> poprawnych odpowiedzi
<math>
p_{\% kor} = \frac{p - N/4}{N - N/4}
</math>
i
#kilku pytań otwartych (po 2—4 punkty).

Próg zaliczenia (dst) wynosi 50% (po korekcie na odpowiedzi przypadkowe w części testowej). Progi dla pozostałych ocen będą ustalone a posteriori na podstawie statystyk.

Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń '''i''' wykładu (koniunkcja warunków).

==Organizacja egzaminu==

* nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
* nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie

* dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
* w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
* nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
* odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
* odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
* oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".

==Tematy do przemyślenia przed egzaminem ==
Dla ustalenia uwagi, na przykład:
* Sformułuj Centralne Twierdzenie Graniczne.
* Wypisz i przedyskutuj definicje prawdopodobieństwa.
* Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
* Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0.
* Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0
* Co to jest <math>\chi^2</math>?
* Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
* Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
* Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
* Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
* Co to jest i jak obliczamy moc testu?
* Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników <math>\{x_{i}, i=1\dots N\}</math> i <math>\{y_{j}, j=1\dots M\}</math> metodą repróbkowania (resampling).
* Wyprowadź wzór na średnią ''N'' pomiarów <math>x_i</math> o różnych wariancjach <math>\sigma_{i}^2</math> z metody największej wiarygodności.
* Dany jest zbiór rozłącznych hipotez <math>H_{i}</math> pokrywających całą przestrzeń zdarzeń <math>\Omega</math>: <math>\sum_{i}H_{i}=\Omega</math> oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez <math>H_{i}</math>, czyli <math>P(W\mid H_{i})</math>. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy <math>H_{j}</math> w świetle wyników eksperymentu W.
* Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
* Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.

Wnioskowanie Statystyczne - wykład

2026-09-02T08:19:17Z

Durka:

[[Category:Przedmioty specjalizacyjne]]

=Egzamin poprawkowy (pisemny)=

<big>'''Proponowany termin czwartek 10 września 2026 o godzinie 10 (Pasteura 5).

Osoby zainteresowane udziałem proszone są o zgłoszenie tego faktu przez email'''</big>


=Wnioskowanie statystyczne (wykład)=
'''UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń'''
#
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]] — ''przed 2. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]] — ''przed 3. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/wstep|Wstęp]]
## [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
## [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
#
## [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
#
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
#
## [[WnioskowanieStatystyczne/Z_komputerem|Monte Carlo]]
#
## [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
#
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
#
## [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
## [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
#
## [[WnioskowanieStatystyczne/Interpretacja współczynnika korelacji|Interpretacja współczynnika korelacji]]
## [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
#
## [[WnioskowanieStatystyczne/ROC|TP, FP, ROC]]
#
## [[WnioskowanieStatystyczne/Bonferroni|Problem porównań wielokrotnych — miejskie legendy i przepowiednie]]
#
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
## [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
## [[WnioskowanieStatystyczne/Effect_size|Wielkość efektu]]
#
## [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|PCA, MANOVA, analiza skupień]]
## [[Sztuczne sieci neuronowe (ANN )|LDA, LR, ANN]]
## [[Algorytmy Genetyczne|Algorytmy Genetyczne]]


----

{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
Na podstawie książki [https://www.fuw.edu.pl/~durka/ksiazki/statystyka/index.html Wstęp do współczesnej statystyki]. Autor: [http://durka.name Piotr Durka].

----

*[https://drive.google.com/drive/folders/1d9KI-_RZUJSmZEnGk8cgIXp825XFVf93 slajdy z wykładów]
* [https://drive.google.com/drive/folders/17gUnDAzVKY1CRQ4ExTqsjwYgXTJ-eWnq zapisy wideo zajęć zdalnych w 2021]
* książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville

=Egzamin i zaliczenie=
Do egzaminu podchodzą osoby, które zaliczą [[Wnioskowanie_Statystyczne_-_ćwiczenia | ćwiczenia]] — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z:
# testu jednokrotnego wyboru (<math>N</math> pytań, każde z czterema odpowiedziami do wyboru, 1 punkt za odpowiedź poprawną, zero punktów za odpowiedź błędną lub jej brak, z korektą dla <math>p</math> poprawnych odpowiedzi
<math>
p_{\% kor} = \frac{p - N/4}{N - N/4}
</math>
i
#kilku pytań otwartych (po 2—4 punkty).

Próg zaliczenia (dst) wynosi 50% (po korekcie na odpowiedzi przypadkowe w części testowej). Progi dla pozostałych ocen będą ustalone a posteriori na podstawie statystyk.

Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń '''i''' wykładu (koniunkcja warunków).

==Organizacja egzaminu==

* nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
* nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie

* dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
* w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
* nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
* odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
* odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
* oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".

==Tematy do przemyślenia przed egzaminem ==
Dla ustalenia uwagi, na przykład:
* Sformułuj Centralne Twierdzenie Graniczne.
* Wypisz i przedyskutuj definicje prawdopodobieństwa.
* Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
* Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0.
* Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0
* Co to jest <math>\chi^2</math>?
* Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
* Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
* Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
* Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
* Co to jest i jak obliczamy moc testu?
* Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników <math>\{x_{i}, i=1\dots N\}</math> i <math>\{y_{j}, j=1\dots M\}</math> metodą repróbkowania (resampling).
* Wyprowadź wzór na średnią ''N'' pomiarów <math>x_i</math> o różnych wariancjach <math>\sigma_{i}^2</math> z metody największej wiarygodności.
* Dany jest zbiór rozłącznych hipotez <math>H_{i}</math> pokrywających całą przestrzeń zdarzeń <math>\Omega</math>: <math>\sum_{i}H_{i}=\Omega</math> oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez <math>H_{i}</math>, czyli <math>P(W\mid H_{i})</math>. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy <math>H_{j}</math> w świetle wyników eksperymentu W.
* Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
* Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.

Wnioskowanie Statystyczne - wykład

2026-09-02T08:18:14Z

Durka: /* Organizacja egzaminu */

[[Category:Przedmioty specjalizacyjne]]

=Wnioskowanie statystyczne (wykład)=
'''UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń'''
#
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]] — ''przed 2. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]] — ''przed 3. ćwiczeniami''
#
## [[WnioskowanieStatystyczne/wstep|Wstęp]]
## [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
## [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
#
## [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
#
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
#
## [[WnioskowanieStatystyczne/Z_komputerem|Monte Carlo]]
#
## [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
#
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
#
## [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
## [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
#
## [[WnioskowanieStatystyczne/Interpretacja współczynnika korelacji|Interpretacja współczynnika korelacji]]
## [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
#
## [[WnioskowanieStatystyczne/ROC|TP, FP, ROC]]
#
## [[WnioskowanieStatystyczne/Bonferroni|Problem porównań wielokrotnych — miejskie legendy i przepowiednie]]
#
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
## [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
## [[WnioskowanieStatystyczne/Effect_size|Wielkość efektu]]
#
## [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|PCA, MANOVA, analiza skupień]]
## [[Sztuczne sieci neuronowe (ANN )|LDA, LR, ANN]]
## [[Algorytmy Genetyczne|Algorytmy Genetyczne]]


----

{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
Na podstawie książki [https://www.fuw.edu.pl/~durka/ksiazki/statystyka/index.html Wstęp do współczesnej statystyki]. Autor: [http://durka.name Piotr Durka].

----

*[https://drive.google.com/drive/folders/1d9KI-_RZUJSmZEnGk8cgIXp825XFVf93 slajdy z wykładów]
* [https://drive.google.com/drive/folders/17gUnDAzVKY1CRQ4ExTqsjwYgXTJ-eWnq zapisy wideo zajęć zdalnych w 2021]
* książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville

=Egzamin i zaliczenie=
Do egzaminu podchodzą osoby, które zaliczą [[Wnioskowanie_Statystyczne_-_ćwiczenia | ćwiczenia]] — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z:
# testu jednokrotnego wyboru (<math>N</math> pytań, każde z czterema odpowiedziami do wyboru, 1 punkt za odpowiedź poprawną, zero punktów za odpowiedź błędną lub jej brak, z korektą dla <math>p</math> poprawnych odpowiedzi
<math>
p_{\% kor} = \frac{p - N/4}{N - N/4}
</math>
i
#kilku pytań otwartych (po 2—4 punkty).

Próg zaliczenia (dst) wynosi 50% (po korekcie na odpowiedzi przypadkowe w części testowej). Progi dla pozostałych ocen będą ustalone a posteriori na podstawie statystyk.

Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń '''i''' wykładu (koniunkcja warunków).

=Egzamin poprawkowy (pisemny)=

<big>'''Proponowany termin czwartek 10 września 2026 o godzinie 10 (Pasteura 5).

Osoby zainteresowane udziałem proszone są o zgłoszenie tego faktu przez email'''</big>

==Organizacja egzaminu==

* nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
* nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie

* dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
* w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
* nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
* odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
* odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
* oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".

==Tematy do przemyślenia przed egzaminem ==
Dla ustalenia uwagi, na przykład:
* Sformułuj Centralne Twierdzenie Graniczne.
* Wypisz i przedyskutuj definicje prawdopodobieństwa.
* Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
* Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0.
* Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami p(''x'') = 0,5 dla <math>0\leq x\leq 2</math> i p(''x'') = 0 dla ''x''>2 lub ''x''<0
* Co to jest <math>\chi^2</math>?
* Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
* Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
* Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
* Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
* Co to jest i jak obliczamy moc testu?
* Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników <math>\{x_{i}, i=1\dots N\}</math> i <math>\{y_{j}, j=1\dots M\}</math> metodą repróbkowania (resampling).
* Wyprowadź wzór na średnią ''N'' pomiarów <math>x_i</math> o różnych wariancjach <math>\sigma_{i}^2</math> z metody największej wiarygodności.
* Dany jest zbiór rozłącznych hipotez <math>H_{i}</math> pokrywających całą przestrzeń zdarzeń <math>\Omega</math>: <math>\sum_{i}H_{i}=\Omega</math> oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez <math>H_{i}</math>, czyli <math>P(W\mid H_{i})</math>. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy <math>H_{j}</math> w świetle wyników eksperymentu W.
* Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
* Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.