Wnioskowanie Statystyczne - wykład: Różnice pomiędzy wersjami

Z Brain-wiki
(egz)
 
(Nie pokazano 121 wersji utworzonych przez 4 użytkowników)
Linia 1: Linia 1:
 
[[Category:Przedmioty specjalizacyjne]]
 
[[Category:Przedmioty specjalizacyjne]]
 +
<!-- program ćwiczeń:
 +
https://docs.google.com/document/d/1PHoVNlKhBkOVmkJzgvm7Tu7nF-aXlhWAEXTJbv5qqQY/edit -->
 
=Wnioskowanie statystyczne (wykład)=
 
=Wnioskowanie statystyczne (wykład)=
 
+
'''UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń'''
# [[WnioskowanieStatystyczne/wstep|Wstęp]]
+
#  
#  [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
 
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
 
 
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
 
## [[WnioskowanieStatystyczne/Rozklady|Rozkłady gęstości prawdopodobieństwa]]
 
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
 
## [[WnioskowanieStatystyczne/Momenty|Wariancja, mediana...]]
##  [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
 
 
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]]
 
## [[WnioskowanieStatystyczne/Rozklady-przyklady|Przykładowe rozkłady]]
 +
#
 
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]]
 
## [[WnioskowanieStatystyczne/CLT|Centralne Twierdzenie Graniczne]]
#  [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]
+
 +
## [[WnioskowanieStatystyczne/wstep|Wstęp]]
 +
## [[WnioskowanieStatystyczne/Klasyczna_teoria|Teoria klasyczna]]
 +
## [[WnioskowanieStatystyczne/Statystyki_i_estymatory|Statystyki i estymatory]]
 +
#
 +
##  [[WnioskowanieStatystyczne/Weryfikacja_hipotez|Weryfikacja hipotez statystycznych]]  
 
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
 
## [[WnioskowanieStatystyczne/Test_t|Test ''t'' Studenta]]
 +
#
 
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
 
## [[WnioskowanieStatystyczne/Test_chi2|Test <math>\chi^2</math>]]
#  [[WnioskowanieStatystyczne/Z_komputerem|Statystyka z komputerem]]
+
#
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
+
##  [[WnioskowanieStatystyczne/Z_komputerem|Monte Carlo]]
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
+
#
#  [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
+
##  [[WnioskowanieStatystyczne/Testy_nieprametryczne|Testy nieparametryczne]]
 
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
 
## [[WnioskowanieStatystyczne/Test_serii|Test serii]]
 
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
 
## [[WnioskowanieStatystyczne/Test_Wilcoxona|Test Wilcoxona-Manna-Whitneya]]
#  [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
+
#
 +
## [[WnioskowanieStatystyczne/Testy_permutacyjne|Testy permutacyjne]]
 +
## [[WnioskowanieStatystyczne/Bootstrap|Bootstrap]]
 +
#
 +
##  [[WnioskowanieStatystyczne/MLF|Metoda największej wiarygodności]]
 
##  [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
 
##  [[WnioskowanieStatystyczne/Regresja_liniowa|Regresja liniowa]]
#  [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
+
#
# [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
+
#[[WnioskowanieStatystyczne/Interpretacja współczynnika korelacji|Interpretacja współczynnika korelacji]]
# [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|Elementy statystyki wielowymiarowej]]
+
## [[WnioskowanieStatystyczne/Analiza_wariancji|Analiza wariancji]]
 +
#
 +
## [[WnioskowanieStatystyczne/ROC|TP, FP, ROC]]
 +
#
 +
## [[WnioskowanieStatystyczne/Bonferroni|Problem porównań wielokrotnych — miejskie legendy i przepowiednie]]
 +
#
 +
## [[WnioskowanieStatystyczne/Prawdopodobienstwo|Prawdopodobieństwo]]
 +
## [[WnioskowanieStatystyczne/Twierdzenie_Bayesa|Twierdzenie Bayesa]]
 +
## [[WnioskowanieStatystyczne/Effect_size|Wielkość efektu]]
 +
#
 +
## [[WnioskowanieStatystyczne/Elementy_statystyki_wielowymiarowej|PCA, MANOVA, analiza skupień]]
 +
## [[Sztuczne sieci neuronowe (ANN )|LDA, LR, ANN]]
 +
## [[Algorytmy Genetyczne|Algorytmy Genetyczne]]
 +
# Maris, E., Oostenveld, R. (2007). [https://www.researchgate.net/publication/6316066_Nonparametric_statistical_testing_of_EEG-_and_MEG-data Nonparametric statistical testing of EEG- and MEG-data]. Journal of Neuroscience Methods, 164(1), 177–190.
 +
 
 +
 
 +
----
 +
 
 +
{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
 +
Na podstawie książki [https://www.fuw.edu.pl/~durka/ksiazki/statystyka/index.html Wstęp do współczesnej statystyki]. Autor: [http://durka.name Piotr Durka].
 +
 
 +
----
 +
 
 +
*[https://drive.google.com/drive/folders/1yPKnOfmO3dEp0SeslNXwSfOoPzQFSanc?usp=sharing slajdy z wykładów]
 +
* [https://drive.google.com/drive/folders/17gUnDAzVKY1CRQ4ExTqsjwYgXTJ-eWnq zapisy wideo zajęć zdalnych w 2021]
 +
* książka [https://www.deeplearningbook.org "Deep Learning"] Ian Goodfellow, Yoshua Bengio and Aaron Courville
 +
 
 +
=Egzamin i zaliczenie=
 +
Do egzaminu podchodzą osoby, które zaliczą [[Wnioskowanie_Statystyczne_-_ćwiczenia | ćwiczenia]] — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z testu jednokrotnego wyboru (<math>N</math> pytań, każde z czterema odpowiedziami do wyboru, bez punktów ujemnych za błędne odpowiedzi, ale z korektą dla <math>p</math> poprawnych odpowiedzi
 +
<math>
 +
p_{\% kor} = \frac{p - N/4}{N - N/4}
 +
</math>
 +
po jednym punkcie za poprawną) i kilku pytań otwartych (po 2—4 punkty). Ostateczne przeliczenie punktów na oceny, jednakowe dla wszystkich, będzie ustalone a posteriori na podstawie statystyki i zdrowego rozsądku — w każdym razie próg zaliczenia powinien wyraźnie przekraczać 50% (po korekcie na odpowiedzi przypadkowe w części testowej).
 +
 
 +
Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń '''i''' wykładu (koniunkcja warunków).
 +
 
 +
==Organizacja egzaminu==
 +
 
 +
Egzamin rozpocznie się w piątek 28 czerwca 2024 o godzinie 10 rano w sali 0.06 (Pasteura 5).
  
{{color|green|'''Całość podręcznika jest udostępniona na licencji [http://creativecommons.org/licenses/by-sa/3.0/pl Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska].'''}} [[Grafika:CC-88x31.png]]
+
* nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
Autor: [http://durka.name Piotr Durka].
+
* nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie
 +
<!--
 +
* osoby, które uczestniczyły intelektualnie w wykładzie (popartym obszernymi materiałami dostępnymi w Internecie) powinny napisać test w ok. godziny, ale "na zapas" gwarantujemy w sumie 90 minut od momentu rozdania testów.
 +
-->
 +
* dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
 +
* w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
 +
* nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
 +
* odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
 +
* odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
 +
* oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".
  
==wyniki egzaminu w terminie zerowym 2016.06.10 i niekóre punkty z ćwiczeń==
+
==Tematy do przemyślenia przed egzaminem ==  
legenda:
+
Dla ustalenia uwagi, na przykład:
#kart/10 -- suma punktów z kartkówek (max 10)
+
* Sformułuj Centralne Twierdzenie Graniczne.
# kol1/10 -- suma punktów z pierwszego kolokwium (max 10)
+
* Wypisz i przedyskutuj definicje prawdopodobieństwa.
# ust.ćw. -- ustne zal. ćwiczeń (jeśli kartk. < 7/10)
+
* Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
# test/21 -- wynik części testowej egzaminu (max 21)
+
* Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami  p(''x'') =  0,5 dla <math>0\leq x\leq 2</math> i p(''x'') =  0 dla ''x''>2  lub  ''x''<0.
# otw12/4 -- punktacja pytań otwartych I i II (max. 4)
+
* Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami  p(''x'') =  0,5 dla <math>0\leq x\leq 2</math> i p(''x'') =  0 dla ''x''>2 lub ''x''<0
   
+
* Co to jest <math>\chi^2</math>?
<pre>indeks kart/10 kol1/10 kol2/10 proj/10 ust.ćw. test/21 otw12/4 otw34/4 %egz0
+
* Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
370517
+
* Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
357725 7 15 -
+
* Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
370469 6 12
+
* Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
374722 3 11
+
* Co to jest i jak obliczamy moc testu?
370466
+
* Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników <math>\{x_{i}, i=1\dots N\}</math> i <math>\{y_{j}, j=1\dots M\}</math> metodą repróbkowania (resampling).
374702
+
* Wyprowadź wzór na średnią ''N'' pomiarów <math>x_i</math> o różnych wariancjach <math>\sigma_{i}^2</math> z metody największej wiarygodności.
372772
+
* Dany jest zbiór rozłącznych hipotez <math>H_{i}</math> pokrywających całą przestrzeń zdarzeń <math>\Omega</math>: <math>\sum_{i}H_{i}=\Omega</math> oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez <math>H_{i}</math>, czyli <math>P(W\mid H_{i})</math>. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy <math>H_{j}</math> w świetle wyników eksperymentu W.
374715 11 4 1.5 57%
+
* Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
370527 14 4 1.5 67%
+
* Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.
370471
 
345752 8 15 -
 
374723 1 nb
 
370530 14 4 4 76%
 
360731
 
374758
 
374226
 
370449 18 4 3 86%
 
380926
 
374764
 
374714
 
380966 6 8
 
359079 3 12 tak
 
315748
 
374761 4 12
 
378738 6 8
 
370486 16 4 5 86%
 
380972
 
372777
 
370539
 
306921
 
370543 2 14 14 4 0 62%
 
374710
 
374762 nb nb
 
372776
 
372860 5 12
 
370618 8 14 -
 
372771 6 8
 
372768 5 8
 
335315 4 14
 
380959
 
370490 8 12 - 19 4 3 90%
 
373218 6 12 17 4 5 90%
 
305957
 
370420
 
335598
 
370493 7 15 - 19 4 4.5 95%
 
370467 9 14 - 20 4 4.5 98%
 
380960 5 12
 
374763 3 6
 
370496
 
374711 5 13 16 4 4 83%
 
372766 6 10
 
</pre>
 

Aktualna wersja na dzień 18:11, 23 maj 2024

Wnioskowanie statystyczne (wykład)

UWAGA: wymagane zaliczenie Technologii Informacyjnych i Komunikacyjnych z ćwiczeniami z programowania w Pythonie w wymiarze 45 godzin ćwiczeń

    1. Rozkłady gęstości prawdopodobieństwa
    2. Wariancja, mediana...
    3. Przykładowe rozkłady
    1. Centralne Twierdzenie Graniczne
    1. Wstęp
    2. Teoria klasyczna
    3. Statystyki i estymatory
    1. Weryfikacja hipotez statystycznych
    2. Test t Studenta
    1. Test [math]\chi^2[/math]
    1. Monte Carlo
    1. Testy nieparametryczne
    2. Test serii
    3. Test Wilcoxona-Manna-Whitneya
    1. Testy permutacyjne
    2. Bootstrap
    1. Metoda największej wiarygodności
    2. Regresja liniowa
    1. Interpretacja współczynnika korelacji
    2. Analiza wariancji
    1. TP, FP, ROC
    1. Problem porównań wielokrotnych — miejskie legendy i przepowiednie
    1. Prawdopodobieństwo
    2. Twierdzenie Bayesa
    3. Wielkość efektu
    1. PCA, MANOVA, analiza skupień
    2. LDA, LR, ANN
    3. Algorytmy Genetyczne
  1. Maris, E., Oostenveld, R. (2007). Nonparametric statistical testing of EEG- and MEG-data. Journal of Neuroscience Methods, 164(1), 177–190.



Całość podręcznika jest udostępniona na licencji Creative Commons Uznanie autorstwa-Na tych samych zasadach 3.0 Polska. CC-88x31.png Na podstawie książki Wstęp do współczesnej statystyki. Autor: Piotr Durka.


Egzamin i zaliczenie

Do egzaminu podchodzą osoby, które zaliczą ćwiczenia — w braku zaliczonych ćwiczeń wynik egzaminu z wykładu nie "przenosi się" na przyszły rok. Egzamin składał się będzie z testu jednokrotnego wyboru ([math]N[/math] pytań, każde z czterema odpowiedziami do wyboru, bez punktów ujemnych za błędne odpowiedzi, ale z korektą dla [math]p[/math] poprawnych odpowiedzi [math] p_{\% kor} = \frac{p - N/4}{N - N/4} [/math] po jednym punkcie za poprawną) i kilku pytań otwartych (po 2—4 punkty). Ostateczne przeliczenie punktów na oceny, jednakowe dla wszystkich, będzie ustalone a posteriori na podstawie statystyki i zdrowego rozsądku — w każdym razie próg zaliczenia powinien wyraźnie przekraczać 50% (po korekcie na odpowiedzi przypadkowe w części testowej).

Ocena końcowa z przedmiotu = średnia ocen z ćwiczeń i z wykładu, pod warunkiem zaliczenia ćwiczeń i wykładu (koniunkcja warunków).

Organizacja egzaminu

Egzamin rozpocznie się w piątek 28 czerwca 2024 o godzinie 10 rano w sali 0.06 (Pasteura 5).

  • nie wychodzimy z sali w trakcie egzaminu — bardzo proszę o przygotowanie się pod tym kątem :)
  • nie ściągamy. To niemodne i passé, a przeprowadzenie egzaminu w przyjaznej atmosferze leży w Waszym interesie
  • dla zachowania przyjaznej atmosfery i oddalenia pokus nieetycznych zachowań, torby/teczki/ubrania nie pozostawione w szatni zostawiamy na podłodze na froncie sali. Do ławki zabieramy ze sobą tylko długopis (lub dwa) oraz dowolne ID ze zdjęciem, które okazujemy na ew. prośbę Prowadzących (elegancko jest od razu położyć ID na brzegu ławki po podpisaniu testu)
  • w ławkach siadamy, zajmując dostępną przestrzeń możliwie równomiernie według wskazań Prowadzących, poczynając od pierwszych ławek
  • nie jest dopuszczalny kontakt z urządzeniami komunikacyjnymi i/lub elektronicznymi. Jeśli ktoś oczekuje pilnego telefonu w czasie egzaminu, powinien ten fakt zgłosić Prowadzącym _przed_ rozpoczęciem egzaminu. W pozostałych wypadkach telefony (po wyciszeniu a najlepiej wyłączeniu) itp. urządzenia potencjalnie komunikacyjne i elektroniczne pozostawiamy w torbach lub ew. w kieszeniach i nie wyjmujemy w czasie egzaminu. Do wykonania nielicznych wyliczeń wystarczy głowa, ew. długopis
  • odpowiedzi na pytania testowe będziemy wpisywać "na czysto" w tabelce przed samym oddaniem testu, strony z pytaniami testowymi można dowolnie pomazać, oznaczenia na pytaniach nie będą brane pod uwagę przy sprawdzaniu
  • odpowiedzi do pytań otwartych wpisujemy maksymalnie czytelnie i "na czysto". Nieczytelne i niewyraźne wywody nie będą sprawdzane. Kartki użyte jako brudnopis przed oddaniem przekreślamy.
  • oddajemy kompletne arkusze wraz z notatkami i brudnopisami, nie jest dozwolone robienie kopii "na pamiątkę".

Tematy do przemyślenia przed egzaminem

Dla ustalenia uwagi, na przykład:

  • Sformułuj Centralne Twierdzenie Graniczne.
  • Wypisz i przedyskutuj definicje prawdopodobieństwa.
  • Wypisz założenia wersji Centralnego Twierdzenia Granicznego, którą można stosunkowo prosto udowodnić (twierdzenie Lindeberga-Levy'ego). Udowodnij lub spróbuj nakreślić szkic dowodu.
  • Oblicz wartość oczekiwaną rozkładu równomiernego, określonego na odcinku [0, 2], danego wzorami p(x) = 0,5 dla [math]0\leq x\leq 2[/math] i p(x) = 0 dla x>2 lub x<0.
  • Oblicz wariancję rozkładu równomiernego określonego na odcinku [0, 2], danego wzorami p(x) = 0,5 dla [math]0\leq x\leq 2[/math] i p(x) = 0 dla x>2 lub x<0
  • Co to jest [math]\chi^2[/math]?
  • Wypisz / wyprowadź wzory na wartość oczekiwaną i wariancję rozkładu Poissona.
  • Z rozkładu dwumianowego wylicz prawdopodobieństwo, że wśród czworga dzieci będą co najmniej trzy dziewczynki — zakładając, że prawdopodobieństwa urodzenia dziecka każdej płci są równe.
  • Testy parametryczne i nieparametryczne: wady, zalety, przykłady.
  • Co ma wspólnego poziom istotności testu z poprawką Bonferroniego?
  • Co to jest i jak obliczamy moc testu?
  • Opisz w punktach (zwięźle i konkretnie) procedurę weryfikacji hipotezy o różnicy średnich dwóch grup wyników [math]\{x_{i}, i=1\dots N\}[/math] i [math]\{y_{j}, j=1\dots M\}[/math] metodą repróbkowania (resampling).
  • Wyprowadź wzór na średnią N pomiarów [math]x_i[/math] o różnych wariancjach [math]\sigma_{i}^2[/math] z metody największej wiarygodności.
  • Dany jest zbiór rozłącznych hipotez [math]H_{i}[/math] pokrywających całą przestrzeń zdarzeń [math]\Omega[/math]: [math]\sum_{i}H_{i}=\Omega[/math] oraz prawdopodobieństwa wyniku eksperymentu W w świetle każdej z hipotez [math]H_{i}[/math], czyli [math]P(W\mid H_{i})[/math]. Korzystając z tych oznaczeń, wypisz i wyprowadź twierdzenie Bayesa, czyli wzór na prawdopodobieństwo prawdziwości hipotezy [math]H_{j}[/math] w świetle wyników eksperymentu W.
  • Wyjaśnij różnicę między poziomem istotności hipotezy o różnicy średnich a rozmiarem efektu, wyliczonymi dla tych samych danych.
  • Opisz w kategoriach wejścia i wyjścia algorytmy realizujące: regresję liniową, regresję logistyczną, liniową analizę dyskryminacyjną, analizę skupień, analizę wariancji i analizę składowych głównych.