Wielokrotne testowanie
Im więcej hipotez sprawdzasz na tych samych danych, tym pewniej któraś wypadnie dobrze przez przypadek.
Jeśli przy jednym teście dopuszczasz 5% ryzyka fałszywego trafienia, to przy stu niezależnych testach prawie na pewno (około 99%) trafi się co najmniej jeden fałszywy pozytyw. Testy strategii zwykle nie są niezależne, więc dokładna liczba jest inna, ale kierunek ten sam: liczba prób, które poprzedziły twój najlepszy wynik, jest równie ważna jak sam wynik.
Powiązane pojęcia
- Fałszywy pozytyw
- PBO
- Prawo Goodharta