Bayes-tétel

Ismert P(A), P(B) és P(A|B) valószínűségek esetén kiszámolható vele P(B|A), a következő módon:

Tetszőleges Eloszlás

Binomiális Eloszlás

Pl.: "Adott öt tanuló, akik 0.3 valószínűséggel készültek. Mennyi az esélye, hogy közűlük hárman készültek?"

Adott n alanyunk, melyekre példányonként p valószínűséggel következik be egy esemény. A kérdés, hogy mennyi a valószínűsége, hogy k példányra következik be az esemény.

Geometriai Eloszlás

Pl.: "30% az esélye, hogy nyerek a lottón. Mennyi az esélye, hogy az ötödik szelvényem nyer?"

Adott egy esemény egyszeri bekövetkezésének valószínűsége, ez p. A kérdés, hogy mennyi a valószínűsége, hogy ez az esemény a k-adik próbálkozásra következik be és nem előtte. Általában onnan felismerhető, hogy a feladat leírásában nem található példányszám.

Poisson Eloszlás

Pl.: "Egy bagoly egy órán belül átlagosan háromszor huhog. Mennyi az esélye, hogy a következő órában ötször fog huhogni?"

Olyan esetekben használandó, amikor valamilyen adott mérhető mennyiségen (pl. időtartam) belül adott darab egymástól független esemény következik be átlagosan. A kérdés, hogy mi a valószínűsége, hogy az esemény k alkalommal következik be.

Exponenciális eloszlás

Egy esemény bekövetkezésének valószínűségét adja meg x idő elteltével. Az esemény valószínűségének direkt megadása helyett általában az E(X) értékéből számolunk λ értéket, mellyel a képletek használhatóvá válnak.

Az exponenciális eloszlás rendelkezik még az úgynevezett "örökifjú" tulajdonsággal is. Ezt a következőképp definiáljuk:

$$\begin{array}{rl}P(X>t+s|X>t)& =\frac{P(X>t+s\cdot X>t)}{P(X>t}\\ & =\frac{P(X>t+s)}{P(X>t))}\\ & =\frac{1-(1-e^{-\lambda (t+s)})}{1-(1-e^{-\lambda t})}\\ & =\frac{e^{-\lambda (t+s)}}{e^{-\lambda t}}\\ & =\frac{e^{-\lambda t}\cdot e^{-\lambda s}}{e^{-\lambda t}}\\ & =e^{-\lambda s}\\ & =1-(1-e^{-\lambda s})\\ & =P(X>s)\end{array}$$

Vagyis a feltételből következő valószínűség független a feltételtől. Ez az eddigi ZH-kban majdnem mindig előfordult, valami olyasféle módon fogalmazva, hogy "tegyük fel egy buszra már öt perce várunk, mi a valószínűsége, hogy három percen belül érkezik?" Mely esetén nem kell feltételes valószínűséget számolnunk, csupán P(X < 3) értékét.

Természetesen a tulajdonság fordított esetben is érvényes, ekkor a következő képlettel (levezetés nélkül):

$$P(X<t+s|X>t)=P(X<s)$$

Normális eloszlás (standardizált)

Egy haranggörbével jellemezhető eloszlás, mely a valós számok egész halmazához rendel értéket. Paramétereiként meg kell adnunk a várható értéket (m) és a szórást (σ). Használjuk például arra, hogy gyártósorok selejtes termékeinek arányát vagy a várt értéktől való eltérés valószínűségét megbecsüljük.

Mivel egy tetszőleges normál eloszlás sűrűség- és eloszlásfüggvényét egy improprius integrállal tudnánk csak kiszámolni, így helyette bevezetésre kerül az úgynevezett Fi függvény (Φ(X)), mely standardizált (vagyis melyre igaz, hogy m = 0 és σ = 1) normális eloszlások x értékeihez rendeli hozzá azok valószínűségéit. Ehhez a következő képletet alkalmazzuk:

$$F(x)=\mathrm{\Phi }({\displaystyle \frac{x-m}{\sigma }})$$

Bár a standardizált normális eloszlás rendelkezik egy az eloszlásfüggvényhez hasonló kis-Fi-vel jelölt sűrűségfüggvénnyel is, ezt nem igazán használjuk az egyetemen, így itt nem kerül bemutatásra.

Akad eset, hogy azt kérdezik tőlünk, hogy X mikor esik a várható értéktől egy adott sugarú távolságon belülre. Ennek képletét a következőképp írhatjuk fel, ahol Δ a sugár és p pedig a valószínűség:

$$P(|X-m|<\mathrm{\Delta })=p$$

Ha minket Δ értéke érdekel, azt a következőképp tudjuk kiszámolni, ahol Φ-1-nél a táblázat egy értékéhez keressük a sor és oszlopból eredő számot (vagyis pl. 0.9 esetén 1.28-ot kapunk, mivel Φ(1.28) = 0.8779):

$$\begin{array}{rl}P(|X-m|<\mathrm{\Delta })& =p\\ P(-\mathrm{\Delta }<X-m<\mathrm{\Delta })& =p\\ P(-\frac{\mathrm{\Delta }}{\sigma }<X^{*}<\frac{\mathrm{\Delta }}{\sigma })& =p\\ \mathrm{\Phi }(\frac{\mathrm{\Delta }}{\sigma })-\mathrm{\Phi }(-\frac{\mathrm{\Delta }}{\sigma })& =p\\ \mathrm{\Phi }(\frac{\mathrm{\Delta }}{\sigma })-(1-\mathrm{\Phi }(\frac{\mathrm{\Delta }}{\sigma }))& =p\\ \mathrm{𝟐}𝚽(\frac{𝚫}{𝛔})-\mathrm{𝟏}& =p\\ \mathrm{\Phi }(\frac{\mathrm{\Delta }}{\sigma })& =\frac{p+1}{2}\\ \frac{\mathrm{\Delta }}{\sigma }& ={\mathrm{\Phi }}^{-1}(\frac{p+1}{2})\\ \mathrm{\Delta }& =\sigma \cdot {\mathrm{\Phi }}^{-1}(\frac{p+1}{2})\end{array}$$

Érdemes a vastagított képletet megjegyezni csak, mivel annak segítségével akár a p értékét, akár a Δ-t megkaphatjuk.

Egyenletes eloszlás

Olyan eloszlás, melynek eloszlásfüggvénye lineárisan növekszik két érték (a és b) között. A sűrűségfüggvénye emiatt a és b között egy x-től nem függő konstans, azon kívül pedig nulla.

Centrális Határeloszlás Tétel

Adott egy tetszőleges eloszlás melynek ismerjük a várható értékét (E(X)) és szórását (D(X)) és melyet n alkalommal mérünk.

Kellően nagy n esetén az eredeti eloszlástól függetlenül az egyes példányok összege és átlaga tetszőleges pontossággal megközelít egy-egy normális eloszlást az alább látható szabályok szerint.

A Csebisev-egyenlőtlenség

Segítségével durva becslést tudunk adni, hogy egy valószínűségi változó mennyire tér el annak várható értékétől.

Nagy Számok Törvénye

A Nagy Számok Törvénye kétféle dologra enged becslést adnunk.

Egyrészt megbecsülhetjük, hogy egy eloszlás relatív gyakorisága (vagyis a sikeres kísérletek száma (k) osztva az összes kísérlet számával (n)) mennyire közelíti meg a elméleti valósnűséget (p). Az elméleti valószínűségtől való távolság sugarát kis epszilonnal (ϵ) jelöljük.

$$\begin{array}{rl}P(|\frac{k}{n}-p|<ϵ)& \ge 1-\frac{p(1-p)}{n{ϵ}^2}\\ & \ge 1-\frac{1}{4n{ϵ}^2}\\ & \ge P\end{array}$$

Lássuk be, hogy bármely p érték esetén p(1 - p) ≤ 1/4, így a fent látható második egyenlőtlenség p értékétől függetlenül minden esetben fennáll.

Tetszőleges P alsó határ (vigyázz, ez nagy P, nem a kis p, az elméleti valószínűség!) és adott n vagy ϵ esetén meg tudjuk határozni a másik alsó határát:

$$\begin{array}{rl}1-\frac{1}{4n{\epsilon }^2}& \ge P\\ -\frac{1}{4n{\epsilon }^2}& \ge P-1\\ \frac{1}{4n{\epsilon }^2}& \le 1-P\\ \frac{1}{4{\epsilon }^2(1-P)}\le n& \text{ vagy }\frac{1}{\sqrt{4n(1-P)}}\le \epsilon \end{array}$$

Lehetőségünk van ezen kívül azt is megbecsülnünk, hogy X eloszlás n példányának átlaga (melyet itt "kalapos" X-el jelölök) mekkora valószínűséggel esik a várható értéktől (m) egy ϵ sugarú tartományba.

$$P(|\hat{X}-m|<\epsilon )\ge 1-\frac{{\sigma }^2}{n{\epsilon }^2}$$

Mivel rengeteg féle variáció van erre a két egyenlőtlenségre, nem tudok mindegyikhez kalkulátort ide tenni, így remélem a levezetés legalább segít.

Alapok

Adott X valószínűségi változó, melyet egy a méréseinket tartalmazó listával jellemzünk. Például:

Ekkor:

• X jelöli a méréseinkből számolt átlagot.
• Sn az úgynevezett empirikus szórást, mely egy torzított becslést ad az eloszlásunk szórására.
• S*n pedig a korrigált tapasztalati szórás, mely egy torzítatlan becslést ad a szórásra.

Ismert szórás esetén egy normális eloszlás várható értékére

Adott számunkra egy n elemű lista, mely egy normális eloszlás méréseiből áll. Az eloszlás szórása ismert számunkra (σ0-val jelöljük), azonban a várható érték (m) nem. Szeretnénk meghatározni, hogy az ismert adatok alapján m milyen tartományba (úgynevezett konfidenciaintervallumba) esik bizonyos valószínűséggel.

Ehhez először is meg kell határoznunk egy ε értéket, melyet 1-ből kivonva megkapjuk a konfidenciaintervallum valószínűségét. Például 95%-os konfidenciaintervallum esetén (vagyis ε = 0.05) a következő áll fenn:

$$P(\text{alsó határ}<m<\text{felső határ})=0.95$$

Ahhoz, hogy ezt az alsó és felső határt megkaphassuk, a következő két képletet kell kiszámolnunk:

$$[X-u_{ϵ}\frac{{\sigma }_0}{\sqrt{n}};X+u_{ϵ}\frac{{\sigma }_0}{\sqrt{n}}]$$

Adott ε esetén uε a következőképp számolható:

$$\begin{array}{rl}2\mathrm{\Phi }(u_{ϵ})-1& =1-ϵ\\ \mathrm{\Phi }(u_{ϵ})& =\frac{2-ϵ}{2}\\ \mathrm{\Phi }(u_{ϵ})& =1-\frac{ϵ}{2}\\ u_{ϵ}& ={\mathrm{\Phi }}^{-1}(1-\frac{ϵ}{2})\end{array}$$

Minnél nagyobbra vesszük ε-t, annál pontosabb határokat kapunk (vagyis a felső és alsó határ egyre jobban közelít egymáshoz), azonban a pontosságért cserébe egyre kevésbé valószínűbb, hogy a várható érték valóban ebbe a tartományba is esik.

A határokat pontosíthatjuk még a lista elemszámának bővítésével, hisz ekkor n egyre nagyobbá válik, így a határokban szereplő kivont/hozzádott érték csökken. Ekkor a valószínűség nem változik, viszont mivel általában adott számunkra a lista, így ez a módszer nem használható gyakran.

Ismeretlen szórás esetén egy normális eloszlás várható értékére

Adott számunkra egy n elemű lista, mely egy normális eloszlás méréseiből áll. Az eloszlásnak se a szórását, se a várható értékét (m) nem ismerjük és az utóbbira szeretnénk egy becslést adni, hogy milyen tartományba esik bizonyos valószínűséggel (vagyis mekkora az eloszlás várható értékének bizonyos valószínűségű konfidenciaintervalluma).

Ehhez az előző esethez hasonlóan meghatározunk egy ε értéket, melyet 1-ből kivonva megkapjuk a konfidenciaintervallum valószínűségét. Ekkor az alsó és felső határt a következőképp számolhatjuk:

$$[X-t_{ϵ}\frac{S_n^{*}}{\sqrt{n}};X+t_{ϵ}\frac{S_n^{*}}{\sqrt{n}}]$$

tε értékét a Student-eloszlás táblázatából kell kinéznünk. A számunkra megfelelő érték a táblázat n-1. sorában és ε. oszlopában lesz található. A korrigált tapasztalati szórás (S*n) kiszámolása az Alapok fül alatt található.

Fontos megjegyezni, hogy mivel ebben az esetben egy "becslés becslésével" van dolgunk (hisz a szórás maga is csupán véges sok adatból lett kiszámolva), így az itt kapott határok közötti eltérés a megadott szórásos esethez képest nagyobb lesz ugyanazon n darabszám esetén, hisz kevesebb konkrét adattal dolgoztunk.

Egy normális eloszlás szórására

Adott számunkra egy n elemű lista, mely egy normális eloszlás méréseiből áll. Meg szeretnénk becsülni az eloszlás szórása adott valószínűséggel milyen tartományba esik (vagyis mi a szórás konfidenciaintervalluma).

Ehhez a fentebb leírtak alapján ismét meghatározunk egy ε értéket, azonban máshogy számolunk vele mint eddig. Meg kell határoznunk két értéket, c1 és c2-t, melyeket a következő módon kapunk meg:

• meghatározzuk ε / 2 és 1 - (ε / 2) értékeit,
• kikeressük a Khi-négyzet (Х2) táblázat n-1. sorát és hozzá a két fentebb kiszámolt értékhez tartozó oszlopát,
• a nagyobbik érték lesz c2, a kisebbik c1.

Az így kapott értékekből és a korrigált tapasztalati szórásból (S*n) a következőképp tudunk konfidenciaintervallumot számolni a szóráshoz:

$$[\sqrt{n-1}\cdot \frac{S_n^{*}}{\sqrt{c_2}};\sqrt{n-1}\cdot \frac{S_n^{*}}{\sqrt{c_1}}]$$

Alapok

Hipotézisvizsgálatnak nevezezzük azt, amikor egy vagy több adathalmazról feltételezünk valamit (például, hogy mennyi a várható értéke) és ezen feltételezés helyességének a valószínűségét számszerűsíteni próbáljuk. A feltételezésünk az úgynevezett nullhipotézis (H0), míg annak ellentéte vagy tagadása H1.

Ahhoz, hogy el tudjuk dönteni H0-t elfogadjuk vagy elvetjük, egy statisztikai próbát végzünk, melynek során általunk meghatározott pontossággal tudjuk megmondani mennyire is szeretnénk biztosak lenni abban, hogy a feltételezés helytálló. Ennek a pontosságnak a neve a szignifikancia szint és ε-al jelöljük. Például, ha ε = 0.05 és a statisztikai próba alapján H0-t elfogadjuk, akkor az 95%-os valószínűséggel valóban igaz.

Ha H0 igaz és mi ennek ellenére elvetettük, akkor úgynevezett elsőfajú hibát vétettünk, melynek nagysága megegyezik a szignifikancia szinttel, vagyis jelen esetben 5%. Ha viszont elfogadjuk H0-t annak ellenére, hogy az hamis, akkor pedig másodfajú hibát követünk el. Ennek az értékét nem számoljuk egyetemen.

Fontos megjegyezni, hogy minnél inkább csökkentjük "manuálisan" az elsőfajú hiba értékét (vagyis ε értékét minnél kisebbre vesszük), a másodfajú hiba annál inkább nő. Helyette, ha kisebb elsőfajú hibát akarunk, akkor azt a minták számának növelésével tudjuk elérni.

A statisztikai próbához pedig először is meg kell határoznunk a szignifikancia szint és a rendelkezésre álló adatok száma alapján egy uε / tε értéket, mely mellé kell számolnunk egy un-1 / tn-1 értéket is. Ennek mikéntjét a következő két fejezet mutatja be. Az így kapott szám abszolútértékét össze kell hasonlítanunk uε / tε-al és, ha kisebb, elfogadjuk H0-t. Tehát,

$$\begin{array}{rl}\left|t_{n-1}\right|<t_{ϵ}& ⟹H_0\text{-t elfogadjuk}\\ \left|t_{n-1}\right|\ge t_{ϵ}& ⟹H_0\text{-t elvetjük}\end{array}$$

Egymintás t-próba

Adott egy adathalmazunk, amiről feltételezzük, hogy normális eloszlásból származik. Szeretnénk megbizonyosodni afelől, hogy ennek a normális eloszlásnak egy adott m a várható értéke (E(X)). Ezt nevezzük kétoldali t-próbának, mivel a hiba a normális eloszlás görbéjének mindkét oldalán megjelenik. Tehát,

$$\begin{array}{c}{H}_0:E(X)=m\\ H_1:E(X)\ne m\end{array}$$

Ennek eldöntéséhez ki kell számolnunk tn-1 értékét, mely a következő képlettel lehetséges:

$$t_{n-1}=\frac{X-m}{S_n^{*}}\sqrt{n}$$

tε értékét pedig a táblázat n-1 sorából és a szignifikancia szintnek megfelelő oszlopából nézzük ki.

Lehetőségünk van ezen kívül olyan t-próbát is elvégezni, melyben E(X)-t nem egy konkrét értéknek feltételezzük, hanem, hogy egy bizonyos értéknél nagyobb vagy kisebb. Ezt nevezzük egyoldali t-próbának. Legyen ez az érték ismét m. Ekkor a hipotéziseink a következők:

$$\begin{array}{c}{H}_0:E(X)\le m\\ H_1:E(X)>m\end{array}$$

Vigyázz: Még akkor is, ha a feladat arra kér t-próbát, hogy a várható érték nagyobb mint m, a H0 mindig az E(X) ≤ m ágat kapja. Tehát az ilyen feladatoknál valójában azt kell megvizsgálnunk, hogy el tudjuk-e vetni a nullhipotézist!

Ennél az esetnél mivel a hiba a normális eloszlás egyik oldalára esik csak, így tε megválasztásakor ugyanúgy az n-1 sor, de a szignifikancia szint kétszeresének oszlopát kell választanunk. Tehát, például ha 5%-os, vagyis 0.05-ös szignifikancia szinttel dolgozunk, akkor a 0.1-es oszlopot kell vizsgálnunk!

Illeszkedésvizsgálat

Adott egy adathalmazunk, melyről szeretnénk eldönteni, hogy egy bizonyos eloszlásból származik-e. Erre ad lehetőséget az úgynevezett Illeszkedésvizsgálat. Ekkor először is felbontjuk az adathalmazunk annyi esetre, ahány különféle értéket felvehet a várt eloszlásunk és meghatározzuk ezeknek az eseteknek a valószínűségét.

Az így kapott adatokból táblázatot alkotunk, majd ez alapján meghatározzuk a mintához tartozó Х2 értéket a következő képlettel:

$${\chi }^2=\sum _{i=i}^n\frac{({\mu }_i-n{p}_i{)}^2}{n{p}_i}$$

Majd végül ennek a számnak az abszolútértékét összehasonlítjuk a Х2 táblázat részre bontások - 1. sorával és szignifikancia szintedik oszlopával és ha kisebb, akkor H0-t elfogadjuk, vagyis az adathalmaz valóban illeszkedik a kívánt eloszlásra.