statistiek 2

Hoofdstuk 7: Variantieanalyse

hoofdstuk 7

STATISTIEK 2

interval/ordinaal

nominaal

1

nominaal

> 1

1

one sample t-test /z-test1

2

> 2

interval/ordinaal

onafh.

onafh.

onafh.

afh.

afh.

independent t-test / z-test

dependent t-test

one way ANOVA

repeated measures ANOVA

Pearson correlation

nominaal

interval

gemengd

afh.

gemengd

n-way ANOVA


mixed design ANOVA

multiple regression

Pearson chi-square

multiple regression

nominaal/ ordinaal

onafh.

type AV? aantal OV? type OV? hoeveel populaties?

categorieën afhankelijk?

parametrisch non-parametrisch

Rank-sum

Signed-ranks

Kruskal-Wallis

Friedman’s ANOVA

Spearman correlation

niet in dit boek chi-square goodness of fit

1

≥ 2

chi-square goodness of fitonafh.

• 2• Hoofdstuk 7: Variantieanalyse

Variantieanalyse: one way ANOVA& Kruskal-Wallis

VANDAAG

Tot nu toe bij hypothesetoetsing:

t-toets en z-toets voor verschil tussen 2 gemiddelden

- hebben mensen die therapie A gevolgd hebben minder angst dan mensen die therapie B gevolgd hebben?

- besteden jongens en meisjes evenveel tijd aan huiswerk?

-> telkens 1 OV (vb. therapie, geslacht) met telkens 2 waarden-> telkens 1 AV (vb. angst, tijd)

VARIANTIEANALYSE

4 Hoofdstuk 7: Variantieanalyse

5

Ook mogelijk: toetsen voor verschillen tussen meer dan 2 gemiddelden

- is er een verschil in het welbevinden van kinderen met ouders die autoritair, autoritatief of permissief opvoeden?

-> telkens 1 OV (vb. opvoedingsstijl) met telkens meer dan 2 waarden (vb. 3)-> telkens 1 AV (vb. welbevinden)

eenwegs (‘one way’) variantie-analyse (‘ANOVA’)

Bij twee OV: tweewegs (‘two way’) variantie analyse (zie volgende les)Bij meer dan één AV: MANOVA (niet in Statistiek II)

VARIANTIEANALYSE


6

1. ToetsingssituatieIs er een verschil in gemiddelde tussen groep a, b, c, … op variabele Y?ofIs er een effect van variabele X (met niveau’s a, b, c,..) op variabele Y?

en:Indien er een effect is, tussen welke groepen is er een verschil? (= post hoc toetsing)

VARIANTIEANALYSE


7

2. Voorwaarden• AV is gemeten op intervalniveau• OV wordt als nominaal beschouwd (ook al is OV soms

ordinaal)• scores van AV zijn in elke populatie normaal verdeeld of

aantal deelnemers is in elke populatie groter dan 30• varianties in populaties zijn gelijk (homogeniteit)• onafhankelijke steekproeven

Assumptie van normaliteit en homogeniteit minder strikt bij gelijke steekproeven

VARIANTIEANALYSE


8

3. HypothesenH0: alle populatiegemiddelden zijn aan elkaar gelijk:

µa = µb = µc = … = µj als er J populaties zijnH1: minstens twee populatiegemiddelden zijn niet gelijk aan elkaar

µj ≠ µj’ voor minstens één paar van j en j’Dus H1 is NIET µa ≠ µb ≠ µc ≠… ≠ µj

H0 wordt getoetst door gebruik te maken van varianties:De tussen-groeps-variantie of between-groups variance

mean square between (MSb)De binnen-groeps-variantie of within-groups variance

mean square within (MSw)

VARIANTIEANALYSE


VARIANTIEANALYSE

9

Within groups


VARIANTIEANALYSE

10

Between groups

Within groups


Wanneer de verschillen tussen groepsgemiddelden groter worden en de verschillen binnen elke groep ongeveer hetzelfde blijven wordt de between-groups variantie groter ten opzichte van de within-groups varianties.

Dus: de verhouding between-groups variantie/within-groups variantie zegt iets over het verschil tussen groepsgemiddelden.

VARIANTIEANALYSE

11

Between groups

Within groups


MSw = verschillen te wijten aan verschillen tussen personen binnen dezelfde groep

= inter-individuele verschillen die niet te wijten zijn aan het effect van de OV

= foutenvariantie (varfout)

MSb = variantie van groepsgemiddelden + variantie van scores rondom groepsgemiddelden

= variantie van de effecten van OV (vareffect) + foutenvariantie (varfout)

MSw = varfout

MSb = vareffect + varfout

VARIANTIEANALYSE


13

MSb = vareffect + varfout MSw = varfout

-> ALS H0 waar is, dwz. vareffect zeer klein is of gelijk is aan 0 DAN: MSb = MSw of MSb / MSw = 1

-> ALS H0 niet waar is, dwz. vareffect verschilt van 0 DAN: MSb > MSw of MSb / MSw > 1

VARIANTIEANALYSE


14

4. Toetsingsgrootheid

Df b = J – 1 (J =aantal groepen)Df w = N – J (N = totaal aantal waarnemingen; J = aantal groepen)

Kansverdeling: F-verdeling (zie bijlage)

Vb.

Met df b = 3 – 1 = 2 en df w = 27 – 3 = 24

VARIANTIEANALYSE

ww

bb

w

b

dfSSdfSS

MSMSF

//

13.776.268.19

24/27.662/35.39

F


15

5. Beslissingsregels

a. Overschrijdingskansen (niet in tabel)

Is P r (F) ≤ α ?ja, verwerp H0neen, verwerp H0 niet

Vb. P r (F = 7.13) = 0.0037 voor df b = 2 , df w= 24

P r (= 0.0037) < 0.05 dus H0 verwerpen

VARIANTIEANALYSE


16

b. kritieke waardenIs F ≥ kritieke F waarde bij

df teller = df b = J – 1 ja, verwerp H0df noemer = df w = N - J neen, verwerp H0 niet

kritieke F waarde df b = 2 , df w= 24 bij alpha = 0.05 = 3.4 (zie tabel) F (7.13) > Fkritiek (3.4) dus H0 verwerpen

VARIANTIEANALYSE


VARIANTIEANALYSE

17

ANOVA

TOETSGEG

39,355 2 19,677 7,126 ,00466,275 24 2,761

105,630 26

Between GroupsWithin GroupsTotal

Sum ofSquares df Mean Square F Sig.


18

Wanneer H0 verworpen is weten we dat minstens 2 groepen verschillen mbt. hun gemiddelde-> welke groepen?

= post-hoc toetsing

We zouden via t-toetsen elk paar van groepen met elkaar kunnen vergelijken (vb. groep 1-2, 2-3, 1-3). Bij elke t-toets gebruiken we een α = 0.05. Probleem: door herhaaldelijk t-toetsen uit te voeren neemt de fout van de 1e soort toe.

Oplossing: bij posthoc toetsing corrigeren voor deze hogere kans op fouten van de 1e soort.

>> Bonferroni correctie: wanneer we drie groepen vergelijken, alleen besluiten dat er een significant verschil is als P ≤ 0.05/3 (ipv. 0.05)(andere mogelijke correcties: Tukey, Scheffé,...)

VARIANTIEANALYSE


19

Post-hoc toetsing in SPSS:

SPSS output houdt al rekening met deze correctie; dus de P waarden zijn al gecorrigeerd.

Als P ≤ 0.05 dan is er een significant verschil tussen beide groepenvb. enkel significant verschil ts. Groep 1-3

VARIANTIEANALYSE

Multiple Comparisons

Dependent Variable: TOETSGEGBonferroni

-1,2667 ,76353 ,330 -3,2317 ,6984-3,0417* ,80747 ,003 -5,1198 -,96351,2667 ,76353 ,330 -,6984 3,2317-1,7750 ,78824 ,101 -3,8037 ,25373,0417* ,80747 ,003 ,9635 5,11981,7750 ,78824 ,101 -,2537 3,8037

(J) GROEP2,003,001,003,001,002,00

(I) GROEP1,00

2,00

3,00

MeanDifference

(I-J) Std. Error Sig. Lower Bound Upper Bound95% Confidence Interval

The mean difference is significant at the .05 level.*.


20

Voorbeeld ANOVA in SPSS: stressreductie door chocolade bij dansers

VARIANTIEANALYSE


21

ANOVAstress Sum of

Squaresdf Mean Square F Sig.

Between Groups 714,490 2 357,245 3,136 ,048Within Groups 11277,471 99 113,914 Total 11991,961 101

6. Effectgrootte

7. RapporteringEr was een significant effect van chocolade op het stressniveau van de dansers, F(2, 99) = 3.14, p = .048, r = .24 . De dansers die geen chocolade aten rapporteerden een hoger stressniveau (M = 65.5, SD = 10.54) dan dansers die twee repen chocolade aten (M = 59.12, SD = 12.27). Het stressniveau van de dansers die één reep chocolade aten (M = 61.32, SD = 8.95) verschilde niet significant van de andere condities.

VARIANTIEANALYSE


interval/ordinaal

nominaal

1

nominaal

> 1

1


2

> 2

interval/ordinaal

onafh.

onafh.

onafh.

afh.

afh.


dependent t-test

one way ANOVA


Pearson correlation

nominaal

interval

gemengd

afh.

gemengd

n-way ANOVA


mixed design ANOVA

multiple regression

Pearson chi-square

multiple regression

nominaal/ ordinaal

onafh.




Rank-sum

Signed-ranks

Kruskal-Wallis

Friedman’s ANOVA



1

≥ 2


Variantieanalyse: two way ANOVA

24

Eénwegs-variantie analyse-> 1 OV met meer dan twee waarden-> 1 AVis er een verschil in het welbevinden van kinderen met ouders die autoritair, autoritatief, of permissief opvoeden?

Tweewegs-variantie analyse (of: tweefactor-variantie analyse)-> 2 OV-> 1 AVwat is het effect van drie verschillende lesmethoden en het geslacht van de leerling op de studieresultaten van leerlingen? = 3 X 2 ANOVA = k x r factorieel design met k = aantal niveaus OV1, r = aantal niveaus OV2

TWEEWEGS-VARIANTIEANALYSE


Twee vragen:

1. vraag over hoofdeffect van elke OV op AV

2. vraag over interactie-effect tussen OV1 en OV2 op AVhoe hebben de twee OV’s samen in combinatie een effect op AV?is het effect van de ene OV op AV anders naargelang het niveau van de andere OV?

- is het effect van ses op toekomstbeeld anders voor jongens dan voor meisjes?- is het effect van chocolade op stressreductie anders voor beginners dan voor gevorderden?



26

1. Toetsingssituatiea. Is er een effect van variabele A (met niveaus a1, a2, …) op variabele Y?b. Is er een effect van variabele B (met niveaus b1, b2, …) op variabele Y?

= 2 hoofdeffecten

c. Is het effect van variabele A anders naargelang het niveau van variabele B (of omgekeerd)? Wat is het effect van de combinatie van A en B op Y?= interactie-effect tussen A en B

d. Indien er een hoofdeffect is van A, tussen welke groepen van A is er een verschil?

e. Indien er een hoofdeffect is van B, tussen welke groepen van B is er een verschil?= post hoc toetsing



2. Voorwaarden• AV is gemeten op intervalniveau• OV’s worden als nominaal beschouwd (ook al is OV soms ordinaal)• scores van AV zijn in alle populaties normaal verdeeld• varianties in populaties zijn gelijk (F-toets of Levene’s toets)• onafhankelijke steekproeven



28

3. HypothesenWat is het effect van ses en geslacht op de toekomstverwachting van jongeren? OV1 (A) = ses (laag, midden, hoog)OV2 (B) = geslacht (jongens, meisje)AV = toekomstbeeld score ts. -10 en +10

-> 3 x 2 design (dus 6 populaties - zie les 2: waarden van OV bepalen aantal populaties)

a. Is er een hoofdeffect van variabele A (met i niveaus)?

H0: alle populatiegemiddelden van A zijn aan elkaar gelijkµ1 = µ2 = µ3 = … = µi als er I groepen zijn van A

H1: minstens twee populatiegemiddelden zijn niet gelijk aan elkaarµi ≠ µi’ voor minstens één paar van i en i’

Of in termen van varianties H0: σ²A = σ²W of σ²A / σ²W = 1 H1: σ²A > σ²W of σ²A / σ²W > 1


laag midden hoog01234567

SES

Toek

omst

beel

d


29

b. Is er een hoofdeffect van variabele B (met j niveaus)?H0: alle populatiegemiddelden van B zijn aan elkaar gelijk

µ1 = µ2 = µ3 = … = µj als er J groepen zijn van BH1: minstens twee populatiegemiddelden zijn niet gelijk aan elkaar

µj ≠ µj’ voor minstens één paar van j en j’

Of in termen van varianties H0: σ²B = σ²W of σ²B / σ²W = 1 H1: σ²B > σ²W of σ²B / σ²W > 1


jongens meisjes0123456

geslacht

Toek

omst

beel

d


30

c. Is er een interactie-effect van variabele AxB ?H0: alle populatiegemiddelden van combinatie AxB zijn aan elkaar gelijk: µ11 = µ12 = … = µij als er I x J groepen zijn H1: minstens twee populatiegemiddelden zijn niet gelijk aan elkaar

µij ≠ µi’j’ voor minstens één paar van ij en i’j’

Of in termen van varianties H0: σ²AxB = σ²W of σ²AXB / σ²W = 1 H1: σ²AXB > σ²W of σ²AXB / σ²W > 1



jongensmeisjes

SES

Toek

omst

beel

d


31

4. Toetsingsgrootheid4.1 F toets voor hoofdeffect van A

met dfA = I – 1 (I = aantal niveaus van A)met dfW = N – (I x J) (N = totaal aantal )vb. FA = 10/2.02 = 4.95 met dfA = 2 dfW = 24

4.2 F toets voor hoofdeffect van B

met dfB = J – 1 (J = aantal niveaus van B)met dfW = N – (I x J) (N = totaal aantal )vb. FB = 0.53/2.02 = 0.26 met dfB = 1 dfW = 24

4.3 F toets voor interactie-effect van AxB

met dfAxB = (I - 1). (J – 1)met dfW = N – (I x J) (N = totaal aantal)vb. FAxB = 30.54/2.02 = 15.12 met dfAxB = 2

dfW = 24


WW

AA

W

AA dfSS

dfSSMSMS

F//

WW

BB

W

BB dfSS

dfSSMSMS

F//

WW

AxBAxB

W

AxBAxB dfSS

dfSSMSMS

F//


5. Beslissingsregelsa. Overschrijdingskansen

Is P r (F) ≤ α?ja, verwerp H0neen, verwerp H0 niet

>> overschrijdingskans per mogelijk effect (hoofd / interactie) in ANOVA-tabel SPSS

b. Kritieke waardenOok mogelijk via tabel met F-waarden.



significant hoofdeffect ses: jongens en meisjes samengenomen is er een effect van sesgeen significant hoofdeffect geslacht: 3 ses niveaus samengenomen is er geen significant verschil tussen j en m

een interactie-effect: het verschil ts. j en m is niet hetzelfde voor alle niveaus van ses

>> post-hoc toetsing nodig om te weten tussen welke groepen er een verschil is. (SPSS)



interactie-effect: het verschil ts. jongens en meisjes is niet hetzelfde voor alle niveaus van ses (lijnen lopen niet parallel)


34

laag midden hoog0

2

4

6

hoofdeffect SES

SES

Toek

omst

beel

d

jongens meisjes0

2

4

6geen hoofdeffect geslacht

geslacht

Toek

omst

beel

d


interactie effect

jongensmeisjes

SES

Toek

omst

beel

d

seslaag midden hoog

jongens 5,6 5,6 4,2 5,13

meisjes 2,4 4,4 7,8 4,87

4 5 6


35

Post hoc analyse bij two-way ANOVA:Zie post-hoc bij one-way ANOVA: niveaus binnen 1 OV vergelijken.

(overbodig als er maar 2 niveaus zijn – bv. geslacht. Kijk dan naar gemiddeldentabel)

Om alle cellen paarsgewijs te vergelijken: simple effects – enkel met SPSS syntax (zie boek p. 163)


seslaag midden hoog

jongens 5,6 5,6 4,2 5,13

meisjes 2,4 4,4 7,8 4,87

4 5 6

seslaag midden hoog

jongens 5,6 5,6 4,2 5,13

meisjes 2,4 4,4 7,8 4,87

4 5 6


36

Interpretatie resultaten ANOVA: via plots van gemiddelden per groep - 4 alternatieve hypothetische situaties (hier geïdealiseerd):

1. Eén hoofdeffect en geen interactie-effect

- geen hoofdeffect ses: geen verschil ts. laag-midden-hoog groep wanneer j en m samennemen- wel hoofdeffect geslacht: j scoren hoger dan m wanneer 3 ses groepen samennemen- geen interactie-effect: het verschil ts. j en m is hetzelfde voor alle niveaus van ses (lijnen lopen parallel)



2. Twee hoofdeffecten en geen interactie-effect

- een hoofdeffect ses- een hoofdeffect geslacht- geen interactie-effect: het verschil

ts. j en m is hetzelfde voor alle niveaus van ses (lijnen lopen parallel)



3. Twee hoofdeffecten en een interactie-effect

- een hoofdeffect ses: jongens en meisjes

samengenomen is er een effect van ses

- een hoofdeffect geslacht- een interactie-effect: het verschil

ts. j en m is niet hetzelfde voor alle niveaus van ses (lijnen lopen niet parallel)



39

4. Geen hoofdeffecten maar wel een interactie-effect

- geen hoofdeffect ses: jongens en meisjes samengenomen is er geen effect van sesgeen hoofdeffect geslacht: 3 ses niveaus samengenomen is er geen effect van geslacht

- een interactie-effect: het verschil ts. j en m is niet hetzelfde voor alle niveaus van ses (lijnen lopen niet parallel)


seslaag midden hoog

jongens 9 5 1 5meisjes 1 5 9 5

5 5 5

0123456789

10

laag midden hoog

ses

scor

e jongensmeisjes


40

6. Effectgrootte

Partial Eta squared: interpreteerbaar zoals rte berekenen met SPSS

Via ANOVA-dialoogbox > options > estimates of effect size aanvinken



41

Demo two-way ANOVA: effect van chocolade én dansniveau op stress?



42

7. RapporteringEerst de potentiële hoofdeffecten bespreken (zie one-way

ANOVA, inclusief eventuele post-hoc) gegevens: gemiddelden, SD, F-waarde, p-waarde, r

Daarna potentieel interactie-effect, zelfde gegevens.

Hoofdeffecten zijn niet meer relevant als er een interactie-effect is, maar moeten wel gerapporteerd worden. Interpretatie van de resultaten gaat enkel over interactie-effect.



interval/ordinaal

nominaal

1

nominaal

> 1

1


2

> 2

interval/ordinaal

onafh.

onafh.

onafh.

afh.

afh.


dependent t-test

one way ANOVA


Pearson correlation

nominaal

interval

gemengd

afh.

gemengd

n-way ANOVA


mixed design ANOVA

multiple regression

Pearson chi-square

multiple regression

nominaal/ ordinaal

onafh.




Rank-sum

Signed-ranks

Kruskal-Wallis

Friedman’s ANOVA



1

≥ 2


• 43• Hoofdstuk 7: Variantieanalyse

44

1. ToetsingssituatieIs er een verschil in gemiddelde tussen groep a, b, c, … op

variabele Y?>> zelfde situatie als eenwegs-variantieanalyse.

2. VoorwaardenAV is niet normaal verdeeld en/ofAV is van ordinaal meetniveau

Chocolade als afrodisiacum? Gemeten met:

KRUSKAL-WALLIS TOETS VOOR VERSCHIL TUSSEN K POPULATIES

Seks is absoluut het allerlaatste waar ik nu aan kan denken.

Ik ervaar niet meer of minder zin in seks dan op een doordeweekse dag.

Ik voel een onwaarschijnlijke lust tot paren – annuleer de voorstelling!


45

3. HypothesenH0: θ1 = θ2 = … = θkH1= “niet H0”

bij k niveaus van de OV

4. ToetsingsgrootheidGebaseerd op rangordening zoals bij Mann-Whitney, grootheid =

H>> analyze > non-parametric > legacy dialogs > k independent

samples(zie boek 7.3.4)



46

5. Beslissingsregel

Is de gerapporteerde overschrijdingskans in SPSS kleiner dan α ?

ja > verwerp H0nee > verwerp H0 niet

Is er een effect? post-hoc toetsen met meerdere Mann-Whitney/Wilcoxon Rank-Sum. Gebruik zo weinig mogelijk tests en hanteer Bonferroni-correctie: α / aantal tests.



47

Demo Kruskal-Wallis: chocolade als afrodisiacum?

OV : 3 niveaus chocolade – geen, één reep, twee repenAV: ordinale schaal met 3 niveaus



48

6. Effectgrootte• Geen effectgrootte voor K-W test algemeen• Wel effectgrootte van bijhorenden Mann-Whitney tests – zie

H5


Test Statisticsa

lust

Mann-Whitney U 359,500

Wilcoxon W 954,500

Z -2,976

Asymp. Sig. (2-tailed) ,003

a. Grouping Variable: chocolade


49

7. Rapportering

Een Kruskal-Wallis toets werd uitgevoerd om het effect van het eten van chocolade op de lustgevoelens van dansers na te gaan. Dit effect bleek inderdaad significant, H = 8.71, p = .013. Bijkomend werden de condities zonder chocolade (mean rank = 41), met één reep chocolade (mean rank = 59.91) en twee repen chocolade (mean rank = 53.59) onderling vergeleken door middel van een Wilcoxon rank-sum toets, waarbij een gecorrigeerd significantieniveau van α = .017 werd gehanteerd. Hieruit bleek dat er enkel een significant verschil was tussen de conditie zonder chocolade en de conditie met één reep chocolade (Ws = 954.5, z = -2.976, p = .003, r = -.36). Het verschil tussen de conditie zonder chocolade en de conditie met twee repen chocolade (Ws = 1034.5, z = -1.861, p = .06, r = -.23) noch het verschil tussen de conditie met één reep chocolade en de conditie met twee repen chocolade (Ws = 1105.5, z = -.917, p = .36, r = -.11) waren significant.



Fetisjisme bij kwartels? (zie Field, 2009)

Çetinkaya, Hakan & Domjan, Michael (2006). Sexual fetishism in a quail (Coturnix japonica) model system: Test of reproductive success. Journal of Comparative Psychology, Vol 120(4), Nov 2006, 427-432.

VOORBEELD ANALYSE MET K POPULATIES


statistiek 2

Documents

de between

de within

groups variantie groter

groups varianties

type ov

aantal ov

therapie a

therapie b