Thuis
Contacten

    Hoofdpagina


Docent: drs. Rob Flohr

Dovnload 2 Mb.

Docent: drs. Rob Flohr



Pagina5/25
Datum05.12.2018
Grootte2 Mb.

Dovnload 2 Mb.
1   2   3   4   5   6   7   8   9   ...   25
0.003116161

0.38 0.75 8.307239e-03 0.615430098

0.4 0.20 5.148964e-03 0.381453742





Of zonder Bolstad-package en direct vanuit R, op basis van



Prior kansen:


Likelihood:



0.0008412552

> dbinom(400,1000,0.36)

[1] 0.0008412552

0.01107632

> dbinom(400,1000,0.38)

[1] 0.01107632

0.02574482

> dbinom(400,1000,0.40)

[1] 0.02574482

>


prior x likelihood:

voor : 0.05 x 0.0008412552 = 0.00004206276

voor : 0.75 x 0.01107632 = 0.00830724

voor : 0.20 x 0.02574482 = 0.005148964

____________ +

0.01349826676



posterior kansen:

Les 2


onderwerpen:
1) discrete en continue prior kansverdelingen

2) begrippen: conjugate prior en Bayesiaanse evenredigheid

3) Monte Carlo simulaties en Markov Chain Monte Carlo simulaties

4) installatie plus instructie R en gebruik van R-packages; MCMCpack in het bijzonder


ad 1) continue kansvariabelen (met als voorbeeld: de beta-verdeling, zie lesmateriaal les 1 op 22 april) vanaf continue prior

voorbeeld Harry Potter met uniforme prior (beta(1,1)-verdeling)


In een onderzoek onder 1000 kinderen, uitgevoerd in het Verenigd Koninkrijk in juni 2005, voorafgaand aan het verschijnen van J.K. Rowlings’ Harry Potter and the Half Blood Prince, gaf 40 procent van de kinderen aan dat ze een exemplaar van het nieuwe boek tijdens het eerste weekend na publicatie zouden gaan bemachtigen.

> local({pkg <- select.list(sort(.packages(all.available = TRUE)),graphics=TRUE)

+ if(nchar(pkg)) library(pkg, character.only=TRUE)})
Attaching package: ‘Bolstad’
The following object(s) are masked _by_ ‘.GlobalEnv’:
binodp
Warning message:

package ‘Bolstad’ was built under R version 2.15.3

> library(Bolstad)

> binobp(400,1000,1,1)

Posterior Mean : 0.4001996

Posterior Variance : 0.0002393

Posterior Std. Deviation : 0.01547
Prob. Quantile

------ ---------

0.005 0.3607615

0.01 0.3645257

0.025 0.3700744

0.05 0.3748656

0.5 0.4001332

0.95 0.4257602

0.975 0.4307022

0.99 0.4364592



0.995 0.4403854

>


Vergelijk de uitkomsten van beide benaderingen:

- klassiek 95% betrouwbaarheidsinterval : 0.3694690 - 0.4311216 (zie uitwerking huiswerkopgave voor les 2)

- Bayesiaans 95% 'credible interval' : 0.3700744 / 0.4307022

De uitkomsten liggen dicht bij elkaar (dit vanwege a) uniforme prior en b) relatief grote steekproef : n=1000) (bij toename van de steekproefomvang convergeren verschillende priors in de richting van eenzelfde posterior, zie boek De Bayesiaanse benadering, par. 4.4, pp. 60-62)

Echter:
a) de betekenis is verschillend!!

b) bij een informatieve prior verandert het beeld;


voorbeeld Harry Potter met informatieve prior (beta(606.78, 990.50)-verdeling)
In een onderzoek onder 1000 kinderen, uitgevoerd in het Verenigd Koninkrijk in juni 2005, voorafgaand aan het verschijnen van J.K. Rowlings’ Harry Potter and the Half Blood Prince, gaf 40 procent van de kinderen aan dat ze een exemplaar van het nieuwe boek tijdens het eerste weekend na publicatie zouden gaan bemachtigen.
Stel dat de uitgever op basis van eerdere gegevens verwacht dat de kans 0.90 is dat de populatieproportie zal liggen tussen 36% en 40%.

> local({pkg <- select.list(sort(.packages(all.available = TRUE)),graphics=TRUE)

+ if(nchar(pkg)) library(pkg, character.only=TRUE)})

> library(LearnBayes)

> quantile1=list(p=0.05,x=0.36)

> quantile2=list(p=0.95,x=0.40)

> beta.select(quantile1,quantile2)

[1] 606.78 990.50

> local({pkg <- select.list(sort(.packages(all.available = TRUE)),graphics=TRUE)

+ if(nchar(pkg)) library(pkg, character.only=TRUE)})


Attaching package: ‘Bolstad’
The following object(s) are masked _by_ ‘.GlobalEnv’:
binodp
Warning message:

package ‘Bolstad’ was built under R version 2.15.3

> library(Bolstad)

> binobp(400,1000,606.78,990.50)

Posterior Mean : 0.3876286

Posterior Variance : 9.14e-05

Posterior Std. Deviation : 0.0095581
Prob. Quantile

------ ---------

0.005 0.3631796

0.01 0.3655256

0.025 0.3689786

0.05 0.3719558

0.5 0.3875997

0.95 0.4033998

0.975 0.4064425

0.99 0.4099861



0.995 0.4124025

>

ad 2) begrippen: conjugate prior en Bayesiaanse evenredigheid


In het geval van continue kansvariabelen wordt de formule:

waarbij de noemer de 'normalizing constant' wordt genoemd: het product van de prior en de likelihoodfunctie moet geïntegreerd worden over de parameter(s).

Begrip conjugate prior: prior en posterior verdeling zijn van dezelfde familie. Voordeel: er hoeft niet geïntegreerd te worden, de parameters van de prior kansverdeling worden langs theoretische weg aangepast/ 'vervoegd'

Een aantal conjugate priors staan hieronder (de lijst is niet volledig):


Prior

Likelihood

Posterior

Beta

Binomiaal

Beta

Beta

Negatief binomiaal

Beta

Gamma

Poisson

Gamma

Beta

Geometrisch

Beta

Gamma

Exponentieel

Gamma

Normaal

Normaal (onbekende posterior)

Normaal

Inverse Gamma

Normaal (onbekende )

Inverse Gamma

Normaal/Gamma

Normaal (onbekende en )

Normaal/Gamma

Dirichlet

Multinomiaal

Dirichlet










N.B.
In het geval van een conjugate prior is het in principe mogelijk om de posterior kansverdeling langs analytische/theoretische weg te vinden, alleen vraagt het veel rekenwerk, zie bijv. De Bayesiaanse benadering, p. 38-39 en 62-67. Vandaar dat we ook in dat geval gebruik maken van software.

In andere gevallen is het niet of zeer moeilijk om de posterior langs analytische/theoretische weg (d.w.z. met behulp van integraalrekening) te vinden en dan maken we gebruik van simulaties (zie punt 3)




Voorbeeld van gebruik van software om langs theoretische weg en op basis van een conjugate prior en normaal verdeelde likelihood het populatiegemiddelde van de normaal verdeelde posterior kansverdeling te vinden.

> local({pkg <- select.list(sort(.packages(all.available = TRUE)),graphics=TRUE)

+ if(nchar(pkg)) library(pkg, character.only=TRUE)})
Attaching package: ‘Bolstad’
The following object(s) are masked _by_ ‘.GlobalEnv’:
binodp
Warning message:

package ‘Bolstad’ was built under R version 2.15.3

> library(Bolstad)

> help(normnp)

starting httpd help server ... done

1   2   3   4   5   6   7   8   9   ...   25


Dovnload 2 Mb.