Priorna verjetnost
Priorna verjetnostna porazdelitev negotove količine, krajše imenovana prior, je njena prevzeta verjetnostna porazdelitev, preden upoštevamo določene dokaze. Prior bi lahko bila verjetnostna porazdelitev, ki predstavlja relativna razmerja volivcev, ki bodo v bodočih volitvah glasovali za določenega politika. Neznana količina je lahko parameter modela ali latentna spremenljivka in ne opazovana spremenljivka.
V Bayesovi statistiki Bayesov izrek odloča, kako posodobiti prior z novimi podatki za to, da dobimo posteriorno porazdelitev, ki je pogojna porazdelitev neznane količine pri danih novih podatkih. Zgodovinsko je bila izvira priorjev pogosto omejena na konjugirano družino dane verjetnostne funkcije, tako da bi vodila v sledljiv posterior iste družine. Široka razpoložljivost metod Monte Carlo markovske verige je sicer to težavo zmanjšala.
Obstaja veliko načinov za grajenje priorne porazdelitve.[1] V nekaterih primerih lahko prior določimo na podlagi preteklih podatkov, kot so predhodni poskusi. Prior je lahko izvlečen iz čisto subjektivne ocene izkušenega strokovnjaka.[2][3][4] Ko ni na razpolago nobenih podatkov, lahko posvojimo neinformativni prior, kot upravičuje načelo indiferentnosti.[5][6] V sodobni uporabi priorje pogosto izbiramo zaradi njihovih mehaničnih lastnosti, kot sta regularizacija in izbira lastnosti.[7][8][9]
Priorne porazdelitve modelskih parametrov so pogosto odvisne od njihovih lastnih parametrov. Negotovost glede teh hiperparametrov lahko po drugi starni izrazimo kot hiperpriorno verjetnostno porazdelitev. Če na primer uporabimo porazdelitev beta za modeliranje porazdelitve parametra p Bernoullijeve porazdelitve, potem je:
- p je parameter osnovnega sistema (Bernoullijeva porazdelitev), in
- α in β sta parametra priorne porazdelitve (beta porazdelitev); od tod hiperparametri.
Priorje lahko načeloma razstavimo na veliko pogojnih ravni porazdelitev, t.i. hierarhični priorji.[10]
Sklici
[uredi | uredi kodo]- ↑ Robert, Christian (1994). »From Prior Information to Prior Distributions«. The Bayesian Choice. New York: Springer. str. 89–136. ISBN 0-387-94296-3.
- ↑ Chaloner, Kathryn (1996). »Elicitation of Prior Distributions«. V Berry, Donald A.; Stangl, Dalene (ur.). Bayesian Biostatistics. New York: Marcel Dekker. str. 141–156. ISBN 0-8247-9334-X.
- ↑ Mikkola, Petrus; in sod. (2024). »Prior Knowledge Elicitation: The Past, Present, and Future«. Bayesian Analysis. 19 (4). doi:10.1214/23-BA1381. hdl:11336/183197. S2CID 244798734.
- ↑ Icazatti, Alejandro; Abril-Pla, Oriol; Klami, Arto; Martin, Osvaldo A. (september 2023). »PreliZ: A tool-box for prior elicitation«. Journal of Open Source Software. 8 (89): 5499. Bibcode:2023JOSS....8.5499I. doi:10.21105/joss.05499.
{{navedi časopis}}: Vzdrževanje CS1: samodejni prevod datuma (povezava) - ↑ Zellner, Arnold (1971). »Prior Distributions to Represent 'Knowing Little'«. An Introduction to Bayesian Inference in Econometrics. New York: John Wiley & Sons. str. 41–53. ISBN 0-471-98165-6.
- ↑ Price, Harold J.; Manson, Allison R. (2001). »Uninformative priors for Bayes' theorem«. AIP Conf. Proc. 617: 379–391. doi:10.1063/1.1477060.
- ↑ Piironen, Juho; Vehtari, Aki (2017). »Sparsity information and regularization in the horseshoe and other shrinkage priors«. Electronic Journal of Statistics. 11 (2): 5018–5051. arXiv:1707.01694. doi:10.1214/17-EJS1337SI.
- ↑ Simpson, Daniel; in sod. (2017). »Penalising Model Component Complexity: A Principled, Practical Approach to Constructing Priors«. Statistical Science. 32 (1): 1–28. arXiv:1403.4630. doi:10.1214/16-STS576. S2CID 88513041.
- ↑ Fortuin, Vincent (2022). »Priors in Bayesian Deep Learning: A Review«. International Statistical Review. 90 (3): 563–591. doi:10.1111/insr.12502. hdl:20.500.11850/547969. S2CID 234681651.
- ↑ Congdon, Peter D. (2020). »Regression Techniques using Hierarchical Priors«. Bayesian Hierarchical Models (2nd izd.). Boca Raton: CRC Press. str. 253–315. ISBN 978-1-03-217715-1.