Multikolinearnost

V statistiki je multikolinearnost ali kolinearnost situacija, kjer so neodvisne spremenljivke v regresijskem modelu linearno odvisne.

Popolna multikolinearnost se nanaša na situacijo, ko imajo neodvisne spremenljivke točno linearni odnos. Ko obstaja popolna kolinearnost, dizajnska matrika $X$ ima manj kot polni rang in tako momentna matrika $X^{\mathsf {T}}X$ ne more biti inverzna. V tej situaciji ocene parametrov niso dobro opredeljene, saj ima sistem enačb neskončno mnogo rešitev.

Nepopolna multikolinearnost se nanaša na situacijo, kjer imajo neodvisne spremenljivke skoraj natančno linearni odnos.

V nasprotju z razširjenim prepričanjem se ni niti Gauss-Markov teorem, niti bolj razširjen razlog največje verjetnosti za navadne najmanjše kvadrate ne zanaša na kakršnokoli korelacijsko strukturo med odvisnimi spremenljivkami (čeprav lahko popolna kolinearnost povzroči težave z določeno programsko opremo).

Za prakso odstranjevanja kolinearnih spremenljivk v sklopu regresijske analize ni utemeljitve, in to početje lahko povzroči znanstveno neprimerno vedenje. Vključevanje kolinearnih spremenljivk ne zmanjša pojasnjevalne moči ali zanesljivosti modela kot celote, in ne zmanjša natančnosti ocen koeficientov.

Visoka kolinearnost kaže, da je izjemno pomembno vključiti vse kolinearne spremenljivke, saj bi izključevanje katerekoli kolinearne spremenljivke povzorčilo slabše ocene koeficientov, močno zavajanje in navzdol pristranske ocene standardnih napak.

Da bi naslovili visoko kolinearnost zbirke podatkov, lahko uporabimo faktor inflacije variance za identificiranje kolinarnosti neodvisnih spremenljivk.

Popolna multikolinearnost

Popolna multikolinearnost se nanaša na situacijo, v kateri so prediktorji linearno odvisni (jih lahko zapišemo kot točno linarno funkcijo drugih). Navadni najmanjši kvadrati zahtevajo obračanje matrike $X^{\mathsf {T}}X$, kjer je

$X={\begin{bmatrix}1&X_{11}&\cdots &X_{k1}\\\vdots &\vdots &&\vdots \\1&X_{1N}&\cdots &X_{kN}\end{bmatrix}}$

$N\times (k+1)$ matrika, kjer je $N$ število opazovanj, $k$ število pojasnjevalnih spremenljivk in $N\geq k+1$.

Nadaljnje branje

• Belsley, David A.; Kuh, Edwin; Welsch, Roy E. (1980). Regression Diagnostics: Identifying Influential Data and Sources of Collinearity. New York: Wiley. ISBN 978-0-471-05856-4.
• Goldberger, Arthur S. (1991). »Multicollinearity«. A Course in Econometrics. Cambridge: Harvard University Press. str. 245–53. ISBN 9780674175440.
• Hill, R. Carter; Adkins, Lee C. (2001). »Collinearity«. V Baltagi, Badi H. (ur.). A Companion to Theoretical Econometrics. Blackwell. str. 256–278. doi:10.1002/9780470996249.ch13. ISBN 978-0-631-21254-6.
• Johnston, John (1972). Econometric Methods (Second izd.). New York: McGraw-Hill. str. 159–168. ISBN 9780070326798.
• Kalnins, Arturs (2022). »When does multicollinearity bias coefficients and cause type 1 errors? A reconciliation of Lindner, Puck, and Verbeke (2020) with Kalnins (2018)«. Journal of International Business Studies. 53 (7): 1536–1548. doi:10.1057/s41267-022-00531-9. S2CID 249323519.
• Kmenta, Jan (1986). Elements of Econometrics (Second izd.). New York: Macmillan. str. 430–442. ISBN 978-0-02-365070-3.
• Maddala, G. S.; Lahiri, Kajal (2009). Introduction to Econometrics (Fourth izd.). Chichester: Wiley. str. 279–312. ISBN 978-0-470-01512-4.
• Tomaschek, Fabian; Hendrix, Peter; Baayen, R. Harald (2018). »Strategies for addressing collinearity in multivariate linguistic data«. Journal of Phonetics. 71: 249–267. doi:10.1016/j.wocn.2018.09.004.

Zunanje povezave

• Thoma, Mark (2. marec 2011). »Econometrics Lecture (topic: multicollinearity)«. University of Oregon. Arhivirano iz spletišča dne 12. decembra 2021 – prek YouTube.
• Earliest Uses: The entry on Multicollinearity has some historical information.