Pojam korelacije i regresijske analize

Korelacija je odnos između različitih pojava predstavljen vrijednostima dviju ili više slučajnih varijabli. U ovom slučaju, korelacija znači da je na temelju poznavanja vrijednosti jedne varijable, s određenom vjerojatnošću, moguće predvidjeti vrijednost druge varijable, budući da se te vrijednosti pojavljuju u određenom odnosu. Stupanj u kojem su dvije vrijednosti konzistentne može se grafički prikazati dijagramom raspršenja ili pomoću koeficijenta korelacije. Važno je naglasiti da korelacija ukazuje isključivo na povezanost kretanja varijabli, ali ne dokazuje uzročno-posljedičnu vezu između promatranih pojava.

Regresijska analiza je proširenje korelacijske analize i jedna je od najčešće korištenih statističkih tehnika danas. Regresijska analiza je skup analitičkih tehnika koje se koriste za bolje razumijevanje međusobnih odnosa između promatranih pojava, izraženih u obliku prikupljenih podataka. Kao konačni rezultat, analiza daje regresijsku jednadžbu, ali svi rezultati dobiveni u procesu mogu pružiti vrijedne informacije o promatranim pojavama i njihovom okruženju.

U svojoj srži, regresijska analiza uključuje dvije ili više varijabli koje su nekako međusobno povezane. Jedna od varijabli je od posebnog interesa jer je svrha analize objasniti promjene u njoj kroz promjene koje se istovremeno događaju u drugim varijablama u modelu. Ova varijabla naziva se ovisna ili kriterijska varijabla i označava se s Y. Ostale varijable služe za objašnjenje ili predviđanje vrijednosti ovisne varijable. Ove varijable nazivaju se neovisne ili prediktorske varijable i označavaju se s X. Model obično koristi više neovisnih varijabli, pa se označavaju s X1, X2, ... Xn, gdje n označava ukupan broj neovisnih varijabli u regresijskom modelu. Prediktorske varijable nazivaju se i neovisne, kovarijable, regresori, faktori ili nositelji. Iako se najčešće koristi, naziv neovisna varijabla najmanje predstavlja stvarnost, jer su te varijable rijetko neovisne jedna o drugoj.

Odnos između ovisne i neovisnih varijabli izražava se u obliku jedne ili više jednadžbi, koje se zajednički nazivaju regresijski model. Stvarni odnos između ovisne i neovisnih varijabli može se aproksimirati sljedećim regresijskim modelom:

Y = f(X1, X2, ..., Xn) + ε,

gdje je ε slučajna pogreška koja predstavlja razliku između aproksimacije i stvarne vrijednosti ovisne varijable Y, a funkcija f opisuje odnos između ovisne i neovisnih varijabli.

Vrste regresijskih modela

Regresijski modeli mogu se podijeliti prema nekoliko kriterija. U nastavku navodimo neke od podjela.

Prema broju neovisnih varijabli u regresijskom modelu, postoji

  • jednostavna regresija, gdje postoji jedna ovisna i jedna neovisna varijabla i

  • višestruka regresija, gdje postoji jedna ovisna, ali više neovisnih varijabli.

Prema vrsti ovisne varijable, regresijski modeli mogu se podijeliti na:

  • modele s kontinuiranom ovisnom varijablom,

  • modele s kategoričkom ovisnom varijablom koja nije dihotomna, već uzima više od dvije vrijednosti (kategorije) i

  • modele s dihotomnom ovisnom varijablom koji predstavljaju poseban slučaj modela s kategoričkom ovisnom varijablom, jer ovisna varijabla može poprimiti samo dvije vrijednosti.

Prema vrsti odnosa između ovisne i neovisnih varijabli, regresija može biti:

  • linearna regresija, koju karakterizira to što je model linearan po svojim parametrima (koeficijentima), što se najčešće izražava kao ponderirani zbroj prediktora, i

  • nelinearna regresija, koja može biti:

    • kvadratna regresija,

    • polinomna regresija,

    • eksponencijalna regresija, itd.

Prema broju ovisnih varijabli, regresijski model može biti

  • univarijatni regresijski model, tj. model s jednom ovisnom varijablom i

  • multivarijatni regresijski model u kojem se pojavljuje više ovisnih varijabli, zbog čega se sastoji od više regresijskih jednadžbi.

Područja primjene regresijske analize

Osim što omogućuje procjenu stupnja povezanosti pojava, regresijska analiza daje i vjerojatnost pojave izračunate povezanosti. Koristi se za testiranje hipoteza u studijama i eksperimentima, ali i za predviđanje budućeg kretanja promatrane pojave.

Koncept regresije lako je razumjeti i implementiran je u gotovo svakom statističkom paketu, a omogućuje ispitivanje funkcionalne ovisnosti između varijabli te kao takav leži u osnovi mnogih modernih statističkih tehnika. Stoga se primjena korelacijske i regresijske analize danas može naći u gotovo svim akademskim područjima ili primijenjenoj znanosti. Evo samo nekoliko primjera za ilustraciju:

  • Ekonomija - predviđanje potrošnje, predviđanje kretanja cijena dionica itd.,

  • Psihologija - utjecaj inteligencije na postignuća pojedinca, utjecaj odgoja i kulturnih vrijednosti pojedinca na njegov osjećaj sreće itd.,

  • Poljoprivreda - kako predvidjeti količinu proizvedenog mlijeka na temelju skupa drugih podataka,

  • Povijest - kako procijeniti starost objekta na temelju drugih poznatih karakteristika objekta,

  • Politika - predviđanje demografskih kretanja na temelju poznavanja spola, vremenskih uvjeta i stope nezaposlenosti u regiji,

  • Okoliš - veza između kvalitete vode i korištenja zemljišta, tj. dovodi li povećano korištenje zemljišta do onečišćenja vodotoka itd.