Tähän asti olemme tarkastelleet esimerkkejä, joissa havaintoyksikköön liitty yksi havaintoarvo. Usein kuitenkin havaintoyksikköön liitty useita havaintoarvoja. Esimerkiksi lapsiperhe-esimerkissä jokaiselta lapsiperheeltä voisi lasten lukumäärän lisäksi olla tiedot vaikkapa asuinpaikkakunnasta ja perheen tulotasosta. Kaikki edellä esitetyt tarkastelut toimivat yksittäisille havaintoarvoille. Seuraavaksi tarkastelemme, miten kahta eri havaintoarvoa voi vertailla keskenään.

Kun halutaan vertailla kahta eri havaintoarvoa, niin usein on hyödyllistä piirtää tilanteesta kuva. Kutakin havaintoyksikköä kohden saamme yhden parin havaintoarvoja. Tässä parissa ensimmäinen havaintoarvo tulkitaan $x$-akselin arvoksi ja toinen $y$-akselin arvoksi. Kuvassa~\ref{fig:erilaisia_korrelaatioita} on havainnollistettu kolmea erilaista tapausta. Kuvasta huomataan, että vasemmanpuoleisten pisteiden kautta voidaan lähes piirtää suora. Vastaavasti keskimmäisessä kuvassa pisteiden kautta voidaan lähes piirtää eksponentiaalinen käyrä ja oikealla paraabeli. Jos kahden havaintoarvon muodostamat pisteet noudattavat jotain käyrää, niin puhutaan havaintoarvojen korrelaatiosta. Tällä kurssilla tarkastelemme ainoastaan lineaarista korrelaatiota (eli Pearsonin korrelaatiota).

Alla olevassa taulukossa on esitetty syntyneiden lasten lukumäärä ja kuluttajahintaindeksi (KHI) Suomessa vuosina 2010--2019. Tiedot ovat Tilastokeskuksen sivuilta 1ja 2 (luettu 4.1.2020). Vuosi on havaintoyksikkö ja siihen liittyy kaksi havaintoarvoa. Kuluttajahintaindeksi on valittu $x$-akselille ja skaalattu jakamalla luku 10:llä, syntyneiden lasten lukumäärä on $y$-akselilla ja se on skaalattu jakamalla lukumäärä 10000:lla. Huomaa, että havaintoarvot olisi voitu valita akseleille myös toisin päin. Saamme pisteet (10,0; 6,0980), (10,34; 5,9961), ..., (11,12; 4,7577), (11,23; 4,5613), jotka on piirretty kuvaan:

Seuraavaksi yritämme sovittaa havaintopareihin suoran, joka parhaalla mahdollisella tavalla kuvaa muuttujien $x$ ja $y$ välistä yhteyttä. Olkoon suoran yhtälö $y= bx +a$. Pyrimme määrittämään vakiot $a$ ja $b$ siten, että havaintopisteiden $y$-suunnassa laskettujen pystysuorien poikkeamien summa on mahdollisimman pieni. Pisteessä $(x_i, y_i)$ $y$-suuntaan laskettu pystysuora poikkeama suorasta $y= bx +a$ on $|y_i- bx_i -a|$ ja tämän neliö on $(y_i - bx_i -a)^2$. Laskemme nämä kaikki pystysuorien poikkemien neliöt yhteen ja saamme $$ \sum_{i=1}^n (y_i - bx_i -a)^2. $$ Haluamme löytää sellaiset kertoimet $a$ ja $b$, että tämä summa on mahdollisimman pieni.

Voidaan todistaa, että $y$-suuntaisten etäisyyksien summa saa pienimmän arvonsa, kun valitaan $$ \begin{equation} b=\frac{n\sum\limits_{i=1}^n x_iy_i -\sum\limits_{i=1}^n x_i \sum\limits_{i=1}^n y_i}{n\sum\limits_{i=1}^n x_i^2 -\bigg(\sum\limits_{i=1}^n x_i\bigg)^2}\quad \text{ja}\quad a=\frac{\sum\limits_{i=1}^n y_i-b\sum\limits_{i=1}^n x_i}{n}. \end{equation} $$ Ohitamme tämän todistuksen. Kyseistä metodia kutsutaan pienimmän neliösumman menetelmäksi.

Regressiosuoran kerroin $b$ voi olla nolla, positiivinen tai negatiivinen. Jos $b$ on positiivinen, niin silloin suora on kasvava. Tällöin muuttujan $x$ kasvaessa myös muuttuja $y$ kasvaa, ja toisinpäin. Sanomme tällöin, että muuttujilla on positiivinen korrelaatio. Jos $b$ on negatiivinen, niin silloin suora on vähenevä. Tällöin muuttujan $x$ kasvaessa muuttuja $y$ vähenee ja muuttujan $y$ kasvaessa muuuttuja $x$ vähenee. Sanomme tällöin, että muuttujilla on negatiivinen korrelaatio.

Korrelaation voimakkuutta mitataan korrelaatiokertoimella.

Korrelaatiokerroin on määritelty, jos jokin havaintoarvoista $x_i$ eroaa keskiarvosta $\bar x$ ja jokin havaintoarvoista $y_i$ eroaa keskiarvosta $\bar y$. Huomaa, että $\bar x = \frac1n \sum_{i=1}^n x_i$ ja $\bar y = \frac1n \sum_{i=1}^n y_i$. Käytännössä regressiosuora ja korrelaatiokerroin lasketaan aina ohjelmistolla. Korrelaatiokertoimelle saadaan seuraavat rajat: $$ -1\leqslant r \leqslant 1. $$ Tulos ei ole todistettavissa lukiotiedoin.

Lisätieto: Korrelaatiokerroin voidaan esittää myös muodossa $$ r=\frac{n\sum\limits_{i=1}^n x_iy_i -\sum\limits_{i=1}^n x_i \sum\limits_{i=1}^n y_i}{\sqrt{\left(n\sum\limits_{i=1}^n x_i^2 -\bigg(\sum\limits_{i=1}^n x_i\bigg)^2\right) \left(n\sum\limits_{i=1}^n y_i^2 -\bigg(\sum\limits_{i=1}^n y_i\bigg)^2\right)}}. $$ Korrelaatiokertoimen neliötä $r^2$ sanotaan selitysasteeksi.

Korrelaatiokertoimen $r$ merkki on sama kuin regressiosuoran $y= bx +a$ kulmakertoimen $b$ merkki. Näin ollen korrelaatiokertoimen merkki kertoo, onko kyseessä positiivinen vai negatiivinen korrelaatio.

Korrelaatiokerroin $r$ kuvaa muuttujien $x$ ja $y$ lineaarisen riippuvuuden voimakkuutta. On syytä huomata, että tämä riippuvuus on tilastollista riippuvuutta. Mitään syy-yhteyttä muuttujien välillä ei välttämättä ole. Mitä lähempänä korrelaatiokertoimen itseisarvo $|r|$ on lukua $1$, sitä voimakkaampaa muuttujien $x$ ja $y$ riippuvuus on.

Lisätieto: Jos $|r|=1$, niin kaikki havaintoarvopisteet ovat samalla suoralla.