Avainsana-arkisto: Otantavirhe

Kyselytutkimuksen luotettavuus

Päivitetty 31.3.2019.

…virheet vältetään luotettavalla mittaamisella, oikeilla menetelmävalinnoilla ja onnistuneella otannalla.

Kyselytutkimuksen tavoitteena on hankkia tutkimuksen tarkoitukseen sopivaa tietoa, joka on todenmukaista ja virheetöntä. Tutkimuksen toteutuksessa virheiden osuus pyritään minimoimaan. Tätä varten keskeiset virhelähteet täytyy tunnistaa. Tutkimusraportissa virhelähteet ja niiden mahdollinen vaikutus tutkimustuloksiin täytyy raportoida kattavasti ja rehellisesti, jotta raportin lukijakin pystyy arvioimaan virheiden vaikutuksen tutkimuksen luotettavuuteen.

Keskeiset virhelähteet ovat selkeästi tunnistettavissa, jos kuvaan kyselytutkimusta seuraavan kuvion mukaisella mallilla (mallin idean olen ottanut kirjasta Groves, Fowler, Couper, Lepkowski, Singer & Tourangeau. Survey Methodology. Second Edition).

Kuvion mukaisesti virheet vältetään luotettavalla mittaamisella, oikeilla menetelmävalinnoilla ja onnistuneella otannalla.

Luotettava mittaaminen

Kyselytutkimuksen tuloksia ei tarkastella yksittäisen vastaajan osalta. On kuitenkin tärkeää, että mittaaminen on suoritettu siten että vastausten perusteella vastaaja pystyttäisiin kuvailemaan todenmukaisesti tutkimuksen kannalta olennaisten ominaisuuksien osalta. Muutoinhan kaikkien vastaajien vastauksista tilastollisesti muodostettu yhteenveto ei anna todenmukaista kuvaa otoksesta. Mittaamisen luotettavuutta heikentäviä tekijöitä ovat ainakin seuraavat:

Heikko validiteetti

Jos kyselylomakkeen kysymykset eivät mittaa sitä mitä niiden on tarkoitus mitata niin seurauksena on heikko validiteetti.

Heikko reliabiliteetti

Vastauksissa esiintyvät satunnaiset virheet heikentävät mittaamisen reliabiliteettia. Esimerkiksi

  • Eri vastaajat ymmärtävät kysymykset eri tavoilla.
  • Kaikki vastaajat eivät vastaa rehellisesti.
  • Kaikki vastaajat eivät muista vastausta oikein. Tämä on ongelma erityisesti mennyttä käytöstä koskevissa kysymyksissä.
  • Vastaukset vaihtelelevat satunnaisten tekijöiden johdosta (vastaajan mielentila, vuorokaudenaika, haastattelijan käytös jne.).
  • Vastaus kirjataan vahingossa väärin.

Jos mittaamisen reliabiliteetti on heikko, niin siitä seuraa myös heikko validiteetti. Eihän virheellisillä vastauksilla voida mitata luotettavasti sitä mitä on tarkoitus mitata. Päinvastainen ei välttämättä pidä paikkansa. Mittaamisen validiteetti voi olla heikko, mutta silti vastaukset voivat olla virheettömiä ja totuuden mukaisia esitettyihin kysymyksiin nähden.

Lisätietoa ja esimerkkejä mittaamisen validiteetista ja reliabiliteetista artikkelissani Mittaamisen luotettavuus.

Oikeat menetelmävalinnat

Yksittäisten vastaajien vastauksista muodostetaan otosta kuvaileva yhteenveto käyttäen taulukoita, tilastollisia tunnuslukuja ja kuvioita. Virheelliset menetelmävalinnat tai laskuvirheet heikentävät luotettavuutta. Tilastollisten menetelmien opiskelulla ja huolellisella työskentelyllä tämän vaiheen virheet voidaan välttää. Jos olet epävarma menetelmävalinnoista, niin kysy asiantuntijalta.

Onnistunut otanta

Otoksen perusteella muodostetaan kuva koko perusjoukosta. Jos otos ei vastaa ominaisuuksiltaan perusjoukkoa, niin otoksen perusteella tehdään virheellisiä päätelmiä perusjoukosta. Tässä yhteydessä käytetään usein nimitystä ulkoinen validiteetti. Jos otoksen tulokset ovat heikosti yleistettävissä perusjoukkoon, niin ulkoinen validiteetti on heikko. Otoksen onnistumista uhkaavat ainakin seuraavat tekijät:

  • Peittovirhe: Otos valitaan usein todellisen perusjoukon sijasta niin kutsutusta otantakehikosta. Otantakehikko ei sisällä välttämättä koko perusjoukkoa ja toisaalta otantakehikkoon saattaa kuulua perusjoukkoon kuulumattomia. Otantakehikosta seuraavaa virhettä kutsutaan peittovirheeksi. Tästä asiasta lisää artikkelissani Otantamenetelmä.
  • Otantamenetelmä: Jos otantamenetelmä on jokin muu kuin arvonta tai systemaattinen otanta, niin seurauksena voi olla vino otos, joka ei vastaa perusjoukkoa. Tästä asiasta lisää artikkelissani Otantamenetelmä.
  • Otantavirhe: Vaikka otanta valitaan arpomalla tai systemaattisella otannalla, niin otoksen kokoonpano vaihtelee otoksesta toiseen. Tätä vahtelua kutsutaan otantavirheeksi. Otantavirhe on sitä pienempi mitä suurempaa otosta käytän. Tästä asiasta lisää artikkelissani Otoskoko. Tilastollisen päättelyn menetelmät (virhemarginaalin laskeminen, hypoteesin testaus) liittyvät otantavirheen huomioimiseen tulosten esittämisessä.
  • Kato: Vastaamatta jättäneet voivat olla erilaisia kuin vastanneet. Tällöin kadosta seuraa virhettä tuloksiin. Kyselytutkimusten vastausprosentit ovat usein valitettavan alhaisia, joten kato voi aiheuttaa merkittävän virheen tuloksiin. Tästä asiasta lisää artikkelissani Kato.

Edellä mainituista peittovirhe ja kato ovat uhkana myös kokonaistutkimuksessa, jossa tieto pyritään keräämään koko perusjoukolta.

Kannattaa huomata, että tutkimustulokset voivat olla käyttökelpoisia vaikka otanta ei olisikaan kovin onnistunut:

Esimerkki: Oleta, että asiakaskyselyssä iso joukko asiakkaita pitää myymälän siisteyttä tärkeänä, mutta arvioi myymälän epäsiistiksi. Riippumatta otannan onnistuneisuudesta nämä ovat todellisia vastaajia ja todellisia mielipiteitä, joiden pohjalta kannattaa ryhtyä toimenpiteisiin siisteyden parantamiseksi.

P-arvo

Päivitetty 25.10.2013.

Tilastollisen testauksen logiikka vastaa monin tavoin oikeudenkäynnin logiikkaa. Oikeudenkäynnissä oletetaan, että henkilö on syytön kunnes toisin osoitetaan. Tilastollisessa testauksessa oletetaan nollahypoteesin pitävän paikkansa kunnes toisin osoitetaan. Nollahypoteesi on usein muotoa ’ei eroa’ tai  ’ei riippuvuutta’. Esimerkiksi

  • Miehet ja naiset ovat yhtä tyytyväisiä työympäristöön.
  • Tehtyjen harjoitustehtävien määrän ja tenttimenestyksen välillä ei ole riippuvuutta.
  • Miesten reaktioaika ei muutu alkoholin nauttimisen seurauksena.

Tilastollisessa testauksessa oletetaan nollahypoteesin pitävän paikkansa kunnes toisin osoitetaan.

Todistustaakka on syyttäjällä, tilastollisessa testauksessa tutkijalla. Syyttäjä kerää oikeudenkäyntiä varten todisteita syyllisyyden puolesta. Tilastollisessa testauksessa tutkija kerää otoksen kiinnostuksen kohteena olevasta perusjoukosta.

Tutkija vertaa otoksen tulosta nollahypoteesiin. Pelkästään otantavirheen takia otoksen tulos poikkeaa enemmän tai vähemmän nollahypoteesista. Isoja poikkeamia ei kuitenkaan voida selittää pelkästään otantavirheellä.  Vastaavalla tavalla syyttäjä voi esittää niin vahvoja todisteita syyllisyyden puolesta, että niitä ei voida selittää pelkästään sattumalla. Jos syytetty on tavattu ryöstön jälkeen ryöstöpaikan läheisyydestä kädessään ryöstösaalista ja toisessa kädessä ase, niin harva uskoo tämän kaiken aiheutuneen sattumalta, ilman että syytetty olisi osallinen ryöstöön.

Pelkästään otantavirheen takia otoksen tulos poikkeaa enemmän tai vähemmän nollahypoteesista. Isoja poikkeamia ei kuitenkaan voida selittää pelkästään otantavirheellä.

Tilastollisen testauksen keskeinen kysymys on: kuinka iso poikkeama nollahypoteesista on liian iso selitettäväksi pelkällä otantavirheellä? Asian selventämiseksi tutkija laskee kuinka yllättävänä otoksessa havaittua voidaan pitää, jos oletetaan nollahypoteesin pitävän paikkansa. Tätä kutsutaan p-arvoksi.

Mitä pienempi p-arvo sitä enemmän vaihtoehtoinen hypoteesi saa tukea ja sitä enemmän todisteet puhuvat nollahypoteesia vastaan.

Jos esimerkiksi tutkija saa p-arvoksi 0,001 eli 0,1 %, niin otoksen tulos on yllättävä. P-arvoa 0,001 on tulkittava seuraavasti: Jos nollahypoteesin oletetaan pitävän paikkansa, niin otoksen kaltainen tai vielä enemmän nollahypoteesista poikkeava tulos sattuu kohdalle yhdessä otoksessa tuhannesta. Kyseessä on siis melko yllättävä tulos. Tämä jos mikä on riittävä todiste nollahypoteesia vastaan. Tuloshan ei nimittäin olekaan enää yllättävä, jos nollahypoteesi ei pidäkään paikkansa. Seuraavassa kolme näkökulmaa p-arvon ymmärtämiseksi:

  • P-arvo on todennäköisyys sille, että otoksen tulos poikkeaa havaitun verran tai vieläkin enemmän nollahypoteesista (kun oletetaan, että nollahypoteesi pitää paikkansa).
  • P-arvo on todennäköisyys sille, että havaittu poikkeama nollahypoteesista voidaan selittää pelkästään otantavirheellä.
  • Jos nollahypoteesi päätetään hylätä, niin p-arvo ilmoittaa päätökseen liittyvän erehtymisriskin.

Mitä pienempi p-arvo sitä enemmän vaihtoehtoinen hypoteesi saa tukea ja sitä enemmän todisteet puhuvat nollahypoteesia vastaan. Kuinka pieni p-arvon sitten täytyy olla, jotta nollahypoteesi voidaan hylätä? Yleisimmin käytetty raja on 0,05 eli 5 %. Tämä on kuitenkin täysin mielivaltainen raja ja tapauskohtaista harkintaa on syytä käyttää. Kovin korkealle rajaa ei kuitenkaan voi nostaa. Tämän ymmärtää hyvin vertaamalla tilannetta oikeudenkäyntiin. Tuskin henkilöä päätetään tuomita, jos päätökseen liittyvä erehtymisriski on esimerkiksi 30 %. Oikeudenkäynnissä tilanne on käytännössä hankalampi, koska p-arvon kaltaista todennäköisyyttä ei yleensä ole laskettavissa.

On tärkeää huomata, että tilastollisessa testauksessa ei koskaan osoiteta nollahypoteesia oikeaksi. Todisteet joko riittävät nollahypoteesin hylkäämiseen tai eivät riitä. Vaikka todisteet eivät riitäkään nollahypoteesin hylkäämiseen, niin käytössä ei ole todisteita, jotka osoittaisivat nollahypoteesin oikeaksi. Vähän vastaavalla tavalla voidaan ajatella oikeudenkäynnistäkin. Vaikka todisteet eivät olekaan riittävät syyllisyyden osoittamiseksi, niin eivät ne toisaalta vastaansanomattomasti todista syytetyn syyttömyyttäkään.

On tärkeää huomata, että tilastollisessa testauksessa ei koskaan osoiteta nollahypoteesia oikeaksi.

P-arvoon viittaan artikkeleissani: