Bias og kvantitativ analyse innen velferd<subtitle>opphav til skjevheter og relasjon til utfallsrettferdighet</subtitle>

Abstract

Ifølge Norges nasjonale strategi for kunstig intelligens er offentlig forvaltning og helse blant Norges satsingsområder for bruk av kunstig intelligens. Maskinlæring er en undergruppe av kunstig intelligens med potensial for å løse en rekke utfordringer, men som også gir opphav til utfordringer. En slik utfordring er bias – eller skjevhet. Et eksempel på skjevhet er at tilstedeværende ulikheter i samfunnet representeres i datagrunnlaget maskinlæringsmodeller utvikles på. De resulterende modellene står dermed i fare for å adoptere og videreføre disse ulikhetene. En utfordring er at skjevhet har ulike definisjoner innen ulike fagområder, og kan ha mange ulike opphav. Vi bidrar til å løse denne utfordringen ved å gi en oversikt over ulike typer skjevhet og deres opphav med illustrasjoner fra et velferdsperspektiv, og vi avklarer forskjellen til det nærliggende konseptet rettferdighet. Vi demonstrerer utfordringer relatert til databaserte modellers oppførsel ved å benytte maskinlæring til å predikere fremtidig ressursbehov i helsevesenet, spesifikt antall legebesøk i kommuner. Vi demonstrerer ulike typer skjevheter, diskuterer mulige løsninger og bruker metoder fra forklarbar kunstig intelligens for å analysere opphavet til skjevheter i forklaringsvariablene. Det finnes ingen universell løsning for å håndtere alle typer skjevheter, men skjevhet må tas høyde for i alle deler av en kvantitativ analyse.

Keywords

• XGBoost
• forklarbar kunstig intelligens
• velferdsforskning
• maskinlæring
• skjevhetsbegreper
• XGBoost