Snubler Norge inn i en algoritmisk velferdsdystopi?

Abstract

FNs spesialrapportør for ekstrem fattigdom og menneskerettigheter har uttalt at verden står overfor «a grave risk of stumbling, zombie-like, into a digital welfare dystopia». Bekymringen er knyttet til bruken av kunstig intelligens (KI) kombinert med store mengder data som forvaltningen besitter. Dette gir grunnlag for bruk av prediktive modeller for å lage antagelser om atferd eller karakteristikker for enkeltpersoner, noe som reiser spørsmål om diskriminering, forskjellsbehandling og fremmedgjøring. I denne artikkelen spør vi om det er tegn til at norsk forvaltning kan være på vei til å snuble inn i en slik dystopi. Vi har undersøkt relevante strategidokumenter og hvordan bruk av prediktive modeller i Skatteetaten og NAV er beskrevet og diskutert i offentlige dokumenter. Vi konkluderer ikke med at vi er nær en dystopisk digital velferdsstat, eller at den er uunngåelig, men at det er nødvendig med en langt større bevissthet, offentlig diskusjon og tydelig retning for å unngå potensielt negative virkninger av KI.

Keywords

• AI
• digitalisering
• kunstig intelligens
• prediktive modeller
• velferdsstaten
• AI