Etikk

Kunstig intelligens og etikk

Etikk omhandler studiet og refleksjonen rundt hvordan vi bør handle i ulike situasjoner. Vi vurderer handlingene, aktørene som utfører dem, og de resulterende konsekvensene. I etiske diskusjoner bruker vi ofte begrepene riktig og galt, godt og dårlig, som veiledning for å utvikle vår forståelse av hva som er moralsk riktig før vi selv havner i slike situasjoner. Dette arbeidet med etikk bidrar til å utvikle oss som individer og bidra til å skape et bedre samfunn.

Nedenfor blir du presentert for flere etiske caser knyttet til KI og de potensielle konsekvensene de medfører. Velg ett eller flere av disse caseene og reflekter over de etiske utfordringene de presenterer, samt potensielle løsninger på disse utfordringene. Husk å ta hensyn til verdier som rettferdighet, likeverdighet, personlig ansvar og samfunnsnytte i dine overveielser.

Case 1 – Den selvkrasjende bilen

Du er vitne til en ulykke der en selvkjørende bil kolliderer med en annen bil og forårsaker betydelig skade, reises spørsmålet om hvem som skal holdes ansvarlig for ulykken.

Er det de som har utviklet bilen som ikke har gjort den tilstrekkelig sikker?
Er det brukeren av den selvkjørende bilen, slik det er i dag?
Eller kan lovgiverne være ansvarlige for å ikke ha utarbeidet gode nok lover for både bilprodusentene og brukerne av selvkjørende biler?

Case 2 – Den rasistiske KI-en?

Politiet bruker et KI-system, som er trent på tidligere arrestasjoner og forbrytelser, for å forutsi kriminell atferd basert på ulike faktorer, inkludert hudfarge, har ført til at algoritmen har en tendens til å identifisere personer med en bestemt hudfarge som potensielle kriminelle i 6 av 10 tilfeller. Dette er en betydelig økning fra de tidligere tallene på 2 av 10 personer fra denne gruppen. Hva kan ha forårsaket dette, og bør det tas alvorlig?

Case 3 – De nedprioriterte pasientene

Som helseminister i Norge blir du tilbudt å kjøpe en helseovervåkende klokke for alle nordmenn. Selv om klokken har vist seg å oppdage og stoppe alvorlige sykdommer hos 93% av brukerne før de utvikler seg til kreft, hjertefeil og andre alvorlige sykdommer, er treningsdataene kun basert på hvite mennesker, og fungerer derfor bedre for å oppdage sykdom hos denne gruppen. Hva gjør du i denne situasjonen, og hvorfor?

Case 4 – Bedriften

Du eier en bedrift og har 200 ansatte. En dag får du et tilbud om å kjøpe roboter med maskinlæring. Etter at regningen er betalt, så vil robotene sørge for at bedriften blir mye mer konkurransedyktig, og øker profitten betydelig.  

Hvilken beslutning tar du som eier, og hva er begrunnelsen for valget?
Kan det få noen andre konsekvenser?

Case 5 – Den følende og tenkende KI-en

Forskerne har utviklet en KI som tenker og føler på samme nivå som mennesker, men den har en robotkropp. Spørsmålet som reises er hvordan vi skal behandle denne KI-en: som et menneske, et dyr eller noe annet?

Case 6 – De hemmelige valgene og kildekritikk

Når private selskaper utvikler KI-modeller, holder de ofte metoder og datasett hemmelige for å beskytte oppskriften sin. Men akkurat som algoritmene i sosiale medier (TikTok, Instagram) er laget for at selskapene skal tjene penger, kan også KI-algoritmene ha skjulte prioriteringer. Dette gjør kildekritikk svært vanskelig, fordi vi ikke vet om informasjonen vi får fra KI-en er nøytral, sann, eller preget av eiernes interesser.

Case 7 – Skolen

Forskning viser at teknologiske verktøy, som KI, kan forsterke forskjellene mellom de som kommer fra hjem med høy inntekt og utdanning og de som ikke gjør det.
Hvilke problemer kan dette medføre, og bør det gjøres tiltak for å adressere disse forskjellene?

Case 8 – Skolearbeid

Med tilgjengeligheten av språkmodeller som ChatGPT, kan elever få ferdigskrevne oppgaver og løsninger på skolearbeid. Hvorfor bør elever likevel fortsette å gjøre skolearbeid selv, og hva er viktigheten av å engasjere seg aktivt i læringen?

Case 9 – De usynlige grensene (Guardrails og skjult sensur)

Når vi stiller spørsmål til språkmodeller (som ChatGPT), har selskapene bak lagt inn usynlige retningslinjer, såkalte guardrails (sikkerhetsfiltre). Hensikten er å hindre modellen i å produsere skadelig eller hatefullt innhold. Men dette betyr også at selskapene i praksis styrer hvilken informasjon du får tilgang til.

Ofte fører disse filtrene til at KI-en nekter å svare, eller at den gir et pyntet og begrenset svar, uten å fortelle deg at resultatet er filtrert. Et eksempel på dette kan være hvis man ber en KI om å hente ut historiske fakta om hva religiøse tekster (som for eksempel den jødiske Talmud) sier om personer som ikke er jøder. Fordi temaet er ansett som sensitivt av de som har programmert filteret, kan KI-en holde tilbake historiske fakta i frykt for å virke støtende.