När modellen har fel — och vem det drabbar
Kunna ge exempel på fel som spelar roll (sjukvård, skola) och fel som inte gör det.
Förkunskaper
Vardagsförklaring
En AI som föreslår fel låt i din spellista — ingen fara. En AI som säger att ett födelsemärke är ofarligt när det inte är det — stor fara.
Samma sorts fel, olika konsekvens. Därför måste man fråga: vem drabbas om modellen har fel, och hur illa?
Därför får AI i sjukvård, skola och polis inte bestämma ensam. En människa måste kunna titta, förstå och säga nej.
Intuition
Två sorters fel:
- Modellen säger «sjuk» fast personen är frisk → onödig oro och prov.
- Modellen säger «frisk» fast personen är sjuk → missad behandling. Värre.
När modellen är osäker (t.ex. 55 % / 45 %) borde den säga det — «jag vet inte, fråga en läkare» — i stället för att gissa. En bra AI-tjänst är byggd så att osäkra fall går till en människa.
Fundera: i vilka situationer vill du att en AI inte bestämmer själv?
Behärskning innebär
- Ger exempel på fel som spelar stor roll och fel som inte gör det
- Föreslår vad som borde hända när modellen är osäker
Logga in för att göra övningarna och bygga upp din behärskning.
Källor
- Skolverket — Om AI i skolan — Skolverkets öppna villkor
- Wikipedia — Algoritmisk partiskhet (CC BY-SA 4.0) — CC BY-SA 4.0