Ansiktsigenkänning — vad är okej?

Ansiktsigenkänning används till väldigt olika saker, och skillnaden spelar stor roll.

Två helt olika frågor:

	Verifiering	Identifiering
Frågan	«är det här samma person som i bilden?»	«vem är den här personen?»
Jämför mot	en bild	ett register med många
Exempel	låsa upp din mobil	hitta någon i en folkmassa
Du vet om det	ja, du valde det	oftast nej
Risk	låg	hög

Att låsa upp sin egen telefon med ansiktet är ett eget val, mot en bild man själv registrerat, som ligger kvar på telefonen.

Att bli igenkänd av kameror på stan är något helt annat: du har inte valt det, du vet inte om det, och du kan inte välja bort det.

Frågan är inte «är tekniken bra?» utan «vem har valt, och vad händer om den har fel?»

Tre saker som avgör om det är okej:

Fråga	Varför den spelar roll
Har personen valt det frivilligt?	samtycke under press är inget samtycke
Vad händer om systemet har fel?	en felaktig upplåsning är en sak, en felaktig anklagelse en annan
Vem har makten?	en elev kan inte säga nej till skolan på samma sätt som till en app

Den tredje är den avgörande i skolsammanhang. Sverige har ett konkret fall: en gymnasieskola i Skellefteå testade ansiktsigenkänning för närvarokontroll 2019. Skolan hade samlat in samtycken från vårdnadshavarna. IMY utfärdade ändå en sanktionsavgift — bland annat för att samtycke inte kan vara frivilligt när det är skolan som frågar, och för att närvaro kan kontrolleras på betydligt mindre ingripande sätt.

Två principer från det fallet:

1. Samtycke kräver jämlik maktbalans. Kan man inte säga nej utan konsekvenser är det inget samtycke.
2. Proportionalitet. Finns ett mindre ingripande sätt att nå samma mål ska det användas.

Att systemet har fel olika ofta för olika grupper gör det värre. Forskning har visat betydligt högre felfrekvens för mörkhyade kvinnor än för ljushyade män i flera kommersiella system — vilket betyder att den som redan har det svårast också drabbas mest av felen.

EU:s AI-förordning räknar biometrisk identifiering på distans i offentliga rum som förbjudet eller hårt begränsat, och känsloigenkänning i skolan som förbjudet.

Frågor att ställa när någon föreslår ansiktsigenkänning:

#	Fråga
1	Vilket problem löser det?
2	Finns ett mindre ingripande sätt?
3	Kan de berörda säga nej utan konsekvenser?
4	Vad händer när det blir fel?
5	Fungerar det lika bra för alla?
6	Vem har tillgång till bilderna, och hur länge?

Diskutera sex fall i grupp. Bedöm varje som okej, tveksamt eller inte okej — och motivera.

#	Fall
1	Du låser upp din egen telefon med ansiktet
2	Skolan använder ansiktsigenkänning för närvaro
3	En butik känner igen personer som tidigare snattat
4	Polisen söker en efterlyst person i kameror på en station
5	En app sorterar dina egna semesterbilder efter vem som är med
6	Ett företag känner igen kunder för att ge personlig service

Saker att väga in i varje fall: Vem har valt? Vad händer vid fel? Finns ett mindre ingripande alternativ? Vem har makten?

Kommentarer efter diskussionen:

1. Okej — eget val, egen enhet, verifiering mot en egen bild.
2. Inte okej enligt IMY:s beslut — samtycke är inte frivilligt i skolan, och närvaro kan kontrolleras enklare.
3. Mycket tveksamt — identifiering utan samtycke, med allvarliga konsekvenser vid fel, och risk för att fel personer pekas ut.
4. Hårt reglerat — kan vara tillåtet i vissa allvarliga fall med rättslig grund, men är kraftigt begränsat i EU:s AI-förordning.
5. Oftast okej — dina egna bilder, på din enhet, du valde det. Men: de andra på bilderna har inte valt.
6. Tveksamt — kunden har sällan valt, och nyttan är liten jämfört med ingreppet.

Fall 5 är det som brukar överraska. Även när du använder dina egna bilder finns andra människor på dem, och de har inte gett sitt samtycke till att bli ansiktsigenkända.

Avsluta med frågan: var går er egen gräns, och vad skulle behöva vara sant för att ni skulle flytta den?