GDPR och AI

GDPR gäller all behandling av personuppgifter — inklusive träningsdata, prompter, loggar och modellutdata.

Sex principer som allt annat följer av (artikel 5):

Princip	Betyder i ett AI-system
Laglighet, korrekthet, öppenhet	det finns en rättslig grund och den är kommunicerad
Ändamålsbegränsning	data insamlad för support får inte utan vidare användas för träning
Uppgiftsminimering	samla bara det som behövs — inte «det kan bli användbart»
Korrekthet	felaktiga uppgifter ska kunna rättas
Lagringsminimering	gallra enligt en uttalad tid
Integritet och konfidentialitet	kryptering, behörighet, loggning

Den vanligaste överträdelsen i AI-projekt är ändamålsbegränsningen: data samlades in för ett syfte och används sedan för att träna en modell. Det kräver antingen en ny rättslig grund eller att ändamålet var angivet från början.

Rättslig grund (artikel 6) — en måste finnas, och valet får konsekvenser:

Grund	Passar	Haken
Samtycke	frivilliga funktioner	ska kunna återkallas lika lätt som lämnas; ogiltigt vid ojämlik maktbalans (arbetsgivare, skola)
Avtal	nödvändigt för tjänsten	«nödvändigt» tolkas snävt
Berättigat intresse	mycket AI-utveckling	kräver dokumenterad intresseavvägning; den registrerade kan invända
Rättslig förpliktelse	bokföring, arkiv
Allmänt intresse	myndigheter, skola	vanligast i offentlig sektor

För särskilda kategorier (hälsa, etnicitet, biometri, politisk åsikt) gäller artikel 9: behandling är förbjuden om inget undantag är tillämpligt, i praktiken oftast uttryckligt samtycke.

Registrerades rättigheter, och vad de betyder tekniskt:

Rättighet	Teknisk konsekvens
Tillgång (art. 15)	exportfunktion som samlar allt om en person
Rättelse (art. 16)	uppgifter måste gå att ändra, även i härledda data
Radering (art. 17)	svårast — se nedan
Dataportabilitet (art. 20)	maskinläsbart format
Invändning (art. 21)	vid berättigat intresse
Art. 22	rätt att inte bli föremål för enbart automatiserade beslut med betydande följder

Radering och tränade modeller är den olösta frågan. Att radera en persons rader ur databasen är enkelt; att ta bort deras bidrag ur en tränad modells vikter är det inte. Tre praktiska hållningar:

1. Undvik problemet: träna inte på personuppgifter. Pseudonymisera eller aggregera först.
2. Planera omträning: gallra och träna om enligt ett schema, så att radering får effekt inom en dokumenterad tid.
3. Maskininlärd avlärning (machine unlearning) är ett aktivt forskningsområde men ingen färdig lösning.

Hållning 1 är den enda som är robust, och den bör vara utgångspunkten.

Tre saker som ofta glöms i AI-system:

Glöms	Varför det spelar roll
Prompter är personuppgifter	användare skriver in namn, hälsa, allt möjligt
Loggar är personuppgifter	och sparas ofta längst av allt
Tredjepartsleverantörer	personuppgiftsbiträdesavtal krävs, och tredjelandsöverföring måste hanteras

DPIA (konsekvensbedömning, art. 35) krävs vid hög risk — vilket omfattar systematisk profilering, storskalig behandling av känsliga uppgifter och övervakning. De flesta AI-system med personuppgifter hamnar där.

Gör en snabb GDPR-genomgång av en AI-funktion. Sju frågor; kan du inte svara på någon av dem är det där arbetet ligger.

#	Fråga	Ditt svar
1	Vilka personuppgifter behandlas? (glöm inte prompter och loggar)
2	Vilket är ändamålet, formulerat i en mening?
3	Vilken rättslig grund, och varför just den?
4	Vad samlas in som inte behövs för ändamålet?
5	Hur länge sparas varje kategori, och vem gallrar?
6	Hur besvaras en begäran om utdrag eller radering?
7	Delas något med tredje part, och finns avtal?

Tillämpat på AI-grafens handledare:

1. Elevens namn, e-post, svar på övningar, samtalsloggar med handledaren.
2. Att ge individanpassad undervisning och återkoppling.
3. Avtal för kärntjänsten; samtycke för frivilliga delar som delning till mentor.
4. Inget — samtalsloggar minimeras och innehåller inte mer än nödvändigt.
5. Attempts sparas under kontots livstid; samtalsloggar 90 dagar; audit-loggen längre av säkerhetsskäl.
6. Exportendpoint som samlar attempts, samtycken och journal; raderingsflöde som tar bort kontot.
7. LLM-leverantören är personuppgiftsbiträde — avtal och dataplacering måste vara på plats.

Fråga 4 är den mest värdefulla och den som oftast avslöjar något. Nästan alla system samlar in något «för säkerhets skull» som ingen har ett ändamål för — och varje sådant fält är en risk utan motsvarande nytta.