Hoppa till innehållet
AI-grafen
Logga in
☰ Meny
EUniversitetProjekt· ca 60 min· sandlåda på servern

Slutprov: bedöm ett AI-system innan det tas i bruk

Avgör om tolv AI-användningar är otillåtna, högrisk, begränsade eller minimala, välj rättslig grund och hitta den GDPR-princip som bryts, fördela kraven mellan leverantör och tillhandahållare och bestäm var människan ska sitta i beslutet. Du skriver inga program — du fyller i svar i en fil.

Lär ut: EU:s AI-förordning

Kräver: Personuppgifter och anonymiseringGDPR och AIAnsvar och människa i loopen

Teori

Det är användningen som avgör risknivån, inte tekniken. Kontrollera först att inget är förbjudet (artikel 5), sedan om användningen står i bilaga III (högrisk), sedan om artikel 50 kräver öppenhet. GDPR gäller parallellt: varje behandling behöver en rättslig grund och får inte bryta principerna i artikel 5. För ett högrisksystem bär leverantören kraven på själva systemet; den som använder det — tillhandahållaren — bär kraven på hur det används. Ju större och svårare att ångra ett beslut är, desto närmare beslutet ska människan sitta.

Deluppgifter

  1. Klassa risknivån — Fyll i RISKNIVA för r01–r12 i bedomning.py med otillåten, hög, begränsad eller minimal. Fallen beskrivs i fall.py.
  2. Rättslig grund och principer — Fyll i RATTSLIG_GRUND (g1–g3) och PRINCIP (p1–p3): vilken grund i artikel 6 bär behandlingen, och vilken princip i artikel 5 bryts?
  3. Vem bär kravet? — Kommunen köper rekryteringssystemet i r02. Fyll i KRAV (k1–k8) med leverantör eller tillhandahållare.
  4. Människan i beslutet — Fyll i GRAD (m1–m4) med in-the-loop, on-the-loop eller in-command, och GRANSKNING: är granskningen meningsfull, och vilken åtgärd mäter om den fångar fel?

Godkänt när: ifyllt >= 1

Startkoden

körs i en isolerad sandlåda på servern
"""Din bedömning. Ersätt varje "?" med ett av de tillåtna svaren i fall.py. Ingen programmering behövs.

Your assessment. Replace every "?" with one of the allowed answers in fall.py. No programming needed.
Ett exempel per delprov är redan ifyllt / one example per part is already filled in.
"""

# Delprov 1 — risknivå: otillåten, hög, begränsad eller minimal
RISKNIVA = {
    "r01": "minimal",  # exempel: ett skräppostfilter påverkar ingen enskilds rättigheter
    "r02": "?",
    "r03": "?",
    "r04": "?",
    "r05": "?",
    "r06": "?",
    "r07": "?",
    "r08": "?",
    "r09": "?",
    "r10": "?",
    "r11": "?",
    "r12": "?",
}

# Delprov 2a — rättslig grund: samtycke, avtal, berättigat intresse, rättslig förpliktelse eller allmänt intresse
RATTSLIG_GRUND = {
    "g1": "?",
    "g2": "?",
    "g3": "?",
}

# Delprov 2b — vilken princip bryts?
PRINCIP = {
    "p1": "ändamålsbegränsning",  # exempel: data samlades in för ett syfte och används för ett annat
    "p2": "?",
    "p3": "?",
}

# Delprov 3 — vem bär kravet: leverantör eller tillhandahållare?
KRAV = {
    "k1": "?",
    "k2": "?",
    "k3": "?",
    "k4": "?",
    "k5": "?",
    "k6": "?",
    "k7": "?",
    "k8": "?",
}

# Delprov 4 — var ska människan sitta: in-the-loop, on-the-loop eller in-command?
GRAD = {
    "m1": "in-the-loop",  # exempel: avslaget är stort och svårt att ångra, så en människa fattar beslutet
    "m2": "?",
    "m3": "?",
    "m4": "?",
}

# Är granskningen i GRANSKNINGSFALL meningsfull (ja/nej), och vilken åtgärd mäter om den fångar fel?
GRANSKNING = {
    "meningsfull": "?",
    "atgard": "?",
}

Du skriver koden, tester du inte ser avgör om den håller. Skapa ett gratis konto för att köra labben.

Prova diagnosenSkapa konto gratis

Förväntade resultat

Alla synliga tester godkända och samtliga 32 svar ifyllda. Servern rättar sedan med dolda tester. Alla otillåtna användningar måste upptäckas, och varje delprov kräver minst 80 % rätt. Kursen blir klar först efter en verifierad helkörning av slutprovet och alla kunskapssteg.

Vanliga fel

Att klassa efter tekniken i stället för användningen. Att tro att känsloigenkänning på jobbet bara är högrisk — den är förbjuden. Att välja samtycke när den registrerade inte kan säga nej, som en elev eller en anställd. Att lägga tillsynen helt på leverantören fast det är den som använder systemet som måste utse granskarna. Att tro att en människa som godkänner allt är en granskning. Kör bara en deluppgift; kursen kräver helkörning med Alla.