AI:s påhittade svar
Kunna förklara varför ett AI-svar kan vara påhittat fast det låter säkert.
Vardagsförklaring
Fråga en AI om en rapport eller en artikel som inte finns. Den kan svara med författare, datum och sammanfattning. Allt är påhittat. Det kallas att modellen hallucinerar.
Varför? Den gissar ord som passar. «Rapporten ... publicerades av ...» — ett företagsnamn passar, så den skriver ett. Den vet inte skillnaden på det den har läst och det den hittar på.
Ett säkert tonfall betyder inte att svaret är sant.
Intuition
Så kollar du:
- Be om källan — och kolla att källan finns och säger det.
- Fråga samma sak igen på ett annat sätt. Olika svar = varningstecken.
- Slå upp i en databas, på Wikipedia eller fråga en kollega som kan.
Påhitt är vanligast vid: exakta siffror, årtal, citat, namn på personer, sällsynta ämnen. Vanligast rätt vid: sånt som står på tusen ställen (huvudstäder, grundläggande regler).
Behärskning innebär
- Förklarar varför ett AI-svar kan vara påhittat fast det låter säkert
- Kontrollerar ett AI-påstående mot en källa
Förkunskaper
Logga in för att göra övningarna och bygga upp din behärskning.
Källor
- Wikipedia — Hallucination (artificiell intelligens) (CC BY-SA 4.0) — CC BY-SA 4.0
- Skolverket — Om AI i skolan — Skolverkets öppna villkor