AI:n hittar på ibland

Fråga en AI om en bok som inte finns — den kan svara med författare, år och handling. Allt påhittat. Det kallas att modellen hallucinerar.

Varför? Den gissar ord som passar. «Boken … skrevs av …» — ett författarnamn passar, så den skriver ett. Den vet inte skillnaden på det den läst och det den hittar på.

Ett säkert tonfall betyder inte att svaret är sant.

Så kollar du:

1. Be om källan — och kolla att källan finns och säger det.
2. Fråga samma sak igen på ett annat sätt. Olika svar = varningstecken.
3. Slå upp i en bok, på Wikipedia eller fråga någon som kan.

Påhitt är vanligast vid: exakta siffror, årtal, citat, namn på personer, sällsynta ämnen. Vanligast rätt vid: sånt som står på tusen ställen (huvudstäder, hur man kokar ägg).