UX för AI-funktioner

AI-funktioner har ett UX-problem som vanlig mjukvara inte har: de kan ha fel, ibland övertygande. Gränssnittet måste designas för det.

Fem principer:

1. Visa osäkerhet där den finns — men inte som en procentsiffra användaren inte kan tolka. «Jag är osäker på det här — kontrollera mot källan» säger mer än «konfidens 0,62».
2. Gör korrigering billig. Redigerbara förslag, inte färdiga beslut. Ångra ska alltid finnas.
3. Visa källor när svaret bygger på hämtat material.
4. Sätt förväntningar tidigt — vad funktionen är bra och dålig på, i gränssnittet och inte i villkoren.
5. Låt användaren komma vidare när AI:n misslyckas — en väg till mänsklig hjälp eller manuell inmatning.

Automatiseringsbias är den underskattade risken: människor litar systematiskt för mycket på automatiserade förslag, särskilt under tidspress.

Mönster som fungerar:

Mönster	Varför
Förslag, inte beslut	användaren behåller kontrollen och ansvaret
Strömmande svar	upplevd snabbhet; går att avbryta
Inline-källor	kontroll är ett klick bort
«Jag vet inte»-läge	bättre än ett påhittat svar — men måste vara sällsynt nog att tas på allvar
Återkopplingsknapp	ger data för utvärdering, om den faktiskt läses
Tydlig AI-märkning	krav i EU:s AI-förordning för syntetiskt innehåll

Antimönster:

• Konfidenssiffror utan förklaring («87 % säker» på vad?).
• Förklaringar som är efterhandskonstruktioner — de ökar förtroendet utan att öka tillförlitligheten.
• Att dölja att AI används.
• Att göra det svårare att rätta än att acceptera.

För barn och unga skärps kraven: tydligt att det är en maskin, inga mörka mönster som uppmuntrar till längre användning, och en synlig väg till en vuxen. Det är både en designfråga och ett krav i AI-förordningen och dataskyddslagstiftningen.

Granska en AI-funktion du använder med sex frågor:

1. Framgår det att det är AI?
2. Vad händer när den har fel — hur lätt är det att märka och rätta?
3. Visas osäkerhet på ett sätt jag kan agera på?
4. Går det att se varifrån informationen kommer?
5. Finns en väg till mänsklig hjälp?
6. Uppmuntras jag att kontrollera, eller att lita?

Tillämpa på AI-grafens handledare:

• Märkning: ja, i footern på varje sida.
• Fel: eleven ser nodens källtext bredvid och kan jämföra.
• Osäkerhet: handledaren instrueras att säga när den inte vet.
• Källor: nodens källor listas med licens.
• Mänsklig hjälp: läraren ser klassens luckor; delning till mentor finns.
• Kontroll: förklaringen uppmanar till att pröva själv i övningarna.

Gör samma genomgång för en funktion du bygger — bristerna blir synliga snabbt.