Källkritik och ansvar vid AI-användning
Förstå varför AI kan generera felaktig information med hög konfidens, verifiera påståenden mot externa källor och identifiera lämpliga användningsområden för AI-stöd.
Vardagsförklaring
En generativ AI har tränats på stora mängder text för att förutsäga nästa troliga ord. Den förstår inte fakta — den genererar text som liknar mönster den har sett tidigare. Därför kan den formulera påståenden som låter auktoritativa men som saknar saklig grund.
Detta fenomen kallas ibland hallucination. Det innebär inte att AI:n ljuger medvetet, utan att den saknar inre kunskap om om svaret stämmer.
Intuition
Tre principer för säker användning:
- Verifiera fakta. Årtal, namn och siffror ska alltid kontrolleras mot en oberoende källa, inte mot AI:n.
- Var skeptisk till detaljer. Specifika källhänvisningar och citat kan vara påhittade. Ju mer precist svaret verkar om ett ovanligt ämne, desto viktig är kontrollen.
- Var transparent. I arbets- och studiemiljöer ska det framgå när AI har använts. Att lämna in AI-genererad text som egen produktion är ett brott mot integritet, likt plagiering.
AI är ett verktyg för analys, strukturering och idégenerering, inte en primär källa för fakta.
Behärskning innebär
- Anger två orsaker till varför ett AI-svar kan vara felaktigt
- Beskriver en metod för att verifiera ett specifikt påstående
Förkunskaper
Logga in för att göra övningarna och bygga upp din behärskning.
Källor
Leder till
Del av målen (22)
- Förstå vad AI är — och vad den inte är
- AI, etik och samhälle
- Språkmodeller i praktiken
- Byggare — samla data, träna en modell och testa AI kritiskt
- Data: samla, städa, dokumentera
- Ansvarsfull AI i praktiken
- AI-säkerhet i praktiken
- Tolka en språkmodell
- Bygg ett RAG-flöde med spårbara källor
- AI-tjänst i drift
- Bygg en agent som går att lita på
- Bygg ett minnessystem för en agent
- Bygg en AI-tjänst som håller i drift
- AI i produktion
- Multimodala system
- Finjustera och driva egna modeller
- Bygg ett röstgränssnitt
- AI-förordningen och GDPR i praktiken
- Frontier Lab — självständigt forskningsprojekt
- Evals i praktiken
- Djup reinforcement learning
- Reproducera ett paper