Hoppa till innehållet
AI-grafen
Logga in
☰ Meny

Mål F AI engineering

AI-säkerhet i praktiken

Red teaming, jailbreaks, adversariella exempel, preferensinlärning och belöningshackning — vad som går att skydda och vad som inte gör det.

Kunskaper
65
Från noll
ca 57 h
Labbar
6
Se vad du redan kan — utan konto

Diagnosen föreslår en startpunkt. Övningarna visar vad du faktiskt kan.

Det här kan du efteråt

Labbar på vägen

Du skriver koden. Tester du inte ser avgör om den håller.

Slutprov: bygg ett spårbart RAG-flödeEsandlåda · ca 75 minLabb: ett neuronnät i ren NumPy — forward, backprop, gradientkontrollDsandlåda · ca 75 minLabb: gradient descent från grundenDi webbläsaren · ca 50 minLabb: matrismultiplikation och ett lager i ett neuronnätDi webbläsaren · ca 45 minLabb: scaled dot-product attention med kausal maskDsandlåda · ca 60 minLabb: semantisk sökning med embeddingsDsandlåda · ca 45 min

Hela vägen

Allt målet bygger på, grupperat per nivå och i den ordning det bygger på varandra. Visa på kartan

AUpptäckare2 kunskaper
  1. Mönster och kategorier
  2. Sekvenser och exakta instruktioner
BUtforskare6 kunskaper
  1. Data i vardagen
  2. Algoritmiskt tänkande
  3. Regelbaserade system och maskininlärning
  4. Källkritik och ansvar vid AI-användning
  5. Träningsdata, features och etiketter
  6. Klassificering: hur en modell sorterar information
CByggare12 kunskaper
  1. Funktioner och koordinatsystem
  2. Programmeringslogik — variabler, villkor, loopar
  3. Python — grunderna
  4. Python — listor, loopar och dictionaries
  5. Python — strängar och textbehandling
  6. Python — filer, CSV och JSON
  7. Statistik — medelvärde, median och spridning
  8. Sannolikhet — grunderna
  9. Linjär regression: anpassa en rät linje till data
  10. Neuronnät — intuitionen
  11. Promptning — att styra en språkmodell
  12. Ansvarsfull användning av AI
DAI-utvecklare22 kunskaper
  1. Derivata och optimering
  2. API:er och HTTP
  3. Reguljära uttryck
  4. Licenser och öppna data
  5. Loss-funktioner
  6. Tokenisering
  7. Gradient descent
  8. Kontextfönster, systemprompt och few-shot
  9. Vektorer
  10. Matriser och matrismultiplikation
  11. Linjär regression med flera features
  12. Neuronnät — forward pass med matriser
  13. Backpropagation
  14. Embeddings — ord som vektorer
  15. Attention
  16. Overfitting och generalisering
  17. Partiella derivator och gradienten
  18. PyTorch — tensorer och autograd
  19. Retrieval — hitta rätt text
  20. Träning, validering och test
  21. Träna ett neuronnät i PyTorch
  22. Transformers — arkitekturen
EUniversitet10 kunskaper
  1. Reinforcement learning — grunderna
  2. Faltningsnät (CNN)
  3. Språkmodeller — träning och generering
  4. Modellutvärdering
  5. Finjustering av språkmodeller
  6. RAG — retrieval-augmented generation
  7. Prompt injection
  8. Verktygsanvändning (tool use)
  9. Agenter — planera, agera, observera
  10. Webbskrapning — teknik och regler
FAI engineering11 kunskaper
  1. Adversariella exempel
  2. Datasetdesign för finjustering
  3. Evals för språkmodeller och agenter
  4. RLHF och preferensinlärning
  5. Belöningshackning
  6. DPO och direkt preferensoptimering
  7. Specifikationsproblem och proxymål
  8. AI-säkerhet och red teaming
  9. Jailbreaks och skyddsräcken
  10. Träningsdata för språkmodeller: filtrering och dedup
  11. Dataförgiftning och bakdörrar
GFrontier Lab2 kunskaper
  1. Alignment — problem och metoder
  2. Konstitutionell AI och regelbaserad justering