Hoppa till innehållet
AI-grafen

Språkmodeller i praktiken

Tokenisering, sampling, instruktionsmodeller, strukturerad utdata, hallucinationer och svenska — det du behöver för att bygga med en LLM på riktigt.

E· Universitet

Alla kunskaper som ingår (70) — i beroendeordning

  1. 1AMönster och kategorier
  2. 2BData från vardagen
  3. 3AInstruktioner i rätt ordning
  4. 4BAlgoritmiskt tänkande
  5. 5CFunktioner och koordinatsystem
  6. 6DDerivata och optimering
  7. 7CProgrammeringslogik — variabler, villkor, loopar
  8. 8CPython — grunderna
  9. 9CPython — listor, loopar och dictionaries
  10. 10CPython — strängar och textbehandling
  11. 11CPython — filer, CSV och JSON
  12. 12BRegler kontra inlärning
  13. 13BKällkritik och ansvar när AI svarar
  14. 14CStatistik — medelvärde, median och spridning
  15. 15CSannolikhet — grunderna
  16. 16DLoss-funktioner
  17. 17Dn-gram-språkmodeller
  18. 18ATal och de fyra räknesätten
  19. 19BBråk, decimaltal och procent
  20. 20AJämföra och sortera tal
  21. 21BKoordinater: hitta på kartan
  22. 22BNegativa tal
  23. 23DTokenisering
  24. 24EByte-pair encoding
  25. 25DTextförbehandling
  26. 26BTräningsdata, features och etiketter
  27. 27BKlassificering — så sorterar en modell
  28. 28CDin första prediktiva modell — en rät linje
  29. 29DGradient descent
  30. 30CNeuronnät — intuitionen
  31. 31CPromptning — att styra en språkmodell
  32. 32DKontextfönster, systemprompt och few-shot
  33. 33EResonemang i språkmodeller
  34. 34EStrukturerad utdata och schema
  35. 35DPrecision, recall, F1 och ROC
  36. 36BVad är generativ AI?
  37. 37BGissa nästa ord
  38. 38CVilka ord hör ihop? Uppmärksamhet
  39. 39COrd som punkter: liknande ord nära varandra
  40. 40DTransformern — översikt utan formler
  41. 41CVariabler och algebraiska uttryck
  42. 42CPotenser och rötter
  43. 43DLogaritmer
  44. 44EInformationsteori: entropi och KL-divergens
  45. 45DVektorer
  46. 46DMatriser och matrismultiplikation
  47. 47DNeuronnät — forward pass med matriser
  48. 48DBackpropagation
  49. 49DEmbeddings — ord som vektorer
  50. 50DAttention
  51. 51EGenerativa modeller — översikt
  52. 52DPyTorch — tensorer och autograd
  53. 53DTräna ett neuronnät i PyTorch
  54. 54DTransformers — arkitekturen
  55. 55EBERT och maskerad språkmodellering
  56. 56EEncoder–decoder-transformers
  57. 57EMulti-head attention i detalj
  58. 58EAttention-varianter: cross, kausal, gles
  59. 59EKV-cache
  60. 60ESpråkmodeller — träning och generering
  61. 61EFlerspråkighet och svenska modeller
  62. 62EHallucinationer — orsaker och motmedel
  63. 63EBas- kontra instruktionsmodeller
  64. 64EPerplexitet
  65. 65ESampling: temperatur, top-k, top-p, beam
  66. 66ESammanfattning och översättning
  67. 67ESpråkmodeller för kod
  68. 68ENLP på svenska: resurser och fallgropar
  69. 69ETextklassificering med transformers
  70. 70EInformationsextraktion och NER