Matriser och matrismultiplikation

En matris är en tabell av tal — rader och kolumner. Multiplicera den med en vektor så får du en ny vektor: varje rad i matrisen skalärmultipliceras med vektorn.

[2 0]   [3]   [2·3 + 0·1]   [6]
[1 1] · [1] = [1·3 + 1·1] = [4]

Det är exakt vad ett lager i ett neuronnät gör: vikterna är matrisen, indatan är vektorn, utdatan är den nya vektorn. Ett nät = matrismultiplikation, böj, matrismultiplikation, böj …

A är m×n (m rader, n kolumner), B är n×p. Då är AB en m×p-matris med (AB)ᵢⱼ = Σₖ Aᵢₖ Bₖⱼ — rad i i A gånger kolumn j i B.

Dimensionsregeln: de inre talen måste matcha (n = n), de yttre ger resultatet (m×p). En 3×4-matris gånger en 4×2 ger 3×2. En 3×4 gånger en 3×4 går inte.

Matrismultiplikation är inte kommutativ: AB ≠ BA i allmänhet. Identitetsmatrisen I (ettor på diagonalen) är neutral: AI = IA = A. Transponat Aᵀ byter rader mot kolumner.

Ett batch med 32 exempel av 784 pixlar är en 32×784-matris; ett lager med 128 neuroner har en 784×128 viktmatris; produkten blir 32×128 — 128 tal per exempel.