Linearna algebra: prostori, embeddinzi, transformacije

O kursu

Kurs obuhvata linearnu algebru kao jezik savremenog mašinskog učenja. Studenti izučavaju vektorske prostore, spektralnu dekompoziciju i singularnu dekompoziciju (SVD), sa akcentom na njihovu ulogu u zadacima embeddinga, kompresije i transformacija u neuronskim mrežama. Kurs postavlja matematički aparat za razumevanje transformera, PCA i grafovskih neuronskih mreža koji se izučavaju u narednim semestrima.

Šta ćete naučiti

✓Primenjivati SVD i spektralnu dekompoziciju na zadatke redukcije dimenzionalnosti i latentne analize

✓Objasniti geometrijski smisao matričnih operacija u arhitekturama neuronskih mreža

✓Izračunavati gradijente po matričnim parametrima za zadatke optimizacije

✓Procenjivati numeričku stabilnost algoritama linearne algebre

Ključne teme

•Vektorski prostori i linearni potprostori

•Linearna preslikavanja i matrice

•Dekompozicije: LU, QR, spektralna, SVD

•Projekcije, metod najmanjih kvadrata, Mur–Penrouzova pseudoinverzna matrica

•Embeddinzi (embeddings) i metrike u prostorima visoke dimenzionalnosti

•Efekat koncentracije mere i prokletstvo dimenzionalnosti

•Randomizovane metode (Johnson–Lindenstrauss, slučajne projekcije)

•Tenzori i multilinearna algebra

•Osnove diferenciranja matričnih funkcija

Opis je automatski generisan i predavač ga još nije proverio — ovo je nacrt za diskusiju.

O kursu

Šta ćete naučiti

Ključne teme

Povratne informacije