Arcadia AI — master akademske studije
SR
Program  /  Semestar 1 — AI Foundations
Kurs

Classic ML, uvod u Deep Learning

Od linearnih modela do neuronskih mreža: klasičan ML i prvi koraci u Deep Learning

NSDNJL
Nikita Severin, Dmitrij Nesterov, Jaroslav Leonov
Sastav predavača se razmatra

O kursu

Kurs gradi sveobuhvatno razumevanje mašinskog učenja — od regresije i SVM do konvolutivnih i rekurentnih mreža. Posebna pažnja se posvećuje teoriji generalizacije, bias-variance tradeoff-u i pravilnoj validaciji modela. Kurs stvara zajednički jezik i osnovu za eksperimente za sve naredne discipline programa.

Šta ćete naučiti

Da gradite i validirate klasične ML modele uz obrazložen izbor hiperparametara
Da implementirate neuronske mreže od nule, razumejući ulogu svake komponente obučavanja
Da dijagnostikujete underfitting i overfitting i primenjujete odgovarajuće tehnike regularizacije
Da upoređujete algoritme prema teorijskim i empirijskim svojstvima generalizacije

Ključne teme

Linearna i logistička regresija; regularizacija (Ridge, Lasso, ElasticNet)
Metrike kvaliteta: klasifikacija, regresija, rangiranje
Stabla odlučivanja, ansambl metode (Random Forest, Gradient Boosting)
SVM i kernel metode
Teorija generalizacije: VC-dimenzija, PAC-učenje
Propagacija greške unazad (backprop) i automatsko diferenciranje
Konvolutivne neuronske mreže (CNN): arhitekture, pooling, transfer learning
Rekurentne mreže (RNN, LSTM, GRU)
Normalizacija (Batch Norm, Layer Norm), Dropout, rano zaustavljanje
Opis je automatski generisan i predavač ga još nije proverio — ovo je nacrt za diskusiju.