Линейная алгебра: пространства, эмбеддинги, трансформации

О курсе

Курс охватывает линейную алгебру как язык современного машинного обучения. Студенты изучают векторные пространства, собственные разложения и сингулярное разложение (SVD) с акцентом на их роль в задачах эмбеддингов, сжатия и нейросетевых преобразований. Курс закладывает матаппарат для понимания трансформеров, PCA и графовых нейросетей, изучаемых в следующих семестрах.

Чему научитесь

✓Применять SVD и спектральное разложение к задачам снижения размерности и латентного анализа

✓Объяснять геометрический смысл матричных операций в нейросетевых архитектурах

✓Вычислять градиенты по матричным параметрам для задач оптимизации

✓Оценивать численную устойчивость алгоритмов линейной алгебры

Ключевые темы

•Векторные пространства и линейные подпространства

•Линейные отображения и матрицы

•Разложения: LU, QR, спектральное, SVD

•Проекции, наименьшие квадраты, псевдообратная матрица Мура–Пенроуза

•Эмбеддинги (embeddings) и метрики в высокоразмерных пространствах

•Эффект концентрации меры и проклятие размерности

•Рандомизированные методы (Johnson–Lindenstrauss, случайные проекции)

•Тензоры и мультилинейная алгебра

•Основы дифференцирования матричных функций

Описание сгенерировано автоматически и ещё не проверено преподавателем — это черновик для обсуждения.

О курсе

Чему научитесь

Ключевые темы

Обратная связь