Машинное обучение
Деревья решений
Деревья решений как набор интерпретируемых правил. Критерии Gini и энтропии, information gain, поиск порогов, остановка и подрезка, регрессионные деревья и переобучение, важность признаков через MDI и permutation importance.
Метрики качества и линейная регрессия
Метрики классификации и регрессии и первая модель машинного обучения. Рассматриваются матрица ошибок, precision, recall, F1, порог решения, ROC и PR-кривые, MAE, MSE, RMSE, R², линейная регрессия и градиентный спуск с его вариантами.
kNN и ML-пайплайн
Метод k ближайших соседей как первая модель машинного обучения — расстояния, веса соседей, ядра и ширина окна, регрессия и быстрый поиск через HNSW. Устройство ML-пайплайна, разбиение данных на train, validation и test, утечки и кросс-валидация.
EDA, PCA и t-SNE
Повторение первой недели на покемонах. Типы признаков, среднее и медиана, выбросы и боксплот, корреляция и нелинейные связи, стандартизация и логарифм, PCA и t-SNE на рукописных цифрах.
EDA и уменьшение размерности
Устойчивые статистики и масштабирование признаков, повторение статистического вывода — доверительные интервалы, p-value, ошибки I и II рода, критерий хи-квадрат. Корреляции Пирсона и Спирмена, проклятие размерности и разбор PCA от центрирования до объяснённой дисперсии.
Матстат и работа с данными
Организация курса и повторение теории вероятностей: основные распределения, описательные статистики, репрезентативность выборки. Типы признаков, кодирование категорий, пропуски, утечка данных и EDA на датасетах вина и пингвинов.
