Students will be able to:

use theoretical background that is needed for skillful application of data mining algoritms in the field of classification, regression and clustering

Studenti budou umět:

orientovat se v algoritmech používaných v oblasti data-miningu

využít tyto algoritmy v různých oblastech informatiky

R:Hastie T.,Tibshirani R.,Friedman J., The Elements of Statistical Learning, Data Mining, Inference and Prediction, Springer, 2011

Z:Hastie T.,Tibshirani R.,Friedman J., The Elements of Statistical Learning, Data Mining, Inference and Prediction, Springer, 2011

https://edux.fit.cvut.cz/courses/MI-ADM

(login necessary)

https://edux.fit.cvut.cz/courses/MI-ADM

(nutné přihlášení)

1. Introduction to data mining, classification, prediction, K-NN algorithm and variants

2. Model, evaluation, plasticity regularization

3. Classification and Regression from statistical point of view

4. Decision Trees (C4.5, CART, MARS algorithms)

5. Classification by means of perceptrons and its generalization

6. Linear, polynomial and logistic regression, LMS, MLE algorithms

7. Nonlinear SVM-classifiers and the SV-regression

8. Inductive modelling - GMDH MIA, COMBI

9. Nonlinear regression by multilayered perceptrons

10. Ensemble models (Adaboost algorithm)

11. Statistical approach to neural networks

12. Cluster analysis (K-means, agglomerative clustering, neural gas, SOM)

13. A statistical approach to number of hidden neurons selection

1) Úvod a základní úlohy data miningu, klasifikace, predikce, algoritmus nejbližších sousedů a jeho varianty

2) Model, hodnocení modelu, plasticita, regularizace

3) Úvod do klasifikace a regrese

4) Rozhodovací stromy (algoritmy C4.5, CART, MARS)

5) Klasifikace pomocí perceptronů a její zobecnění

6) Lineární, polynomiální a logistická regrese, algoritmy LMS, MLE

7) Nelineární SVM-klasifikátory a SV-regrese

8) Induktivní modelování - algoritmy GMDH MIA, COMBI

9) Nelineární regrese pomocí vícevrstvých perceptronů

10) Kombinování modelů (algoritmus Adaboost)

11) Statistický přístup k umělým neuronovým sítím

12) Shluková analýza (algoritmy K-středů, hierarchické shlukování, neuronový plyn, SOM)

13) Využití statistického přístupu při volbě počtu skrytých neuronů

Statistics

základy statistiky, algoritmizace