Students will be able:

To apply basic data mining tools to common problems (classification, regression, clustering).

To choose algorithm suitable for the given problem and assess its accuracy.

Understand how and why data mining and machine learning algorithms work.

Studenti budou umět:

Kvalifikovaně použít základní nástroje vytěžování znalostí z dat na nejčastěji se vyskytujících problémech (klasifikace, regrese, shlukování).

Vybrat algoritmus vhodný pro řešení daného problému a vyhodnotit jeho přesnost.

Naučí se, jak fungují metody vytěžování znalostí z dat a strojového učení.

R:Larose D. T., Discovering Knowledge in Data: An Introduction to Data Mining, Wiley-Interscience, 2004, ISBN 0471666572

A:Ch. M. Bishop, Pattern Recognition and Machine Learning, Springer, 2007, ISBN 0387310738

A:I. H. Witten, Data Mining: Practical Machine Learning Tools, Morgan Kaufmann, 2011, ISBN 0123748569

Z:Berka P., Dobývání znalostí z databází, Academia, 2003, ISBN 80-200-1062-9

D:Mařík V. a kol., Umělá inteligence 1, Academia, 2000, ISBN 80-200-0496-3

D:Šnorek M. a kol., Neuronové sítě a neuropočítače, skripta ČVUT, Praha 1997

D:Larose D. T., Discovering Knowledge in Data: An Introduction to Data Mining, Wiley-Interscience, 2004, ISBN 0471666572

D:Ch. M. Bishop, Pattern Recognition and Machine Learning, Springer, 2007, ISBN 0387310738

D:I. H. Witten, Data Mining: Practical Machine Learning Tools, Morgan Kaufmann, 2011, ISBN 0123748569

Zápočet bude získán na základě vypracovaného projektu, jehož součástí je závěrečné zpráva a prezentace výsledků. Na konci semestru studenti skládají písemnou zkoušku.

1) Introduction to data mining. CRISP-DM. Data warehousing. OLAP.

2) Pattern recognition - basic concepts. Supervised/unsupervised learning. Classification and regression. Generalization. Overfitting. Bias-variance tradeoff.

3) Test set. Cross validation. k-nearest neighbors.

4) Cluster analysis.

5) Information theory. Decission trees.

6) Neural networks I. Threshold neuron. ADALINE. Linear perceptron.

7) Neural networks II. Multilayer Perceptron.

8) Neural networks III. Radial Basis Function (RBF) Networks.

9) Neural networks IV. Self-Organizing Map.

10) Support Vector Machines.

11) Genetic Algorithms.

12) Feature Selection. Feature Extraction.

13) Ensemble learning.

14) Summary.

1) Úvod do vytěžování znalostí z dat. CRISP-DM. Datový sklad. OLAP.

2) Rozpoznávání vzorů - základní koncepty. učení s učitelem a bez učitele. Klasifikace a regrese. Generalizace. Přefitování. Zaujetí a rozptyl (bias a variance).

3) Metoda testovací množiny a metoda křížové validace. Metoda k-nejbližších sousedů.

4) Shluková analýza.

5) Teorie informace. Rozhodovací stromy.

6) Neuronové sítě I. Prahový neuron. ADALINE. Lineární perceptron.

7) Neuronové sítě II. Vícevrstvý perceptron.

8) Neuronové sítě III. Sítě typu Radial Basis Function (RBF).

9) Neuronové sítě I. Samoorganizující se mapa.

10) Support Vector Machines.

11) Genetické algoritmy.

12) Výběr a extrakce příznaků.

13) Kombinování modelů.

14) Shrnutí.

Online course materials at http://ich.vscht.cz/~svozil/teaching.html

Course (video and slides) "Learning from data" from Caltechu: http://work.caltech.edu/telecourse.html

Course (video and slides) "Machine learning" from Stanford: http://see.stanford.edu/see/courseinfo.aspx?coll=348ca38a-3a6d-4052-937d-cb017338d7b1 and http://cs229.stanford.edu/materials.html

Course "Machine learning" on Coursera: https://www.coursera.org/course/machlearning

Online materiály k přednášce na http://ich.vscht.cz/~svozil/teaching.html

Přednáška (video i slidy) "Learning from data" z Caltechu: http://work.caltech.edu/telecourse.html

Přednáška (video i slidy) "Machine learning" ze Stanfordu: http://see.stanford.edu/see/courseinfo.aspx?coll=348ca38a-3a6d-4052-937d-cb017338d7b1 a http://cs229.stanford.edu/materials.html

Kurs "Machine learning" na Courseře: https://www.coursera.org/course/machlearning

Fundamentals of Statistics

Základy statistiky