PředmětyPředměty(verze: 901)
Předmět, akademický rok 2021/2022
  
Neural Networks - AM445004
Anglický název: Neural Networks
Zajišťuje: Ústav počítačové a řídicí techniky (445)
Platnost: od 2019 do 2021
Semestr: letní
Body: letní s.:5
E-Kredity: letní s.:5
Způsob provedení zkoušky: letní s.:
Rozsah, examinace: letní s.:2/2 Z+Zk [hodiny/týden]
Počet míst: neomezen / neomezen (neurčen)
Minimální obsazenost: neomezen
Jazyk výuky: angličtina
Způsob výuky: prezenční
Úroveň:  
Pro druh: navazující magisterské
Garant: Mudrová Martina Ing. Ph.D.
Procházka Aleš prof. Ing. CSc.
Neslučitelnost : M445004
Záměnnost : M445004
Je neslučitelnost pro: M445004
Je záměnnost pro: M445004
Anotace - angličtina
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)
The course is focused on comprehension of commonly used neural network architectures, suitable for various types of solved problems and processed data. Lectures cover the necessary theory, but are mainly focused on practical aspects of neural network design. For seminars, students will try to train the designed models of neural networks and further optimize them.
Literatura - angličtina
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

Goodfellow, I., Bengio, Y., Courville, A.: Deep Learning. MIT Press, 2016. http://www.deeplearningbook.org

Sylabus - angličtina
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

Feed-forward neural networks

  • basic architectures and activation functions
  • optimization algorithms for training
  • selection of hyperparameters

Regularization of neural network models

  • commonly used regularization techniques - dropout, label-smoothing

Convolutional neural networks

  • convolution layers, normalization
  • architectures suitable for deep convolutional neural networks
  • pre-training and fine-tuning of deep neural networks

Recurrent neural networks

  • basic recurrent networks and problems of their training
  • LSTM, GRU
  • bidirectional and deep recurrent networks

Transformer architecture

Design and optimization of neural networks in various environments - Python, MATLAB

 
VŠCHT Praha