PředmětyPředměty(verze: 908)
Předmět, akademický rok 2022/2023
  
Neuronové sítě - M445004
Anglický název: Neural Networks
Zajišťuje: Ústav počítačové a řídicí techniky (445)
Platnost: od 2022
Semestr: letní
Body: letní s.:5
E-Kredity: letní s.:5
Způsob provedení zkoušky: letní s.:
Rozsah, examinace: letní s.:2/2, Z+Zk [HT]
Počet míst: neurčen / neurčen (neurčen)
Minimální obsazenost: neomezen
Jazyk výuky: čeština
Způsob výuky: prezenční
Úroveň:  
Pro druh: navazující magisterské
Další informace: https://moodle.vscht.cz/enrol/index.php?id=55
Poznámka: předmět je možno zapsat mimo plán
povolen pro zápis po webu
Garant: Cejnar Pavel RNDr. Mgr. Ph.D.
Neslučitelnost : AM445004
Záměnnost : AM445004, N445024
Je neslučitelnost pro: AM445004
Je záměnnost pro: AM445004
Anotace -
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)
Předmět je zaměřen na seznámení s běžně používanými architekturami neuronových sítí, vhodných pro různé typy řešených problémů a zpracovávaných dat. Přednáška pokrývá nezbytnou teorii, především je však zaměřena na praktické aspekty návrhu neuronové sítě. Na cvičení si studenti vyzkouší natrénovat navržené modely hlubokovrstvých sítí a dále je zoptimalizovat.
Výstupy studia předmětu -
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

Studenti budou umět:

(i) vybrat vhodnou architekturu neuronové sítě pro zvolený typ dat

(ii) navrhnout příslušný model a vybrat vhodný optimalizační algoritmus pro trénování

Literatura -
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

Goodfellow, I., Bengio, Y., Courville, A.: Deep Learning. MIT Press, 2016. http://www.deeplearningbook.org

Studijní opory -
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

https://moodle.vscht.cz/enrol/index.php?id=55

Sylabus -
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

Dopředné vícevrstvé neuronové sítě

  • základní architektury a aktivační přenosové funkce
  • optimalizační algoritmy pro trénování
  • volba hyperparametrů

Regularizace modelů neuronových sítí

  • běžně používané techniky regularizace - dropout, label-smoothing

Konvoluční neuronové sítě

  • konvoluční vrstvy, normalizace
  • architektury vhodné pro hluboké konvoluční sítě
  • předtrénování a fine-tuning hlubokých neuronových sítí

Rekurentní neuronové sítě

  • základní rekurentní sítě a problémy jejich trénování
  • LSTM, GRU
  • obousměrné a hluboké rekurentní sítě

Architektura Transformer

Návrh a optimalizace neuronových sítích v různých prostředích - Python, MATLAB

Vstupní požadavky -
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

základní znalosti programování v jazyku Python, MATLAB vítány, nejsou však podmínkou

Podmínky zakončení předmětu -
Poslední úprava: Cejnar Pavel RNDr. Mgr. Ph.D. (14.06.2022)

Zápočet je udělován za vypracování dostatečného množství úloh (získání příslušného počtu bodů, příp. včetně bonusových bodů). Úlohy jsou zadávány během celého semestru. Student si může vybrat, které z úloh chce vypracovávat, aby získal potřebný počet bodů. Zkouška sestává z písemného testu s otázkami náhodně vybranými ze souboru předem známých otázek.

Klasifikaci u zkoušky lze zlepšit či zcela nahradit vypracováním rozšířeného množství zápočtových úloh (získání rozšířeného počtu bodů).

Zátěž studenta
Činnost Kredity Hodiny
Účast na přednáškách 1 28
Příprava na přednášky, semináře, laboratoře, exkurzi nebo praxi 1 28
Práce na individuálním projektu 1 28
Příprava na zkoušku a její absolvování 1 28
Účast na seminářích 1 28
5 / 5 140 / 140
 
VŠCHT Praha