To complete the course, student must successfully pass an exam test covering the student's practical skills and pass the oral exam covering the theoretical knowledge. The final mark is determined by the points for attendance (max. 40 p, in selected cases can be replaced by the test), from the exam test (max. 30 p) and from the oral exam (max 30 p).

Pro udělení klasifikovaného zápočtu je třeba úspěšně složit zkouškový test pokrývajícího praktické dovednosti studenta a úspěšné složit ústní zkoušku pokrývající teoretické znalosti studenta. Výsledná známka se určí podle dosažených bodů za docházku (max. 40 b, v odůvodněných případech lze nahradit zápočtovým testem), zkouškový test (max. 30 b) a ústní část zkoušky (max. 30 b).

Obligatory:

• Tvrdík, Pavel. Parallel algorithms and computing. Praha: Vydavatelství ČVUT, 2009, 200 s. ISBN 978-80-01-04333-2.

Recommended:

• Tim Peierls, Brian Goetz, Joshua Bloch, Joseph Bowbeer, Doug Lea, David Holmes. Java Concurrency in Practice. Upper Saddle River, U.S.A.: Pearson Education, 2006, 432 s. ISBN 978-0-13-270225-6.
• Koubková, Alena, Pavelka, Jan. Úvod do teoretické informatiky. Praha: Matfyzpress, 2005, 123 s. ISBN 80-86732-52-5.
• Herout, Pavel. Učebnice jazyka Java. České Budějovice: Kopp, 2011, 386 s. ISBN 978-80-7232-398-2.
• Matoušek, Jiří, Nešetřil, Jaroslav. Kapitoly z diskrétní matematiky. Praha: Nakladatelství Karolinum, 2022, 448 s. ISBN 978-80-246-5084-5.
• Dvořák, Václav. Architektura a programování paralelních systémů. Brno: VUTIUM, 2004, vii, 165 s. s. ISBN 80-214-2608-X.

Povinná:

• Tvrdík, Pavel. Parallel algorithms and computing. Praha: Vydavatelství ČVUT, 2009, 200 s. ISBN 978-80-01-04333-2.

Doporučená:

• Tim Peierls, Brian Goetz, Joshua Bloch, Joseph Bowbeer, Doug Lea, David Holmes. Java Concurrency in Practice. Upper Saddle River, U.S.A.: Pearson Education, 2006, 432 s. ISBN 978-0-13-270225-6.
• Koubková, Alena, Pavelka, Jan. Úvod do teoretické informatiky. Praha: Matfyzpress, 2005, 123 s. ISBN 80-86732-52-5.
• Herout, Pavel. Učebnice jazyka Java. České Budějovice: Kopp, 2011, 386 s. ISBN 978-80-7232-398-2.
• Matoušek, Jiří, Nešetřil, Jaroslav. Kapitoly z diskrétní matematiky. Praha: Nakladatelství Karolinum, 2022, 448 s. ISBN 978-80-246-5084-5.
• Dvořák, Václav. Architektura a programování paralelních systémů. Brno: VUTIUM, 2004, vii, 165 s. s. ISBN 80-214-2608-X.

Lectures and courses.

Přednášky a cvičení.

1. Distributed and parallel data processing, parallelization on multicore computer processors. Software optimization of computer procedures.

2. Simple synchronization operations, blocking synchronization primitives.

3. Model problems in synchronization. Synchronization support in programming language.

4. Asymptotic time and space complexity for parallel algorithms. PRAM parallel computation model.

5. Recursive procedures and their parallelization. Parallel matrix multiplication.

6. Parallel sort algorithms.

7. Parallel prefix sum algorithm and its applications (parallel addition, RadixSort, SPPS).

8. Parallelization of graph algorithms and linear algebra algorithms.

9. Distributed data processing and communications. Remote procedure call.

10. Current hardware architectures for parallel data computation.

11. CASE STUDY: Distributed and parallel data processing in MATLAB.

12. CASE STUDY: Distributed and parallel data processing in Python, C++, and using GPU.

13. Advanced parallelization techniques. Distributed and parallel processing optimization.

1. Distribuované a paralelní zpracování dat, paralelizace na vícejádrových procesorech. Softwarové možnosti optimalizace úloh.

2. Jednoduché synchronizační operace a blokující synchronizační prvky.

3. Modelové problémy synchronizace. Podpora synchronizace v programovacím jazyku.

4. Základní pojmy z asymptotické paralelní složitosti a jejich aplikace. Výpočetní model PRAM.

5. Složitost rekurzivního zpracování a paralelizace rekurzivních úloh. Paralelizace násobení matic.

6. Paralelní třídící algoritmy.

7. Algoritmus paralelního prefixového součtu a jeho aplikace (paralelní sčítání, RadixSort, SPPS).

8. Paralelizace grafových algoritmů a algoritmy lineární algebry.

9. Distribuované zpracování a vzájemná komunikace. Vzdálené zpracování procedur.

10. Současné hardwarové architektury používané pro paralelní zpracování dat.

11. STUDIE podpory distribuovaných a paralelních výpočtů: MATLAB.

12. STUDIE podpory distribuovaných a paralelních výpočtů: Python, C++, GPU programming.

13. Pokročilé techniky při paralelizaci úloh, optimalizace distribuovaného a paralelního zpracování dat.

• electronic materials are available at http://moodle.vscht.cz/course/view.php?id=116 (in Czech language)

• Java SE API Documentation, http://java.sun.com >> http://www.oracle.com/technetwork/java/index.html

• electronic help and documentation for MATLAB Parallel Computing Toolbox, MATLAB Distributed Computing Server

• elektronické materiály jsou dostupné na http://moodle.vscht.cz/course/view.php?id=116

• Java SE API Documentation, http://java.sun.com >> http://www.oracle.com/technetwork/java/index.html

• elektronická nápověda a dokumentace k MATLAB Parallel Computing Toolbox, MATLAB Distributed Computing Server

Students will be able to:

• Distinguish whether it is easy to make given task or procedure parallel.

• Design effective parallel procedures.

• Propose other possible acceleration of calculations for tasks with hard parallelization.

Studenti budou schopni:

• Rozlišovat, zda je snadné paralelizovat danou úlohu.

• Navrhnout efektivní postup paralelizace úlohy či výpočtu a stanovit meze, kdy se urychlení skutečně projeví.

• Navrhnout způsoby urychlení výpočtů pro hůře paralelizovatelné úlohy.

• Mathematics I or any equivalent subject

• one subject in the topic of computer programming in any object oriented language (JAVA, Python, C++, MATLAB)

žádné