Μαθήματα

The course content will be significantly updated this year! Please check the description carefully

Summary: The class will cover classes of networking problems and the theoretical tools that can be used for modeling and optimizing such problems (but not only). Here, you can find the 4 main tools we will learn. You can also see the specific applications we will apply these tools in detail, as examples.

1. Modeling Network Problems with Discrete Time Markov Chains
   • Theory: Definition, n-step Analysis, stationary distribution, transient analysis 
   • Applications: 
     • Search Engines (PageRank),
     • Recommendation-driven Content platform (Youtube,spotify,etc) Model
     • MAC Protocol Theory (Slotted Aloha, 802.11/WiFi)
     • unbiased sampling of Large Social Networks
2. Solving Networking Problems with Discrete and Continuous Optimization Methods
   • Theory: Discrete Optimization and Submodular Maximization Theory, Convex Optimization Overview, Network Utility Maximization, Distributed Optimization
   • Applications Covered:
     • Cache (CDN) Optimization
     • Fair Resource Allocation,
     • TCP Congestion ControL
3. Optimizing Large Data Centers & Clouds with Advanced Queueing Theory
   • Theory: Quick Intro to M/M/* queues. Mg1/FCFs/LCFS, Priority Queuing, Size-based scheduling, PRocessor Sharing, task assignment  
   • Applications Covered
     • Load balancing in Multi-server systems (CDN, DNS),
     • modern clouds for multi-server Machine Learning jobs

• 4.Graph Theory for Social Network Analysis
  • Theory: :Social network properties (Scale-Free structure, Small World phenomena, Community, Homopily), Random Graph model (Erdos-Renyi, Watts-Strogatz, Preferential Attachment), Random Walks on Graphs, Centrality Measures
  • Applications Covered:
    • Opinion Polarization in Social Networks,
    • Opinion Evolution and Influence over Social Nets
    • Network navigability

This course provides a graduate-level introduction to distributed systems and is also co-taught to undergraduate students as an elective, with the same syllabus and the same requirements. The course includes both a theoretical component and a systems component.

The course will cover tools for optimization problems, where a sequence of (inter-dependent) decisions must be made (dynamically), often under uncertainty about the environment to be optimized (requires learning). Problems like this arise in many modern applications, ranging from autonomous driving and robotics, to game playing (chess, poker, go) and wired/wireless network management. The specific topics covered will be the following: Quick revision of first order optimization methods (gradient descent and stochastic gradient descent); Multi-armed Bandits; First order algorithms for Online Convex Optimization; Online Convex Optimization with instantaneous and long-term constraints; Distributed online convex optimization; backpressure algorithms for Stochastic Network Optimization; Markov Decision Processes; Tabular Reinforcement Learning - RL (Q-Learning, SARSA); Policy gradient methods; Approximate (e.g. Deep) RL solutions such as Deep Q Networks, Actor-Critic methods, and the recent AlphaGo and AlphaZero algorithms, that have been very successful in popular strategic games; Generalized policy rollout for online learning; The class will include both take home exercises, as well as a programming assignment.

Time series data are indexed by the time dimension. This feature imposes a natural order and distinguishes time series from "static" data.  Every data scientist is bound to face at some point in their career time series data.  This course focuses on the fundamental concepts underlying the analysis of time series and some of the methods that can be used to model such data. 

Time series analysis has a long history which led to the development of classical methods such as ARIMA. The machine learning revolution has introduced new tools for time series analysis which are based on deep neural networks (DNNs). However, for most of the everyday problems faced by data scientists, ARIMA and its generalizations perform as well (or even better) than DNN methods which require a very large amount of data in order to achieve their full potential.

This course will focus on classical methodologies of time series analysis.  While the latter are not based on DNNs, they are today considered components of the broad machine learning framework.

SPRING SEMESTER 2023-2024

Tuesday 7-9pm

Wednesday 5-7pm

ROOM 145.Π58

Time series data are indexed by the time dimension. This feature imposes a natural order and distinguishes time series from "static" data.  Every data scientist is bound to face at some point in their career time series data.  This course focuses on the fundamental concepts underlying the analysis of time series and some of the methods that can be used to model such data. 

Time series analysis has a long history which led to the development of classical methods such as ARIMA. The machine learning revolution has introduced new tools for time series analysis which are based on deep neural networks (DNNs). However, for most of the everyday problems faced by data scientists, ARIMA and its generalizations perform as well (or even better) than DNN methods which require a very large amount of data in order to achieve their full potential.

This course will focus on classical methodologies of time series analysis.  While the latter are not based on DNNs, they are today considered components of the broad machine learning framework.

SPRING SEMESTER 2022-2023

Tuesday 5-7pm

Thursday 5-7pm

ROOM 145.Π58

(Μέρα: Τετάρτη,  Ώρα: 17.00-20.00, Αίθουσα: Π58)

Το μάθημα φέτος θα ασχοληθεί με προχωρημένα θέματα μοντελοποίησης και ανάλυσης μεγάλων (κοινωνικών και υπολογιστικών) δικτύων. Θα υπάρξει μια εισαγωγή σε βασικά θέματα Μαρκοβιανών αλυσίδων και συστημάτων αναμονής, και θα ακολουθήσουν διαλέξεις σε γενικευμένα δίκτυα αναμονής, χρονοδρομολόγηση, και ανάθεσης εργασιών, τα οποία έχουν σημαντικές εφαρμογές σε υπολογιστικά νέφη και συστοιχίες εξυπηρετητών. Θα αναφερθούμε στη συνέχεια σε Μαρκοβιανές διαδικασίες απόφασης, που είναι η βάση για μοντέρνους αλγόριθμους ελέγχου με τεχνητή νοημοσύνη. Τέλος, θα μελετήσουμε τις ιδιότητες μεγάλων κοινωνικών δικτύων, και τυχαίων διαδικασιών επί αυτών (π.χ., μετάδοση ιών, αναζήτηση, δειγματοληψία, κλπ.). Το μάθημα θα συνοδεύεται από μαθηματικά και προγραμματιστικά προβλήματα. 

ΝΕΩΤΕΡΕΣ ΠΛΗΡΟΦΟΡΙΕΣ: Με βάση την απόφαση της Γ.Σ. του τμήματος ΗΜΜΥ της 9ης Μαρτίου 2022, το μάθημα "Ειδικά Θέματα σε Μαθηματική Βιολογία" δε θα προσφερθεί κατά το εαρινό εξάμηνο 2021-220.

Ύλη μαθήματος (οδηγός σπουδών).

Μαθηματική μοντελοποίηση σε βιολογικά συστήματα. Μελέτη συστημάτων στο χώρο κατάστασης – παραδείγματα από την πληθυσμιακή βιολογία. Μελέτη ευστάθειας και διαγράμματα διακλαδώσεων. Νόμος δράσης των μαζών, κινητική ενζύμων. Θεωρία Michaelis – Menten – εισαγωγή στις μεθόδους διαταραχών. Αυτοκατάλυση, ενεργοποίηση, αναστολή. Βιολογικοί ταλαντωτές. Οριακοί κύκλοι. Εισαγωγή στις μερικές διαφορικές εξισώσεις. Νόμοι διατήρησης. Διάχυση, μεταφορά, χημειόταξη. Λύσεις οδευόντων κυμάτων – η εξίσωση Fisher. Μέθοδοι διαταραχών. Μηχανισμοί μορφογένεσης Turing.
Θα παρουσιαστούν εφαρμογές στη οικολογία, βιολογία και / ή φυσιολογία.

Special Topics in Mathematical Biology (Α)
Mathematical models in biological systems. Stability analysis and bifurcation diagrams. Enzyme kinetics. Michaelis Menten theory. Introduction to perturbation methods. Autocatalysis, activation, inhibition. Feedback control mechanisms. Biological oscillators. Limit cycles. Introduction to partial differential equations. The diffusion equation. Reaction - diffusion - chemotaxis models. Travelling wave solutions. Reaction - diffusion (turing) mechanisms. Pattern initiation in reaction-diffusion mechanisms. Various problems in ecology, biology and / or physiology will be presented.

Τεχνολογίες Εικονικής Αναπαράστασης (τρισδιάστατης οπτικοποίησης δεδομένων) και Εικονικής Πραγματικότητας με έμφαση σε σύγχρονες συσκευές που φοριούνται στο κεφάλι (head-word XR technologies). Εμπειρία, χρήση και υλοποίηση εφαρμογών με εξοπλισμό Εικονικής και Επαυξημένης Πραγματικότητας κεφαλιού (Head Mounted Display) σε πλατφόρμα Unity3D και εκπόνηση ατομικής εργασίας με αυτόν τον εξοπλισμό.

Το μάθημα δεν διαθέτει περιγραφή

Προχωρημένα θέματα αρχιτεκτονικής υπολογιστών: εμβάθυνση σε αρχιτεκτονικές εκμετάλλευσης παραλληλισμού επιπέδου εντολών: super-scalar (με εκτέλεση εντολών σε σειρά ή εκτός σειράς), VLIW και EPIC, multi-scalar, πολυνηματική και ταυτόχρονη πολυνηματική επεξεργασία. Πρόβλεψη ροής εντολών και δεδομένων, θέματα κατάτμησης επεξεργαστών για υψηλότερες ταχύτητες ρολογιού και βελτίωση κατανάλωσης ισχύος. Ολοκλήρωση δικτυακής διεπαφής σε επεξεργαστές για παράλληλα συστήματα. Προχωρημένα θέματα μνημών κρύπτης (cache memories), trace-cache. Συστήματα μνήμης και δίαυλοι υψηλών επιδόσεων, αρχιτεκτονικές τεχνικές για μείωση κατανάλωσης ισχύος. Μελέτη και σύγκριση τελευταίων επεξεργαστών υψηλών επιδόσεων (case studies).

This course examines systems principles (not tools!) that are important in the new era of AI and ML. It emphasizes the
novel challenges posed by ML systems compared to more traditional computing systems, both hardware and software,
and examines pragmatic concerns such as failure tolerance, trade-offs in system design, and ethical and security issues.

Major topics include:

Data processing systems for ML (data lakes, streaming, data quality, ETL κλπ)

• Optimization basics (SGD, tensor processing, autodiff etc)
• HPC / accelerators for ML (hardware in general)
• Distributed ML (parameter server, edge etc)
• Production deployment (pipelines, workflows, cloud technologies, fault tolerance etc)
• Continual learning (online learning, data drift, concept drift, catastrophic forgetting etc)
• Federated learning (cross-silo vs cross-device, privacy, communication efficiency, etc)
• Security (poisoning, sybil attacks etc)
• Research topics in the above

Το μάθημα δεν διαθέτει περιγραφή