Course Outline

Το μάθημα χωρίζεται σε τρεις ξεχωριστές ημέρες, η τρίτη είναι προαιρετική.

Ημέρα 1 - Machine Learning & Deep Learning: θεωρητικές έννοιες

1. Εισαγωγή IA, Machine Learning & Deep Learning

- Ιστορία, θεμελιώδεις έννοιες και συνήθεις εφαρμογές της τεχνητής νοημοσύνης μακριά από τις φαντασιώσεις αυτού του τομέα

- Συλλογική νοημοσύνη: συγκεντρωτική γνώση που μοιράζονται πολλοί εικονικοί πράκτορες

- Γενετικοί αλγόριθμοι: εξέλιξη ενός πληθυσμού εικονικών πρακτόρων με επιλογή

- Machine Learning συνηθισμένο: ορισμός.

- Types de tâches : μάθηση με επίβλεψη, μάθηση χωρίς επίβλεψη, ενισχυτική μάθηση

- Τύποι ενεργειών: ταξινόμηση, παλινδρόμηση, ομαδοποίηση, εκτίμηση πυκνότητας, μείωση διαστάσεων

- Παραδείγματα αλγορίθμων Machine Learning: Γραμμική παλινδρόμηση, Naive Bayes, Random Tree

- Μηχανική μάθηση VS Deep Learning: προβλήματα στα οποία η Μηχανική Εκμάθηση παραμένει η τελευταία λέξη της τεχνολογίας σήμερα (Random Forests & XGBoosts)

2. Θεμελιώδεις έννοιες ενός νευρωνικού δικτύου (Εφαρμογή: πολυστρωματικό perceptron)

- Υπενθύμιση βασικών μαθηματικών.

- Ορισμός νευρωνικού δικτύου: κλασική αρχιτεκτονική, συναρτήσεις ενεργοποίησης και στάθμισης προηγούμενων ενεργοποιήσεων, βάθος δικτύου

- Ορισμός της εκμάθησης ενός νευρωνικού δικτύου: συναρτήσεις κόστους, αντίστροφη διάδοση, στοχαστική κλίση κάθοδος, μέγιστη πιθανότητα.

- Μοντελοποίηση νευρωνικού δικτύου: μοντελοποίηση δεδομένων εισόδου και εξόδου ανάλογα με το είδος του προβλήματος (παλίνδρομο, ταξινόμηση κ.λπ.). Κατάρα της διάστασης. Διάκριση μεταξύ δεδομένων πολλαπλών δυνατοτήτων και σήματος. Επιλογή συνάρτησης κόστους σύμφωνα με τα δεδομένα.

- Προσεγγίστε μια συνάρτηση χρησιμοποιώντας ένα νευρωνικό δίκτυο: παρουσίαση και παραδείγματα

- Προσέγγιση κατανομής με χρήση νευρωνικού δικτύου: παρουσίαση και παραδείγματα

- Επαύξηση δεδομένων: πώς να εξισορροπήσετε ένα σύνολο δεδομένων

- Γενίκευση των αποτελεσμάτων ενός νευρωνικού δικτύου.

- Αρχικοποιήσεις και ρυθμίσεις ενός νευρωνικού δικτύου: Κανονισμός L1/L2, Κανονοποίηση παρτίδας...

- Βελτιστοποιήσεις και αλγόριθμοι σύγκλισης.

3. Κοινά εργαλεία ML/DL

Προγραμματίζεται μια απλή παρουσίαση με πλεονεκτήματα, μειονεκτήματα, θέση στο οικοσύστημα και χρήση.

- Εργαλεία διαχείρισης δεδομένων: Apache Spark, Apache Hadoop

- Συνήθη εργαλεία Machine Learning: Numpy, Scipy, Sci-kit

- Frameworks DL σήμερα επίπεδο: PyTorch, Keras, Lasagne

- Πλαίσια DL χαμηλού επιπέδου: Theano, Torch, Caffe, Tensorflow

 

Ημέρα 2 – Συνελικτικά και Επαναλαμβανόμενα Δίκτυα

4. Συνελικτικό Neural Networks (CNN).

- Παρουσίαση CNN: θεμελιώδεις αρχές και εφαρμογές

- Βασική λειτουργία ενός CNN: συνελικτικό επίπεδο, χρήση πυρήνα, padding & stride, δημιουργία χαρτών χαρακτηριστικών, επίπεδα τύπου «ομαδοποίησης». 1D, 2D και 3D επεκτάσεις.

- Παρουσίαση των διαφορετικών αρχιτεκτονικών του CNN που έχουν φέρει την τελευταία λέξη της τεχνολογίας στην ταξινόμηση εικόνων: LeNet, VGG Networks, Network in Network, Inception, Resnet. Παρουσίαση των καινοτομιών που φέρνει κάθε αρχιτεκτονική και των πιο παγκόσμιων εφαρμογών της (Συνέλιξη 1x1 ή υπολειπόμενες συνδέσεις)

- Χρήση μοντέλου προσοχής.

- Εφαρμογή σε ένα συνηθισμένο σενάριο ταξινόμησης (κείμενο ή εικόνα)

- CNN για παραγωγή: υπερ-ανάλυση, τμηματοποίηση pixel-by-pixel. Παρουσίαση των κύριων στρατηγικών για την αύξηση των χαρτών χαρακτηριστικών για τη δημιουργία εικόνας.

5. Επαναλαμβανόμενο Neural Networks (RNN).

- Παρουσίαση RNN: θεμελιώδεις αρχές και εφαρμογές.

- Fonctionnement fondamental du RNN : κρυφή ενεργοποίηση, πίσω διάδοση στο χρόνο, ξεδιπλωμένη έκδοση.

- Εξελίξεις προς GRU (Περιφρασμένες επαναλαμβανόμενες μονάδες) και LSTM (Μακροπρόθεσμη Μνήμη). Παρουσίαση των διαφορετικών καταστάσεων και των εξελίξεων που επιφέρουν αυτές οι αρχιτεκτονικές

- Προβλήματα σύγκλισης και εξαφάνισης κλίσης

- Τύποι κλασικών αρχιτεκτονικών: Πρόβλεψη χρονολογικής σειράς, ταξινόμηση...

- Αρχιτεκτονική τύπου αποκωδικοποιητή RNN Encoder. Χρησιμοποιώντας ένα μοντέλο προσοχής.

- Εφαρμογές NLP : κωδικοποίηση λέξης/χαρακτήρα, μετάδοση.

- Εφαρμογές βίντεο: πρόβλεψη της επόμενης παραγόμενης εικόνας μιας ακολουθίας βίντεο.

 

Ημέρα 3 – Μοντέλα γενιάς και Reinforcement Learning

6. Μοντέλα γενιάς: Variational AutoEncoder (VAE) και Generative Adversarial Networks (GAN).

- Παρουσίαση μοντέλων γενιάς, σύνδεση με CNN που προβλήθηκαν την ημέρα 2

- Αυτόματη κωδικοποίηση: μείωση διαστάσεων και περιορισμένη παραγωγή

- Variational Auto-encoder: μοντέλο παραγωγής και προσέγγιση της κατανομής των δεδομένων. Ορισμός και χρήση του λανθάνοντος χώρου. Τρικ επαναπαραμετροποίησης. Εφαρμογές και τηρούμενα όρια

- Generative Adversarial Networks: θεμελιώδεις αρχές. Αρχιτεκτονική δύο δικτύων (γεννήτρια και διαχωριστής) με εναλλασσόμενη μάθηση, διαθέσιμες λειτουργίες κόστους.

- Σύγκλιση ενός GAN και δυσκολίες που συναντήθηκαν.

- Βελτιωμένη σύγκλιση: Wasserstein GAN, BeGAN. Απόσταση κινούμενης γης.

- Εφαρμογές για δημιουργία εικόνων ή φωτογραφιών, δημιουργία κειμένου, σούπερ ανάλυση.

7. Βαθύ Reinforcement Learning.

- Παρουσίαση ενισχυτικής μάθησης: έλεγχος ενός παράγοντα σε ένα περιβάλλον που ορίζεται από μια κατάσταση και πιθανές ενέργειες

- Χρήση νευρωνικού δικτύου για την προσέγγιση της συνάρτησης κατάστασης

- Deep Q Learning: εμπειρία επανάληψης και εφαρμογή στον έλεγχο ενός βιντεοπαιχνιδιού.

- Βελτιστοποιήσεις της μαθησιακής πολιτικής. Εντός πολιτικής && εκτός πολιτικής. Ηθοποιός κριτική αρχιτεκτονική. A3C.

- Εφαρμογές: έλεγχος απλού βιντεοπαιχνιδιού ή ψηφιακού συστήματος.

Requirements

Επίπεδο μηχανικού

 21 Hours

Number of participants



Price per participant

Related Courses

Advanced Stable Diffusion: Deep Learning for Text-to-Image Generation

21 Hours

Related Categories