Course Outline

Μέρος 1 – Deep Learning και Έννοιες DNN


Εισαγωγή AI, Machine Learning & Deep Learning

  • Ιστορία, βασικές έννοιες και συνήθεις εφαρμογές της τεχνητής νοημοσύνης μακριά από τις φαντασιώσεις που φέρει αυτός ο τομέας

  • Συλλογική νοημοσύνη: συγκέντρωση γνώσης που μοιράζονται πολλοί εικονικοί πράκτορες

  • Γενετικοί αλγόριθμοι: για την εξέλιξη ενός πληθυσμού εικονικών πρακτόρων με επιλογή

  • Συνήθης Μηχανή Εκμάθησης: Ορισμός.

  • Τύποι εργασιών: μάθηση με επίβλεψη, μάθηση χωρίς επίβλεψη, ενισχυτική μάθηση

  • Τύποι ενεργειών: ταξινόμηση, παλινδρόμηση, ομαδοποίηση, εκτίμηση πυκνότητας, μείωση διαστάσεων

  • Παραδείγματα αλγορίθμων Machine Learning: Γραμμική παλινδρόμηση, Naive Bayes, Random Tree

  • Μηχανική μάθηση VS Deep Learning: προβλήματα στα οποία το Machine Learning παραμένει σήμερα η τελευταία λέξη της τεχνολογίας (Random Forests & XGBoosts)

Βασικές έννοιες ενός νευρωνικού δικτύου (Εφαρμογή: πολυστρωματικό perceptron)

  • Υπενθύμιση μαθηματικών βάσεων.

  • Ορισμός δικτύου νευρώνων: κλασική αρχιτεκτονική, ενεργοποίηση και

  • Στάθμιση προηγούμενων ενεργοποιήσεων, βάθος δικτύου

  • Ορισμός της εκμάθησης ενός δικτύου νευρώνων: συναρτήσεις κόστους, αντίστροφη διάδοση, στοχαστική κλίση κάθοδος, μέγιστη πιθανότητα.

  • Μοντελοποίηση νευρωνικού δικτύου: μοντελοποίηση δεδομένων εισόδου και εξόδου σύμφωνα με τον τύπο του προβλήματος (παλίνδρομο, ταξινόμηση ...). Κατάρα της διάστασης.

  • Διάκριση μεταξύ δεδομένων πολλαπλών δυνατοτήτων και σήματος. Επιλογή συνάρτησης κόστους σύμφωνα με τα δεδομένα.

  • Προσέγγιση μιας συνάρτησης από ένα δίκτυο νευρώνων: παρουσίαση και παραδείγματα

  • Προσέγγιση κατανομής από δίκτυο νευρώνων: παρουσίαση και παραδείγματα

  • Επαύξηση δεδομένων: πώς να εξισορροπήσετε ένα σύνολο δεδομένων

  • Γενίκευση των αποτελεσμάτων ενός δικτύου νευρώνων.

  • Αρχικοποίηση και τακτοποίηση ενός νευρωνικού δικτύου: Κανονισμός L1 / L2, Κανονοποίηση παρτίδας

  • Αλγόριθμοι βελτιστοποίησης και σύγκλισης

Τυπικά εργαλεία ML / DL

Προγραμματίζεται μια απλή παρουσίαση με πλεονεκτήματα, μειονεκτήματα, θέση στο οικοσύστημα και χρήση.

  • Εργαλεία διαχείρισης δεδομένων: Apache Spark, Apache Hadoop Εργαλεία

  • Machine Learning: Numpy, Scipy, Sci-kit

  • Πλαίσια υψηλού επιπέδου DL: PyTorch, Keras, Lasagne

  • Πλαίσια χαμηλού επιπέδου DL: Theano, Torch, Caffe, Tensorflow

Convolutional Neural Networks (CNN).

  • Παρουσίαση των CNN: θεμελιώδεις αρχές και εφαρμογές

  • Βασική λειτουργία ενός CNN: συνελικτικό επίπεδο, χρήση πυρήνα,

  • Επένδυση και βηματισμός, δημιουργία χαρτών χαρακτηριστικών, στρώσεις συγκέντρωσης. Επεκτάσεις 1D, 2D και 3D.

  • Παρουσίαση των διαφορετικών αρχιτεκτονικών του CNN που έφεραν την τελευταία λέξη της τεχνολογίας στην ταξινόμηση

  • Εικόνες: LeNet, VGG Networks, Network in Network, Inception, Resnet. Παρουσίαση των Καινοτομιών που επιφέρει η κάθε αρχιτεκτονική και οι πιο παγκόσμιες εφαρμογές της (Convolution 1x1 ή υπολειπόμενες συνδέσεις)

  • Χρήση μοντέλου προσοχής.

  • Εφαρμογή σε μια κοινή περίπτωση ταξινόμησης (κείμενο ή εικόνα)

  • CNN για παραγωγή: υπερ-ανάλυση, τμηματοποίηση pixel-to-pixel. Παρουσίαση του

  • Κύριες στρατηγικές για την αύξηση των χαρτών χαρακτηριστικών για τη δημιουργία εικόνων.

Επαναλαμβανόμενο Neural Networks (RNN).

  • Παρουσίαση RNN: θεμελιώδεις αρχές και εφαρμογές.

  • Βασική λειτουργία του RNN: κρυφή ενεργοποίηση, πίσω διάδοση στο χρόνο, Unfolded έκδοση.

  • Εξελίξεις προς τις Gated Recurrent Units (GRUs) και LSTM (Long Short Term Memory).

  • Παρουσίαση των διαφορετικών καταστάσεων και των εξελίξεων που φέρνουν αυτές οι αρχιτεκτονικές

  • Προβλήματα σύγκλισης και εξαφάνισης κλίσης

  • Κλασικές αρχιτεκτονικές: Πρόβλεψη χρονικής σειράς, ταξινόμηση ...

  • RNN Encoder Αρχιτεκτονική τύπου αποκωδικοποιητή. Χρήση μοντέλου προσοχής.

  • Εφαρμογές NLP: κωδικοποίηση λέξεων / χαρακτήρων, μετάφραση.

  • Εφαρμογές βίντεο: πρόβλεψη της επόμενης παραγόμενης εικόνας μιας ακολουθίας βίντεο.


Μοντέλα γενιάς: Variational AutoEncoder (VAE) και Generative Adversarial Networks (GAN).

  • Παρουσίαση των μοντέλων γενιάς, σύνδεση με τα CNN

  • Αυτόματος κωδικοποιητής: μείωση διαστάσεων και περιορισμένη παραγωγή

  • Variational Auto-encoder: μοντέλο γενιάς και προσέγγιση της κατανομής ενός δεδομένου. Ορισμός και χρήση του λανθάνοντος χώρου. Τρικ επαναπαραμετροποίησης. Εφαρμογές και Όρια που τηρήθηκαν

  • Generative Adversarial Networks: Fundamentals.

  • Αρχιτεκτονική Διπλού Δικτύου (Γεννήτρια και Διακριτικός) με εναλλακτική εκμάθηση, διαθέσιμες λειτουργίες κόστους.

  • Σύγκλιση ενός GAN και δυσκολίες που συναντήθηκαν.

  • Βελτιωμένη σύγκλιση: Wasserstein GAN, Began. Απόσταση κινούμενης γης.

  • Εφαρμογές για τη δημιουργία εικόνων ή φωτογραφιών, δημιουργία κειμένου, υπερ-ανάλυση.

Βαθύ Reinforcement Learning.

  • Παρουσίαση ενισχυτικής μάθησης: έλεγχος παράγοντα σε καθορισμένο περιβάλλον

  • Από κράτος και πιθανές ενέργειες

  • Χρήση νευρωνικού δικτύου για την προσέγγιση της συνάρτησης κατάστασης

  • Deep Q Learning: εμπειρία επανάληψης και εφαρμογή στον έλεγχο ενός βιντεοπαιχνιδιού.

  • Βελτιστοποίηση της μαθησιακής πολιτικής. Εντός πολιτικής && εκτός πολιτικής. Ηθοποιός κριτικός αρχιτεκτονική. A3C.

  • Εφαρμογές: έλεγχος ενός μόνο βιντεοπαιχνιδιού ή ψηφιακού συστήματος.

Μέρος 2 – Θεανώ για το Deep Learning

Θεανώ Βασικά

  • Εισαγωγή

  • Εγκατάσταση και Διαμόρφωση

Λειτουργίες Theano

  • εισροές, εξόδους, ενημερώσεις, δεδομένα

Εκπαίδευση και Βελτιστοποίηση νευρωνικού δικτύου με χρήση της Θεανώ

  • Μοντελοποίηση νευρωνικών δικτύων

  • Logistic Regression

  • Κρυφά Επίπεδα

  • Εκπαίδευση δικτύου

  • Υπολογισμός και Ταξινόμηση

  • Βελτιστοποίηση

  • Απώλεια ημερολογίου

Δοκιμή του μοντέλου


Μέρος 3 – DNN με χρήση Tensorflow

TensorFlow Βασικά

  • Μεταβλητές Δημιουργία, Εκκίνηση, Αποθήκευση και Επαναφορά TensorFlow

  • Feeding, Reading and Preloading TensorFlow Δεδομένα

  • Πώς να χρησιμοποιήσετε την υποδομή TensorFlow για την εκπαίδευση μοντέλων σε κλίμακα

  • Οπτικοποίηση και αξιολόγηση μοντέλων με το TensorBoard

TensorFlow Μηχανική

  • Προετοιμάστε τα Δεδομένα

  • Λήψη

  • Εισροές και Placeholders

  • Δημιουργήστε το GraphS

    • Συμπέρασμα

    • Απώλεια

    • Εκπαίδευση

  • Εκπαιδεύστε το μοντέλο

    • Το γράφημα

    • Η Συνεδρία

    • Βρόχος τρένου

  • Αξιολογήστε το μοντέλο

    • Δημιουργήστε το Eval Graph

    • Eval Output

Το Perceptron

  • Λειτουργίες ενεργοποίησης

  • Ο αλγόριθμος εκμάθησης perceptron

  • Δυαδική ταξινόμηση με το perceptron

  • Ταξινόμηση εγγράφων με το perceptron

  • Περιορισμοί του perceptron

Από το Perceptron στις Μηχανές Υποστήριξης Διανυσμάτων

  • Οι πυρήνες και το κόλπο του πυρήνα

  • Μέγιστη ταξινόμηση περιθωρίου και διανύσματα υποστήριξης

Τεχνητό Neural Networks

  • Μη γραμμικά όρια απόφασης

  • Τεχνητά νευρωνικά δίκτυα ανάδρασης και ανάδρασης

  • Πολυστρωματικά perceptrons

  • Ελαχιστοποίηση της συνάρτησης κόστους

  • Διάδοση προς τα εμπρός

  • Πίσω διάδοση

  • Βελτίωση του τρόπου με τον οποίο μαθαίνουν τα νευρωνικά δίκτυα

Συνελικτικό Neural Networks

  • Goals

  • Αρχιτεκτονική Μοντέλων

  • Αρχές

  • Οργάνωση κώδικα

  • Εκκίνηση και εκπαίδευση του μοντέλου

  • Αξιολόγηση ενός μοντέλου

Βασικές εισαγωγές που πρέπει να δοθούν στις παρακάτω ενότητες (Σύντομη εισαγωγή θα παρέχεται με βάση τη διαθεσιμότητα χρόνου):

Tensorflow - Προηγμένη χρήση

  • Threading και ουρές

  • Διανεμήθηκε TensorFlow

  • Γράψιμο Documentation και κοινή χρήση του μοντέλου σας

  • Προσαρμογή προγραμμάτων ανάγνωσης δεδομένων

  • Χειρισμός TensorFlow Μοντέλων Αρχείων


TensorFlow Σερβίρισμα

  • Εισαγωγή

  • Βασικό σεμινάριο εξυπηρέτησης

  • Οδηγός προηγμένης εξυπηρέτησης

  • Οδηγός Serving Inception Model

Requirements

Υπόβαθρο στη φυσική, τα μαθηματικά και τον προγραμματισμό. Συμμετοχή σε δραστηριότητες επεξεργασίας εικόνας.

Οι εκπρόσωποι θα πρέπει να έχουν προηγούμενη κατανόηση των εννοιών της μηχανικής μάθησης και θα πρέπει να έχουν εργαστεί στον προγραμματισμό και τις βιβλιοθήκες Python.

 35 Hours

Number of participants


Price per participant

Testimonials (5)

Upcoming Courses

Related Categories