Course Outline

Μέρος 1 – Deep Learning και Έννοιες DNN

Εισαγωγή AI, Machine Learning & Deep Learning

    Ιστορία, βασικές έννοιες και συνήθεις εφαρμογές της τεχνητής νοημοσύνης μακριά Από τις φαντασιώσεις που φέρει αυτός ο τομέας Συλλογική Νοημοσύνη: συγκεντρωτική γνώση που μοιράζονται πολλοί εικονικοί πράκτορες Γενετικοί αλγόριθμοι: εξέλιξη ενός πληθυσμού εικονικών πρακτόρων με επιλογή Συνήθης μηχανή εκμάθησης: ορισμός. Τύποι εργασιών: εποπτευόμενη μάθηση, μάθηση χωρίς επίβλεψη, ενισχυτική μάθηση Τύποι ενεργειών: ταξινόμηση, παλινδρόμηση, ομαδοποίηση, εκτίμηση πυκνότητας, μείωση διαστάσεων Παραδείγματα αλγορίθμων μηχανικής μάθησης: Γραμμική παλινδρόμηση, Naive Bayes, Μηχανική μάθηση τυχαίας δέντρου VS Deep Learning: προβλήματα σχετικά με ποια η Μηχανική Μάθηση παραμένει σήμερα η τελευταία λέξη της τεχνολογίας (Random Forests & XGBoosts)

 

Βασικές έννοιες ενός νευρωνικού δικτύου (Εφαρμογή: πολυστρωματικό perceptron)

    Υπενθύμιση μαθηματικών βάσεων. Ορισμός δικτύου νευρώνων: κλασική αρχιτεκτονική, ενεργοποίηση και στάθμιση προηγούμενων ενεργοποιήσεων, βάθος δικτύου Ορισμός εκμάθησης δικτύου νευρώνων: συναρτήσεις κόστους, αντίστροφη διάδοση, στοχαστική κλίση κάθοδος, μέγιστη πιθανότητα. Μοντελοποίηση νευρωνικού δικτύου: μοντελοποίηση δεδομένων εισόδου και εξόδου σύμφωνα με τον τύπο του προβλήματος (παλίνδρομο, ταξινόμηση ...). Κατάρα της διάστασης. Διάκριση μεταξύ δεδομένων πολλαπλών δυνατοτήτων και σήματος. Επιλογή συνάρτησης κόστους σύμφωνα με τα δεδομένα. Προσέγγιση μιας συνάρτησης από ένα δίκτυο νευρώνων: παρουσίαση και παραδείγματα Προσέγγιση μιας κατανομής από ένα δίκτυο νευρώνων: παρουσίαση και παραδείγματα Αύξηση δεδομένων: πώς να εξισορροπήσετε ένα σύνολο δεδομένων Γενίκευση των αποτελεσμάτων ενός δικτύου νευρώνων. Αρχικοποίηση και τακτοποίηση ενός νευρωνικού δικτύου: Τακτοποίηση L1 / L2, κανονικοποίηση παρτίδας Βελτιστοποίηση και αλγόριθμοι σύγκλισης

 

Τυπικά εργαλεία ML / DL

Προγραμματίζεται μια απλή παρουσίαση με πλεονεκτήματα, μειονεκτήματα, θέση στο οικοσύστημα και χρήση.

    Εργαλεία διαχείρισης δεδομένων: Apache Spark, Apache Hadoop Tools Machine Learning: Numpy, Scipy, Sci-kit DL πλαίσια υψηλού επιπέδου: PyTorch, Keras, Lasagne Πλαίσια χαμηλού επιπέδου DL: Theano, Torch, Caffe, Tensorflow

 

Convolutional Neural Networks (CNN).

    Παρουσίαση των CNN: θεμελιώδεις αρχές και εφαρμογές Βασική λειτουργία ενός CNN: συνελικτικό επίπεδο, χρήση πυρήνα, Padding & stride, δημιουργία χαρτών χαρακτηριστικών, επίπεδα συγκέντρωσης. Επεκτάσεις 1D, 2D και 3D. Παρουσίαση των διαφορετικών αρχιτεκτονικών του CNN που έφεραν την τελευταία λέξη της τεχνολογίας στην ταξινόμηση Εικόνες: LeNet, VGG Networks, Network in Network, Inception, Resnet. Παρουσίαση των Καινοτομιών που επιφέρει η κάθε αρχιτεκτονική και οι πιο παγκόσμιες εφαρμογές της (Συνέλιξη 1x1 ή υπολειπόμενες συνδέσεις) Χρήση μοντέλου προσοχής. Εφαρμογή σε μια κοινή περίπτωση ταξινόμησης (κείμενο ή εικόνα) CNN για παραγωγή: υπερ-ανάλυση, τμηματοποίηση pixel-to-pixel. Παρουσίαση Κύριων στρατηγικών για την αύξηση των χαρτών χαρακτηριστικών για τη δημιουργία εικόνων.

 

Επαναλαμβανόμενο Neural Networks (RNN).

    Παρουσίαση RNN: θεμελιώδεις αρχές και εφαρμογές. Βασική λειτουργία του RNN: κρυφή ενεργοποίηση, πίσω διάδοση στο χρόνο, Unfolded έκδοση. Εξελίξεις προς τις Gated Recurrent Units (GRUs) και LSTM (Long Short Term Memory). Παρουσίαση των διαφορετικών καταστάσεων και των εξελίξεων που επιφέρουν αυτές οι αρχιτεκτονικές Προβλήματα σύγκλισης και εξαφάνισης κλίσης Κλασικές αρχιτεκτονικές: Πρόβλεψη χρονικής σειράς, ταξινόμηση ... Κωδικοποιητής RNN Αρχιτεκτονική τύπου αποκωδικοποιητή. Χρήση μοντέλου προσοχής. Εφαρμογές NLP: κωδικοποίηση λέξης / χαρακτήρων, μετάφραση. Εφαρμογές βίντεο: πρόβλεψη της επόμενης παραγόμενης εικόνας μιας ακολουθίας βίντεο.

Μοντέλα γενιάς: Variational AutoEncoder (VAE) και Generative Adversarial Networks (GAN).

    Παρουσίαση των μοντέλων γενιάς, σύνδεση με τα CNN Auto-encoder: μείωση διαστάσεων και περιορισμένης γενιάς Variational Auto-encoder: μοντέλο γενιάς και προσέγγιση της κατανομής ενός δεδομένου. Ορισμός και χρήση του λανθάνοντος χώρου. Τρικ επαναπαραμετροποίησης. Εφαρμογές και όρια που παρατηρήθηκαν Generative Adversarial Networks: Fundamentals. Αρχιτεκτονική Διπλού Δικτύου (Γεννήτρια και Διακριτικός) με εναλλακτική εκμάθηση, διαθέσιμες λειτουργίες κόστους. Σύγκλιση ενός GAN και δυσκολίες που συναντήθηκαν. Βελτιωμένη σύγκλιση: Wasserstein GAN, Began. Απόσταση κινούμενης γης. Εφαρμογές για τη δημιουργία εικόνων ή φωτογραφιών, δημιουργία κειμένου, υπερ-ανάλυση.

Βαθύ Reinforcement Learning.

    Παρουσίαση ενισχυτικής μάθησης: έλεγχος πράκτορα σε καθορισμένο περιβάλλον Κατά κατάσταση και πιθανές ενέργειες Χρήση νευρωνικού δικτύου για την προσέγγιση της συνάρτησης κατάστασης Deep Q Learning: εμπειρία επανάληψης και εφαρμογή στον έλεγχο ενός βιντεοπαιχνιδιού. Βελτιστοποίηση της μαθησιακής πολιτικής. Εντός πολιτικής && εκτός πολιτικής. Ηθοποιός κριτικός αρχιτεκτονική. A3C. Εφαρμογές: έλεγχος ενός μόνο βιντεοπαιχνιδιού ή ψηφιακού συστήματος.

 

Part 2 – Theano for Deep Learning

Θεανώ Βασικά

    Εισαγωγή Εγκατάσταση και Διαμόρφωση

Λειτουργίες Theano

    εισροές, εξόδους, ενημερώσεις, δεδομένα

Εκπαίδευση και Βελτιστοποίηση νευρωνικού δικτύου με χρήση της Θεανώ

    Μοντελοποίηση νευρωνικών δικτύων Logistic Regression Hidden Layers Εκπαίδευση δικτύου Υπολογισμός και βελτιστοποίηση ταξινόμησης Απώλεια καταγραφής

Δοκιμή του μοντέλου

Μέρος 3 – DNN με χρήση Tensorflow

TensorFlow Βασικά στοιχεία

    Δημιουργία, αρχικοποίηση, αποθήκευση και επαναφορά TensorFlow μεταβλητών Τροφοδοσία, ανάγνωση και προφόρτωση δεδομένων TensorFlow Δεδομένα Τρόπος χρήσης TensorFlow υποδομής για εκπαίδευση μοντέλων σε κλίμακα Οπτικοποίηση και αξιολόγηση μοντέλων με το TensorBoard

TensorFlow Μηχανική

    Προετοιμασία των εισόδων λήψης δεδομένων και των θέσεων κράτησης θέσης Δημιουργία του GraphS Inference Loss Training
Εκπαιδεύστε το μοντέλο The Graph
  • Η Συνεδρία
  • Βρόχος τρένου
  • Αξιολογήστε το μοντέλο Δημιουργήστε το γράφημα Eval
  • Eval Output
  • Το Perceptron
  • Συναρτήσεις ενεργοποίησης Ο αλγόριθμος εκμάθησης perceptron Δυαδική ταξινόμηση με το perceptron Ταξινόμηση εγγράφων με το perceptron Περιορισμοί του perceptron
  • Από το Perceptron στις Μηχανές Υποστήριξης Διανυσμάτων

      Πυρήνες και το κόλπο του πυρήνα Ταξινόμηση μέγιστου περιθωρίου και διανύσματα υποστήριξης

    Τεχνητό Neural Networks

      Μη γραμμικά όρια απόφασης Ανατροφοδότηση και ανάδραση τεχνητά νευρωνικά δίκτυα Πολυστρωματικά perceptron Ελαχιστοποίηση της συνάρτησης κόστους Εμπρός διάδοση Διάδοση προς τα πίσω Βελτίωση του τρόπου με τον οποίο μαθαίνουν τα νευρωνικά δίκτυα

    Συνελικτικό Neural Networks

      Go als Model Architecture Principles Code Organisation Launching and Training the Model Evaluating a Model

     

      Βασικές εισαγωγές που πρέπει να δοθούν στις παρακάτω ενότητες (Σύντομη εισαγωγή θα παρέχεται με βάση τη διαθεσιμότητα χρόνου):

    Tensorflow - Προηγμένη χρήση

    Διανομή νημάτων και ουρών TensorFlow Συγγραφή τεκμηρίωσης και κοινή χρήση του μοντέλου σας Προσαρμογή αναγνωστών δεδομένων Χειρισμός TensorFlow αρχείων μοντέλου

    TensorFlow Σερβίρισμα

      Εισαγωγή Βασικό σεμινάριο υπηρεσίας Εκμάθηση προηγμένης υπηρεσίας Εκμάθηση μοντέλου έναρξης εξυπηρέτησης

    Requirements

    Υπόβαθρο στη φυσική, τα μαθηματικά και τον προγραμματισμό. Συμμετοχή σε δραστηριότητες επεξεργασίας εικόνας.

    Οι εκπρόσωποι θα πρέπει να έχουν προηγούμενη κατανόηση των εννοιών της μηχανικής μάθησης και θα πρέπει να έχουν εργαστεί στον προγραμματισμό και τις βιβλιοθήκες Python.

      35 Hours

    Number of participants


    Starts

    Ends


    Dates are subject to availability and take place between 09:30 and 16:30.

    Price per participant

    Related Courses

    Deep Learning with TensorFlow

      21 Hours

    Natural Language Processing (NLP) with TensorFlow

      35 Hours

    Embedding Projector: Visualizing Your Training Data

      14 Hours

    Related Categories