Ευχαριστούμε που στάλθηκε η αποσαφήνισή σας! Ένα μέλος της ομάδου μας θα επικοινωνήσει μαζί σας σύντομα.
Ευχαριστούμε για την εκδήλωση κράτησης! Ένας από τους συνεργάτες μας θα επικοινωνήσει μαζί σας σύντομα.
Εξέλιξη Κομματιού
Εισαγωγή στο Parameter-Efficient Fine-Tuning (PEFT)
- Προκλήσεις και περιορισμοί του πλήρους fine-tuning
- Επισκόπηση του PEFT: στόχοι και οφέλη
- Εφαρμογές και use cases στον βιομηχανικό τομέα
LoRA (Low-Rank Adaptation)
- Εννοια και διαισθητική κατανόηση του LoRA
- Εφαρμογή LoRA χρησιμοποιώντας Hugging Face και PyTorch
- Праκτική: Προσαρμογή μοντέλου με LoRA
Adapter Tuning
- Λειτουργία των modules adapter
- Ενσωμάτωση σε μοντέλα βασισμένα σε transformers
- Праκτική: Εφαρμογή Adapter Tuning σε μοντέλο transformer
Prefix Tuning
- Χρήση soft prompts για fine-tuning
- Δυναμικά και περιορισμοί σε σύγκριση με LoRA και adapters
- Праκτική: Prefix Tuning σε ένα έργο LLM
Αξιολόγηση και Σύγκριση Μεθόδων PEFT
- Μετρικές για την αξιολόγηση απόδοσης και αποδοτικότητας
- Συμβιβασμοί στη ταχύτητα εκπαίδευσης, χρήση μνήμης και ακρίβεια
- Πειραματική αξιολόγηση benchmark και ερμηνεία αποτελεσμάτων
Δημιουργία Προσαρμοσμένων Μοντέλων
- Αποθήκευση και φόρτωση προσαρμοσμένων μοντέλων
- Συνηγορίες για τη δημιουργία μοντέλων βασισμένων σε PEFT
- Ενσωμάτωση σε εφαρμογές και pipelines
Πraktikες & Επεκτάσεις
- Συνδυασμός PEFT με κβαντισμό και distillation
- Χρήση σε περιβάλλοντα χαμηλών πόρων και πολυγλωσσικά πλαίσια
- Μελλοντικές κατευθύνσεις και ενεργές περιοχές έρευνας
Απαιτήσεις
- Κατανόηση των βασικών του machine learning
- Εμπειρία στη δουλειά με μεγάλα μοντέλα γλωσσών (LLMs)
- Οικειότητα με Python και PyTorch
Κοινό-Στόχος
- Data scientists
- Μηχανικοί AI
14 Ώρες
