Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Εισαγωγή στο EXO και την Τοπική Συστάδα AI

  • Επισκόπηση του πλαισίου EXO και του οικοσυστήματος exo-explore
  • Σύγκριση κεντρικοποιημένης εξαγωγής cloud vs κατανεμημένης τοπικής εξαγωγής
  • Αρχιτεκτονική: εντοπισμός συσκευών libp2p, οπισθόδεσμο MLX, πίνακας ελέγχου και στρώσεις API
  • Απαιτήσεις υλικού: Apple Silicon (M3 Ultra, M4 Pro/Max), Thunderbolt 5, κοινόχρηστη αποθήκευση

Εγκατάσταση του EXO στο macOS

  • Ρύθμιση του Xcode, του Metal ToolChain και των προαπαιτούμενων για macOS
  • Εγκατάσταση των uv, Node.js, και της nightly έκδοσης του Rust toolchain
  • Εγκατάσταση της καθορισμένης εκδοχής macmon fork για παρακολούθηση Apple Silicon
  • Cloning του αποθετηρίου και δημιουργία του πίνακα ελέγχου με npm
  • Εκτέλεση του EXO από τον πηγαίο κώδικα και επαλήθευση του πίνακα ελέγχου στο localhost:52415

Εγκατάσταση του EXO στο Linux

  • Εγκατάσταση εξαρτήσεων μέσω apt ή Homebrew στο Linux
  • Διαμόρφωση των uv, Node.js 18+, και της nightly έκδοσης του Rust
  • Δημιουργία του πίνακα ελέγχου και εκτέλεση του EXO σε λειτουργία μόνο CPU
  • Διάταξη φακέλων: διαδρομές XDG Base Directory για ρυθμίσεις, δεδομένα, προσωρινή μνήμη και αρχεία καταγραφής

Αυτός Εντοπισμός Συσκευών και Σχηματισμός Συστάδας

  • Κατανόηση του αυτομάτου εντοπισμού βασισμένου σε libp2p σε τοπικά δίκτυα
  • Διαμόρφωση προσαρμοσμένων ονομάτων με το EXO_LIBP2P_NAMESPACE για απομόνωση συστάδας
  • Επαλήθευση της συμμετοχής κόμβου στην προβολή συστάδας του πίνακα ελέγχου
  • Αντιμετώπιση αποτυχιών εντοπισμού και προβλημάτων τμηματοποίησης δικτύου

Ενεργοποίηση του RDMA μέσω Thunderbolt 5

  • Αρχιτεκτονική RDMA και η ισχυρισμός μείωσης καθυστέρησης κατά 99 τοις εκατό
  • Ενεργοποίηση RDMA σε κατάσταση ανάκτησης macOS με το rdma_ctl
  • Απαιτήσεις καλωδίων και περιορισμοί τοπολογίας θυρών στο Mac Studio
  • Ταίριασμα των εκδόσεων macOS σε όλους τους κόμβους της συστάδας
  • Αντιμετώπιση προβλημάτων εντοπισμού RDMA και διαμόρφωσης DHCP

Ανάπτυξη Μοντέλων Προηγμένης Τεχνολογίας

  • Χρήση του πίνακα ελέγχου για φόρτωση και τμηματοποίηση μοντέλων DeepSeek v3.1, Qwen3-235B και οικογένειας Llama
  • Προεπισκόπηση τοποθετήσεων στιγμιότυπων με το σημείο άκρου API /instance/previews
  • Δημιουργία στιγμιότυπων μοντέλου με τμηματοποίηση γραμμής παραγωγής ή τανυστών
  • Διαμόρφωση προσαρμοσμένων καρτών μοντέλου από το HuggingFace hub

Παρακολούθηση και Αντιμετώπιση Προβλημάτων

  • Ανάγνωση αρχείων καταγραφής EXO και κατανόηση της κατανεμημένης παρακολούθησης
  • Ερμηνεία της υγείας της συστάδας στην προβολή συστάδας του πίνακα ελέγχου
  • Διάγνωση αποτυχιών κόμβου εργασιών και συμπεριφοράς επανασύνδεσης
  • Χρήση του EXO_TRACING_ENABLED για ανάλυση συλλαμβάνων απόδοσης

Συντήρηση και Ενημερώσεις Συστάδας

  • Ενημέρωση των εκτελέσιμων αρχείων EXO και διαδικασίες επαναδημιουργίας πίνακα ελέγχου
  • Μεταφορά προσωρινών μνήμες μοντέλων και διαχείριση προ-κατεβασμένων μοντέλων μέσω NFS
  • Απαλή αφαίρεση κόμβων και επαναζύγιση φορτίων εργασίας

Απαιτήσεις

  • Κατανόηση των θεμελιωδών αρχών των δικτύων (IP, υποδικτύωση, τοιχοπερίφραξη)
  • Εμπειρία με τη διαχείριση της γραμμής εντολών στο macOS ή Linux
  • Γνωριμία με τη διαχείριση πακέτων Python (pip/uv) και τα εργαλεία Node.js

Κοινό Στόχος

  • Συστημικοί διαχειριστές
  • Μηχανικοί DevOps
  • Αρχιτέκτονες υποδοχής AI υπεύθυνοι για την ανάπτυξη LLM εντός εταιρείας
 21 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Εφεξής Μαθήματα

Σχετικές Κατηγορίες