Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Υποδομή ως Κώδικας για το EXO

  • Επισκόπηση των μοτίβων ανάπτυξης του EXO: συμπλέγματα μονού κόμβου, πολλαπλών κόμβων και RDMA
  • Αυτοματοποίηση εγκατάστασης εξαρτήσεων (Xcode, uv, Node.js, Rust) με διαχείριση παραμετροποίησης
  • Χρήση των Nix flakes για επαναλήψιμες εκδόσεις (builds) του EXO και περιβάλλοντα ανάπτυξης
  • Σύνταξη Ansible playbooks ή shell scripts για αυτόνομη τροφοδότηση συμπλεγμάτων

Επαναλήψιμες Εκδόσεις (Builds) και Ενσωμάτωση CI

  • Καθορισμός εκδόσεων εξαρτήσεων (pinning) και δημιουργία του dashboard σε pipelines CI
  • Εκτέλεση δοκιμών ορθής λειτουργίας (smoke tests) του EXO σε GitHub Actions ή GitLab CI runners
  • Δημιουργία χρυσών ειδώλων (golden images) και ροών εργασίας επαναφοράς βασισμένων σε στιγμιότυπα για εικονικές μηχανές macOS και Linux
  • Δημιουργία εκδόσεων για προσαρμοσμένες κάρτες μοντέλων παράλληλα με τον κώδικα της εφαρμογής

Αυτοματισμός Ανακάλυψης Συμπλέγματος και Δικτύωσης

  • Παραμετροποίηση mDNS και στατικού DNS για αξιόπιστη ανακάλυψη κόμβων libp2p
  • Αυτοματοποίηση δημιουργίας προφίλ δικτύου και διαχείρισης γέφυρας Thunderbolt σε macOS
  • Χρήση προσαρμοσμένων χώρων ονομάτων (EXO_LIBP2P_NAMESPACE) για διαχωρισμό συμπλεγμάτων ανάπτυξης, σταδιοποίησης και παραγωγής
  • Κανόνες τείχους προστασίας και κατάτμηση δικτύου για περιβάλλοντα πολλαπλών ενοικιαστών

Διαχείριση Αποθήκευσης και Κύκλου Ζωής Μοντέλων

  • Σχεδιασμός στρατηγικών για τις μεταβλητές EXO_MODELS_DIRS και EXO_MODELS_READ_ONLY_DIRS
  • Προσάρτηση κοινόχρηστων πόρων NFS ή SAN ως αποθετήρια μοντέλων μόνο για ανάγνωση για γρήγορη τροφοδότηση
  • Συλλογή απορριμμάτων (garbage collection) παλαιών κρυφών μνημών και πολιτικές διατήρησης βαρών με εκδόσεις
  • Αυτοματοποίηση προ-λήψεων μοντέλων και ελέγχων υγείας πριν από κλιμακούμενες ενημερώσεις

Παρακολούθηση και Ειδοποίηση

  • Αποστολή αρχείων καταγραφής του EXO σε κεντρικοποιημένα συστήματα καταγραφής (ELK, Loki ή Splunk)
  • Δημιουργία ταμπλό Grafana από την έξοδο του EXO_TRACING_ENABLED
  • Ειδοποίηση για αλλαγές στη σύνθεση του συμπλέγματος, συμβάντα εξάντλησης μνήμης (ΟΟΜ) και αιχμές καθυστέρησης συμπερασμού
  • Συσχέτιση τηλεμετρίας υλικού της macmon με υποβαθμίσεις απόδοσης μοντέλων

Ενημέρωση, Επαναφορά και Ανάκτηση από Καταστροφή

  • Σταδιοποίηση ενημερώσεων εκτελέσιμων αρχείων EXO σε έναν δοκιμαστικό κόμβο (canary) πριν από τη διάθεση σε ολόκληρο τον στόλο
  • Επαναφορά σε επίπεδο μοντέλου: εναλλαγή μεταξύ κβαντισμένων εκδόσεων χωρίς εκ νέου λήψη
  • Δημιουργία αντιγράφων ασφαλείας και επαναφορά κατάστασης συμπλέγματος, προσαρμοσμένων χώρων ονομάτων και αποθηκευμένων βαρών
  • Τεκμηρίωση εγχειριδίων ανάκτησης για σενάρια πλήρους αναδόμησης συμπλέγματος

Ενίσχυση Ασφάλειας και Συμμόρφωση

  • Εφαρμογή TLS στο επίπεδο αντίστροφου διακομιστή μεσολάβησης (nginx, traefik) για το dashboard και το API
  • Υλοποίηση περιορισμού ρυθμού API και λίστας επιτρεπόμενων IP για τα endpoints του EXO
  • Απομόνωση συμπλεγμάτων με VLAN και πολιτικές δικτύου μηδενικής εμπιστοσύνης
  • Έλεγχος πρόσβασης και διατήρηση απογραφής των αναπτυγμένων μοντέλων και εκδόσεων

Απαιτήσεις

  • Εμπειρία με πρακτικές DevOps (CI/CD, IaC, ενορχήστρωση containers)
  • Εξοικείωση με τη διαχείριση συστημάτων macOS ή Linux και τη διαχείριση πακέτων
  • Κατανόηση εννοιών δικτύωσης, DNS και αποθήκευσης

Ακροατήριο

  • Μηχανικοί DevOps
  • Αρχιτέκτονες υποδομών
  • Μηχανικοί Αξιοπιστίας Ιστοτόπου (SRE) υπεύθυνοι για φόρτους εργασίας τεχνητής νοημοσύνης εσωτερικής εγκατάστασης (on-premise)
 21 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Σχόλια (2)

Εφεξής Μαθήματα

Σχετικές Κατηγορίες