Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Επισκόπηση της Αρχιτεκτονικής LLM και της Επιφάνειας Επίθεσης

  • Πώς δημιουργούνται, αναπτύσσονται και προσπελάζονται τα LLM μέσω API
  • Βασικά στοιχεία στις στοίβες εφαρμογών LLM (π.χ. prompts, πράκτορες, μνήμη, API)
  • Πού και πώς προκύπτουν ζητήματα ασφαλείας σε πραγματική χρήση

Επιθέσεις Prompt Injection και Jailbreak

  • Τι είναι το prompt injection και γιατί είναι επικίνδυνο
  • Σενάρια άμεσου και έμμεσου prompt injection
  • Τεχνικές jailbreaking για παράκαμψη φίλτρων ασφαλείας
  • Στρατηγικές ανίχνευσης και μετριασμού

Κίνδυνοι Διαρροής Δεδομένων και Ιδιωτικότητας

  • Ακούσια έκθεση δεδομένων μέσω απαντήσεων
  • Διαρροές PII και κατάχρηση μνήμης μοντέλων
  • Σχεδιασμός prompts με επίγνωση ιδιωτικότητας και retrieval-augmented generation (RAG)

Φιλτράρισμα και Θωράκιση Εξόδου LLM

  • Χρήση του Guardrails AI για φιλτράρισμα περιεχομένου και επικύρωση
  • Καθορισμός σχημάτων και περιορισμών εξόδου
  • Παρακολούθηση και καταγραφή μη ασφαλών εξόδων

Προσεγγίσεις Human-in-the-Loop και Ροών Εργασίας

  • Πού και πότε να εισαχθεί η ανθρώπινη επίβλεψη
  • Ουρές έγκρισης, κατώτατα όρια βαθμολογίας, χειρισμός εφεδρικών λύσεων
  • Βαθμονόμηση εμπιστοσύνης και ο ρόλος της εξηγησιμότητας

Σχεδιαστικά Πρότυπα Ασφαλών Εφαρμογών LLM

  • Ελάχιστο προνόμιο και sandboxing για κλήσεις API και πράκτορες
  • Περιορισμός ρυθμού, στραγγαλισμός και ανίχνευση κατάχρησης
  • Ισχυρή αλυσίδωση με LangChain και απομόνωση prompts

Συμμόρφωση, Καταγραφή και Διακυβέρνηση

  • Διασφάλιση της δυνατότητας ελέγχου των εξόδων LLM
  • Διατήρηση ιχνηλασιμότητας και ελέγχου εκδόσεων prompts
  • Ευθυγράμμιση με εσωτερικές πολιτικές ασφαλείας και κανονιστικές απαιτήσεις

Σύνοψη και Επόμενα Βήματα

Απαιτήσεις

  • Κατανόηση των μεγάλων γλωσσικών μοντέλων και των διασυνδέσεων βασισμένων σε prompts
  • Εμπειρία στη δημιουργία εφαρμογών LLM χρησιμοποιώντας Python
  • Εξοικείωση με ενσωματώσεις API και αναπτύξεις βασισμένες στο cloud

Κοινό

  • Προγραμματιστές AI
  • Αρχιτέκτονες εφαρμογών και λύσεων
  • Τεχνικοί διαχειριστές προϊόντων που εργάζονται με εργαλεία LLM
 14 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Εφεξής Μαθήματα

Σχετικές Κατηγορίες