Course Outline

Περιγραφή της Αρχιτεκτονικής LLM και του Περιθώρου Επίθεσης

  • Πώς συντάσσονται, εγκαταστέλλονται και πρόσβαση μέσω APIs τα LLMs
  • Κύριες συνιστώσες στους οχήματες εφαρμογών LLM (π.χ., πρόκληση, αγγάροι, μνήμη, APIs)
  • Πού και πώς προκύπτουν τα ζητήματα ασφαλείας στην πρακτική χρήση

Εισαγωγή Πρόκλησης και Επιθέσεις Jailbreak

  • Τι είναι η εισαγωγή πρόκλησης και γιατί είναι απειλητική
  • Ευθείες και έμμεσες σειρές εισαγωγής πρόκλησης
  • Τεχνικές jailbreaking για αποφυγή φίλτρων ασφαλείας
  • Στρατηγικές ανίχνευσης και ελάσσωσης του κινδύνου

Αποδήμηση Δεδομένων και Ρίσκα Απορρήτου

  • Τυχών εκθέσεις δεδομένων μέσω απαντήσεων
  • Παραβίαση PII και λάθος χρήση της μνήμης του μοντέλου
  • Σχεδιασμός πρόκλησης απορρήτου και γενίσης ενισχυμένης ανάκτησης (RAG)

Εφαρμογή LLM Output Filtering and Guarding

  • Χρήση του Guardrails AI για φίλτρωση και επαλήθευση περιεχομένου
  • Ορισμός χάρτων αποδείξεων και περιορισμών
  • Ελέγχος και εγγραφή ασφαλών έκθεσης

Human-in-the-Loop και Προσεγγίσεις Διαδικασίας

  • Πού και πότε να εισάγετε ανθρώπινη υποψήφιοτητα
  • Κέντρα εγκαίρων, προσδιορισμοί σημείου και ιδιότυπα περιθώρια
  • Ελέγχος εμπιστοσύνης και ρόλος της εξήγησης

Secure LLM App Design Patterns

  • Λίγες προνόμια και sandboxing για ολικές κλήσεις API και αγγάρου
  • Περιορισμός ρυθμού, επιβράδυνση και ανίχνευση παραβίασης
  • Τεχνική chaining με LangChain και ισολασία πρόκλησης

Συμμόρφωση, Εγγραφή και Governance

  • Εξασφάλιση της ελέγχου περιεχομένων LLM
  • Μεταβατικότητα και έλεγχος πρόκλησης/έκδοσης
  • Συμπίεση με εσωτερικά πολιτική ασφαλείας και ρυθμιστικά χρεώματα

Επόμενα βήματα

Requirements

  • Συνειδητοποίηση των μεγάλων λεξικού αρχείου παραμετροποιήσεων και επιφάνειών τύπου prompt
  • Εμπειρία στην κατασκευή εφαρμογών LLM χρησιμοποιώντας Python
  • Γνώση API ενσωμάτωσης και νερό-βασική προσφέρεται από τον ουράνιο

Πληθυσμός

  • Αναπτυγματologistές AI
  • Αρχιτεκτονικές εφαρμογών και λύσεων
  • Τεχνικοί διευθυντές προϊόντων που εργάζονται με εργαλεία LLM
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories