Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Θεμέλια του Ασφαλούς Τοπικού AI

  • Τι σημαίνουν τα τοπικά και on-prem AI σε ρυθμιζόμενα περιβάλλοντα
  • Cloud AI έναντι εσωτερικής υλοποίησης για ευαίσθητα φορτία εργασίας
  • Συνήθεις επιχειρησιακές περιπτώσεις χρήσης για ιδιωτικούς βοηθούς και υποστήριξη διεργασιών
  • Κορμαίες συστατικά μιας ασφαλούς τοπικής αρχιτεκτονικής AI

Βασικά Στοιχεία του Ollama και Ανοιχτών Μοντέλων

  • Πώς ταιριάζει το Ollama σε ένα τοπικό stack ανάπτυξης
  • Λήψη, εκτέλεση και διαχείριση μοντέλων τοπικά
  • Επιλογή μοντέλων με βάση μέγεθος, ποιότητα, υλικό και άδεια
  • Ταιριάσμα επιλογών μοντέλου σε πρακτικές επιχειρησιακές εργασίες

Προετοιμασία του Περιβάλλοντος On-Prem

  • Προετοιμασία υποδοχής, workstations και διακομιστών
  • Εγκατάσταση και διαμόρφωση Ollama για τοπική συλλογή (inference)
  • Χρήση containers και εσωτερικού εργαλείου ανάπτυξης
  • Επαλήθευση πρόσβασης API και βασικής επιχειρησιακής ετοιμότητας

Διαχείριση Τοπικών Μοντέλων Αποτελεσματικά

  • Εκτέλεση εντολών (prompts) και διαμόρφωση εξόδων με οδηγίες συστήματος
  • Επαναχρησιμοποίηση προτύπων για συνεχείς επιχειρησιακές εργασίες
  • Διαχείριση εκδόσεων μοντέλων και εσωτερικών αρχείων
  • Βασικός προγραμματισμός απόδοσης για υλοποιήσεις CPU και GPU

Κατασκευή Πρακτικών Agentic Διεργασιών

  • Τι καθιστά μια διεργασία agentic σε ελεγχόμενο περιβάλλον
  • Απλά μοτίβα για σχεδιασμό, χρήση εργαλείων και βρόχους απόκρισης
  • Σχεδιασμός βοηθών εστιασμένων σε εργασίες για εσωτερικές λειτουργίες
  • Προσθήκη ανθρώπινης επιθεώρησης, λογικής υποκατάστασης (fallback) και διαχείρισης σφαλμάτων

Iδιωτικές Διεργασίες Ανακτήσεων

  • Βασικά στοιχεία της ανακτήσεως-εμπλουτισμένης γέννησης (retrieval-augmented generation) για εσωτερική πρόσβαση σε γνώσεις
  • Προετοιμασία εγγράφων για chunking, ευρετηρίαση και αναζήτηση
  • Σύνδεση ενός τοπικού vector store σε μια εφαρμογή βασισμένη στο Ollama
  • Βελτίωση σχετικότητας και ποιότητας απαντήσεων με καλύτερα μοτίβα ανακτήσεων

Πρακτικές Ασφαλείας, Διακυβέρνησης και Συμμόρφωσης

  • Όρια διαχείρισης δεδομένων και θεματικά ιδιωτικότητας
  • Έλεγχος πρόσβασης, καταγραφές (logging) και υποστήριξη ελέγχων
  • Ασφάλεια εντολών (prompt safety), έλεγχοι εξόδου και όρια ασφαλείας
  • Σημεία ελέγχου διακυβέρνησης για υλοποίηση και λειτουργία σε ρυθμιζόμενα περιβάλλοντα

Μοτίβα Ενεργοποιήσεων Enterprise

  • Παροχή τοπικών δυνατοτήτων AI μέσω εσωτερικών APIs
  • Ολοκλήρωση βοηθών με εσωτερικές εφαρμογές και υπηρεσίες
  • Υποστήριξη περιπτώσεων χρήσης για βοηθούς, batch and διεργασίες αυτοματοποίησης
  • Κράτηση λύσεων εντός ελεγχόμενων ορίων δικτύου

Αξιολόγηση Τοπικών Λύσεων AI

  • Αξιολόγηση ποιότητας, αξιοπιστίας και συνέπειας
  • Δοκιμές έναντι επιχειρησιακών, πολιτικών και ασφαλείς απαιτήσεων
  • Σύγκριση επιλογών μοντέλων για συγκεκριμένες επιχειρησιακές εργασίες
  • Θεσμοθέτηση ενός πρακτικού κύκλου βελτίωσης για εσωτερικές ομάδες

Εργαστήριο Χειροκίνητης Εφαρμογής

  • Κατασκευή ενός ιδιωτικού βοηθού με Ollama και ένα ανοιχτό μοντέλο
  • Προσθήκη ανακτήσεων σε έγκριτα εσωτερικά έγγραφα
  • Εισαγωγή απλών agentic ενεργειών και ελέγχων ασφαλείας
  • Ανασκόπηση υλοποιήσεων, λειτουργιών και σημείων ελέγχου διακυβέρνησης

Σχεδιασμός Υιοθέτησης και Επόμενα Βήματα

  • Ανασκόπηση βασικών αποφάσεων σχεδίασης και υλοποίησης
  • Εντοπισμός συνηθισμένων παγίδων σε έργα AI σε ρυθμιζόμενα περιβάλλοντα
  • Σχεδιασμός πιλοτικών περιπτώσεων χρήσης και ευθυγράμμισης ενδιαφερομένων
  • Ορισμός roadmap για ασφαλή υιοθέτηση τοπικού AI

Απαιτήσεις

  • Βασική κατανόηση εννοιών AI και ανάπτυξης λογισμικού
  • Γνωριμία με εργαλεία γραμμής εντολών, containers ή τοπικά περιβάλλοντα ανάπτυξης
  • Βασική εμπειρία στο script ή προγραμματισμό

Κοινό-στόχος

  • Προγραμματιστές και τεχνικές ομάδες που κατασκευάζουν ιδιωτικές λύσεις AI στον εσωτερικό υποδομή
  • Επαγγελματίες ασφάλειας, συμμόρφωσης και πλατφόρμας που υποστηρίζουν το AI σε ρυθμιζόμενα περιβάλλοντα
  • Τεχνικοί ηγέτες στον χώρο των χρηματοοικονομικών, της υγείας, της κυβέρνησης και της άμυνας που αξιολογούν την υιοθέτηση on-prem AI
 21 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Εφεξής Μαθήματα

Σχετικές Κατηγορίες