Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Ημέρα 01

Επισκόπηση της Επιχειρηματικής Ευφυΐας Μεγάλων Δεδομένων για Ανάλυση Εγκληματικής Νοημοσύνης

  • Μελέτες Περιπτώσεων από την Επιβολή του Νόμου - Προβλεπτική Αστυνόμευση
  • Ρυθμός υιοθέτησης Μεγάλων Δεδομένων στις Υπηρεσίες Επιβολής του Νόμου και πώς ευθυγραμμίζουν τη μελλοντική τους λειτουργία γύρω από την Προβλεπτική Ανάλυση Μεγάλων Δεδομένων
  • Αναδυόμενες τεχνολογικές λύσεις όπως αισθητήρες πυροβολισμών, βίντεο παρακολούθησης και μέσα κοινωνικής δικτύωσης
  • Χρήση τεχνολογίας Μεγάλων Δεδομένων για τον μετριασμό της υπερφόρτωσης πληροφοριών
  • Διασύνδεση Μεγάλων Δεδομένων με παλαιά δεδομένα
  • Βασική κατανόηση των τεχνολογιών που επιτρέπουν την προβλεπτική ανάλυση
  • Ενοποίηση Δεδομένων & Οπτικοποίηση Πίνακα Ελέγχου
  • Διαχείριση απάτης
  • Επιχειρηματικοί Κανόνες και Ανίχνευση Απάτης
  • Ανίχνευση απειλών και δημιουργία προφίλ
  • Ανάλυση κόστους-οφέλους για την υλοποίηση Μεγάλων Δεδομένων

Εισαγωγή στα Μεγάλα Δεδομένα

  • Κύρια χαρακτηριστικά των Μεγάλων Δεδομένων -- Όγκος, Ποικιλία, Ταχύτητα και Ακρίβεια.
  • Αρχιτεκτονική MPP (Massively Parallel Processing)
  • Αποθήκες Δεδομένων – στατικό σχήμα, σύνολο δεδομένων που εξελίσσεται αργά
  • Βάσεις Δεδομένων MPP: Greenplum, Exadata, Teradata, Netezza, Vertica κ.λπ.
  • Λύσεις βασισμένες στο Hadoop – χωρίς περιορισμούς στη δομή του συνόλου δεδομένων.
  • Τυπικό μοτίβο: HDFS, MapReduce (crunch), ανάκτηση από HDFS
  • Apache Spark για ροϊκή επεξεργασία
  • Δέσμης - κατάλληλη για αναλυτικές/μη διαδραστικές εργασίες
  • Όγκος: CEP δεδομένα ροής
  • Τυπικές επιλογές – προϊόντα CEP (π.χ. Infostreams, Apama, MarkLogic κ.λπ.)
  • Λιγότερο έτοιμα για παραγωγή – Storm/S4
  • Βάσεις Δεδομένων NoSQL – (στηλώδεις και κλειδιού-τιμής): Καταλληλότερες ως αναλυτικό συμπλήρωμα σε αποθήκη/βάση δεδομένων

Λύσεις NoSQL

  • KV Store - Keyspace, Flare, SchemaFree, RAMCloud, Oracle NoSQL Database (OnDB)
  • KV Store - Dynamo, Voldemort, Dynomite, SubRecord, Mo8onDb, DovetailDB
  • KV Store (Ιεραρχικό) - GT.m, Cache
  • KV Store (Διατεταγμένο) - TokyoTyrant, Lightcloud, NMDB, Luxio, MemcacheDB, Actord
  • KV Cache - Memcached, Repcached, Coherence, Infinispan, EXtremeScale, JBossCache, Velocity, Terracoqua
  • Tuple Store - Gigaspaces, Coord, Apache River
  • Βάση Δεδομένων Αντικειμένων - ZopeDB, DB40, Shoal
  • Document Store - CouchDB, Cloudant, Couchbase, MongoDB, Jackrabbit, XML-Databases, ThruDB, CloudKit, Prsevere, Riak-Basho, Scalaris
  • Wide Columnar Store - BigTable, HBase, Apache Cassandra, Hypertable, KAI, OpenNeptune, Qbase, KDI

Ποικιλίες Δεδομένων: Εισαγωγή στα ζητήματα Καθαρισμού Δεδομένων στα Μεγάλα Δεδομένα

  • RDBMS – στατική δομή/σχήμα, δεν προάγει ένα ευέλικτο, διερευνητικό περιβάλλον.
  • NoSQL – ημιδομημένο, αρκετή δομή για αποθήκευση δεδομένων χωρίς ακριβές σχήμα πριν από την αποθήκευση
  • Ζητήματα καθαρισμού δεδομένων

Hadoop

  • Πότε να επιλέξετε το Hadoop;
  • ΔΟΜΗΜΕΝΑ - Οι αποθήκες/βάσεις δεδομένων επιχειρήσεων μπορούν να αποθηκεύσουν τεράστια δεδομένα (με κόστος) αλλά επιβάλλουν δομή (δεν είναι καλό για ενεργή διερεύνηση)
  • ΗΜΙΔΟΜΗΜΕΝΑ δεδομένα – δύσκολη η διαχείριση με παραδοσιακές λύσεις (DW/DB)
  • Αποθήκευση δεδομένων = ΤΕΡΑΣΤΙΑ προσπάθεια και στατική ακόμα και μετά την υλοποίηση
  • Για ποικιλία & όγκο δεδομένων, επεξεργασμένα σε υλικό εμπορίου – HADOOP
  • Υλικό εμπορίου που απαιτείται για τη δημιουργία ενός Hadoop Cluster

Εισαγωγή στο Map Reduce /HDFS

  • MapReduce – κατανεμημένη υπολογιστική σε πολλαπλούς διακομιστές
  • HDFS – καθιστά τα δεδομένα τοπικά διαθέσιμα για την υπολογιστική διαδικασία (με πλεονασμό)
  • Δεδομένα – μπορούν να είναι αδόμητα/χωρίς σχήμα (σε αντίθεση με το RDBMS)
  • Ευθύνη του προγραμματιστή να δώσει νόημα στα δεδομένα
  • Προγραμματισμός MapReduce = εργασία με Java (πλεονεκτήματα/μειονεκτήματα), χειροκίνητη φόρτωση δεδομένων στο HDFS

Ημέρα 02

Οικοσύστημα Μεγάλων Δεδομένων -- Δημιουργία ETL (Extract, Transform, Load) Μεγάλων Δεδομένων -- Ποια εργαλεία Μεγάλων Δεδομένων να χρησιμοποιήσετε και πότε;

  • Hadoop vs. Άλλες λύσεις NoSQL
  • Για διαδραστική, τυχαία πρόσβαση στα δεδομένα
  • Hbase (στηλώδης βάση δεδομένων) πάνω από Hadoop
  • Τυχαία πρόσβαση στα δεδομένα αλλά επιβάλλει περιορισμούς (μέγιστο 1 PB)
  • Δεν είναι καλό για ad-hoc αναλυτική, καλό για καταγραφή, μέτρηση, χρονοσειρές
  • Sqoop - Εισαγωγή από βάσεις δεδομένων σε Hive ή HDFS (πρόσβαση JDBC/ODBC)
  • Flume – Διοχέτευση δεδομένων (π.χ. δεδομένα καταγραφής) στο HDFS

Σύστημα Διαχείρισης Μεγάλων Δεδομένων

  • Κινούμενα μέρη, κόμβοι υπολογισμού ξεκινούν/αποτυγχάνουν: ZooKeeper - Για υπηρεσίες διαμόρφωσης/συντονισμού/ονοματοδοσίας
  • Πολύπλοκη σωλήνωση/ροή εργασίας: Oozie – διαχείριση ροής εργασίας, εξαρτήσεων, αλυσίδας
  • Ανάπτυξη, διαμόρφωση, διαχείριση συμπλέγματος, αναβάθμιση κ.λπ. (διαχειριστής συστήματος): Ambari
  • Στο Cloud: Whirr

Προβλεπτική Ανάλυση -- Θεμελιώδεις Τεχνικές και Επιχειρηματική Ευφυΐα βασισμένη στη Μηχανική Μάθηση

  • Εισαγωγή στη Μηχανική Μάθηση
  • Εκμάθηση τεχνικών ταξινόμησης
  • Μπεϋζιανή Πρόβλεψη -- προετοιμασία αρχείου εκπαίδευσης
  • Μηχανές Διανυσμάτων Υποστήριξης
  • KNN άλγεβρα p-Tree & κάθετη εξόρυξη
  • Νευρωνικά Δίκτυα
  • Πρόβλημα μεγάλων μεταβλητών Μεγάλων Δεδομένων -- Τυχαίο δάσος (RF)
  • Πρόβλημα αυτοματοποίησης Μεγάλων Δεδομένων – Πολυ-μοντέλο σύνολο RF
  • Αυτοματοποίηση μέσω Soft10-M
  • Εργαλείο ανάλυσης κειμένου-Treeminer
  • Ευέλικτη μάθηση
  • Μάθηση βασισμένη σε πράκτορες
  • Κατανεμημένη μάθηση
  • Εισαγωγή σε εργαλεία ανοιχτού κώδικα για προβλεπτική ανάλυση: R, Python, Rapidminer, Mahut

Οικοσύστημα Προβλεπτικής Ανάλυσης και η εφαρμογή του στην Ανάλυση Εγκληματικής Νοημοσύνης

  • Τεχνολογία και η ερευνητική διαδικασία
  • Ανάλυση διορατικότητας
  • Ανάλυση οπτικοποίησης
  • Δομημένη προβλεπτική ανάλυση
  • Αδόμητη προβλεπτική ανάλυση
  • Απειλές/αστέρι απάτης/δημιουργία προφίλ προμηθευτών
  • Μηχανή Συστάσεων
  • Ανίχνευση προτύπων
  • Ανακάλυψη Κανόνα/Σεναρίου – αποτυχία, απάτη, βελτιστοποίηση
  • Ανακάλυψη βασικής αιτίας
  • Ανάλυση συναισθήματος
  • Ανάλυση CRM
  • Ανάλυση δικτύου
  • Ανάλυση κειμένου για απόκτηση πληροφοριών από απομαγνητοφωνήσεις, καταθέσεις μαρτύρων, συνομιλίες στο διαδίκτυο κ.λπ.
  • Επισκόπηση υποβοηθούμενη από τεχνολογία
  • Ανάλυση απάτης
  • Ανάλυση σε Πραγματικό Χρόνο

Ημέρα 03

Αναλυτική σε Πραγματικό Χρόνο και Κλιμακούμενη πάνω από Hadoop

  • Γιατί αποτυγχάνουν οι κοινοί αλγόριθμοι αναλυτικής στο Hadoop/HDFS
  • Apache Hama- για Bulk Synchronous κατανεμημένο υπολογισμό
  • Apache SPARK- για υπολογισμό συμπλέγματος και αναλυτική σε πραγματικό χρόνο
  • CMU Graphics Lab2- Γραφική ασύγχρονη προσέγγιση κατανεμημένου υπολογισμού βασισμένη σε γράφους
  • KNN p -- Προσέγγιση βασισμένη στην άλγεβρα από την Treeminer για μειωμένο κόστος λειτουργίας υλικού

Εργαλεία για eDiscovery και Forensics

  • eDiscovery πάνω από Μεγάλα Δεδομένα vs. Παλαιά δεδομένα – σύγκριση κόστους και απόδοσης
  • Προβλεπτική κωδικοποίηση και Επισκόπηση Υποβοηθούμενη από Τεχνολογία (TAR)
  • Ζωντανή επίδειξη του vMiner για την κατανόηση του πώς το TAR επιτρέπει ταχύτερη ανακάλυψη
  • Ταχύτερη ευρετηρίαση μέσω HDFS – Ταχύτητα δεδομένων
  • NLP (Επεξεργασία Φυσικής Γλώσσας) – προϊόντα και τεχνικές ανοιχτού κώδικα
  • eDiscovery σε ξένες γλώσσες -- τεχνολογία για επεξεργασία ξένων γλωσσών

Επιχειρηματική Ευφυΐα Μεγάλων Δεδομένων για Κυβερνοασφάλεια – Απόκτηση πλήρους εικόνας 360 μοιρών, ταχεία συλλογή δεδομένων και αναγνώριση απειλών

  • Κατανόηση των βασικών της αναλυτικής ασφάλειας -- επιφάνεια επίθεσης, εσφαλμένη διαμόρφωση ασφάλειας, άμυνες κεντρικού υπολογιστή
  • Υποδομή δικτύου / Μεγάλη σωλήνωση δεδομένων / ETL απόκρισης για αναλυτική σε πραγματικό χρόνο
  • Προδιαγεγραμμένη vs προβλεπτική – Βασισμένη σε σταθερούς κανόνες vs αυτόματη ανακάλυψη κανόνων απειλών από Μεταδεδομένα

Συλλογή ανόμοιων δεδομένων για Ανάλυση Εγκληματικής Νοημοσύνης

  • Χρήση IoT (Internet of Things) ως αισθητήρες για λήψη δεδομένων
  • Χρήση Δορυφορικής Απεικόνισης για Εγχώρια Επιτήρηση
  • Χρήση δεδομένων παρακολούθησης και εικόνας για αναγνώριση εγκληματιών
  • Άλλες τεχνολογίες συλλογής δεδομένων -- drones, κάμερες σώματος, συστήματα σήμανσης GPS και τεχνολογία θερμικής απεικόνισης
  • Συνδυασμός αυτοματοποιημένης ανάκτησης δεδομένων με δεδομένα που λαμβάνονται από πληροφοριοδότες, ανάκριση και έρευνα
  • Πρόβλεψη εγκληματικής δραστηριότητας

Ημέρα 04

Επιχειρηματική Ευφυΐα πρόληψης απάτης από Μεγάλα Δεδομένα στην Ανάλυση Απάτης

  • Βασική ταξινόμηση της Ανάλυσης Απάτης -- βασισμένη σε κανόνες vs προβλεπτική ανάλυση
  • Επιβλεπόμενη vs μη επιβλεπόμενη Μηχανική Μάθηση για ανίχνευση προτύπων απάτης
  • Απάτη επιχείρησης προς επιχείρηση, απάτη ιατρικών απαιτήσεων, ασφαλιστική απάτη, φοροδιαφυγή και ξέπλυμα χρήματος

Ανάλυση Μέσων Κοινωνικής Δικτύωσης -- Συλλογή και ανάλυση πληροφοριών

  • Πώς τα Μέσα Κοινωνικής Δικτύωσης χρησιμοποιούνται από εγκληματίες για οργάνωση, στρατολόγηση και σχεδιασμό
  • API ETL Μεγάλων Δεδομένων για εξαγωγή δεδομένων μέσων κοινωνικής δικτύωσης
  • Κείμενο, εικόνα, μεταδεδομένα και βίντεο
  • Ανάλυση συναισθήματος από ροή μέσων κοινωνικής δικτύωσης
  • Συμφραζόμενο και μη συμφραζόμενο φιλτράρισμα ροής μέσων κοινωνικής δικτύωσης
  • Πίνακας Ελέγχου Μέσων Κοινωνικής Δικτύωσης για ενσωμάτωση διαφορετικών μέσων κοινωνικής δικτύωσης
  • Αυτοματοποιημένη δημιουργία προφίλ προφίλ μέσων κοινωνικής δικτύωσης
  • Ζωντανή επίδειξη κάθε ανάλυσης θα δοθεί μέσω του εργαλείου Treeminer

Ανάλυση Μεγάλων Δεδομένων στην επεξεργασία εικόνας και ροών βίντεο

  • Τεχνικές Αποθήκευσης Εικόνας στα Μεγάλα Δεδομένα -- Λύση αποθήκευσης για δεδομένα που υπερβαίνουν τα petabytes
  • LTFS (Linear Tape File System) και LTO (Linear Tape Open)
  • GPFS-LTFS (General Parallel File System - Linear Tape File System) -- κλιμακούμενη λύση αποθήκευσης για μεγάλα δεδομένα εικόνας
  • Θεμελιώδεις αρχές ανάλυσης εικόνας
  • Αναγνώριση αντικειμένων
  • Κατάτμηση εικόνας
  • Παρακολούθηση κίνησης
  • Τρισδιάστατη ανακατασκευή εικόνας

Βιομετρία, DNA και Προγράμματα Αναγνώρισης Επόμενης Γενιάς

  • Πέρα από τη λήψη δακτυλικών αποτυπωμάτων και την αναγνώριση προσώπου
  • Αναγνώριση ομιλίας, πληκτρολόγησης (ανάλυση του μοτίβου πληκτρολόγησης ενός χρήστη) και CODIS (Συνδυασμένο Σύστημα Ευρετηρίου DNA)
  • Πέρα από την αντιστοίχιση DNA: χρήση φαινοτύπησης DNA για εγκληματολογικούς σκοπούς για την κατασκευή ενός προσώπου από δείγματα DNA

Πίνακας Ελέγχου Μεγάλων Δεδομένων για γρήγορη προσβασιμότητα σε ποικίλα δεδομένα και απεικόνιση:

  • Ενσωμάτωση υπάρχουσας πλατφόρμας εφαρμογών με Πίνακα Ελέγχου Μεγάλων Δεδομένων
  • Διαχείριση Μεγάλων Δεδομένων
  • Μελέτη Περίπτωσης Πίνακα Ελέγχου Μεγάλων Δεδομένων: Tableau και Pentaho
  • Χρήση εφαρμογής Μεγάλων Δεδομένων για προώθηση υπηρεσιών βάσει τοποθεσίας στην Κυβέρνηση.
  • Σύστημα παρακολούθησης και διαχείριση

Ημέρα 05

Πώς να δικαιολογήσετε την υλοποίηση Επιχειρηματικής Ευφυΐας Μεγάλων Δεδομένων μέσα σε έναν οργανισμό:

  • Ορισμός της Απόδοσης Επένδυσης (ROI) για την υλοποίηση Μεγάλων Δεδομένων
  • Μελέτες περιπτώσεων για εξοικονόμηση Χρόνου Αναλυτή στη συλλογή και προετοιμασία Δεδομένων – αύξηση παραγωγικότητας
  • Κέρδος εσόδων από χαμηλότερο κόστος αδειοδότησης βάσεων δεδομένων
  • Κέρδος εσόδων από υπηρεσίες βάσει τοποθεσίας
  • Εξοικονόμηση κόστους από την πρόληψη απάτης
  • Μια ολοκληρωμένη προσέγγιση υπολογιστικού φύλλου για τον υπολογισμό κατά προσέγγιση εξόδων vs. κέρδος εσόδων/εξοικονόμησης από την υλοποίηση Μεγάλων Δεδομένων.

Βήμα προς βήμα διαδικασία για την αντικατάσταση ενός παλαιού συστήματος δεδομένων με ένα Σύστημα Μεγάλων Δεδομένων

  • Χάρτης Πορείας Μετανάστευσης Μεγάλων Δεδομένων
  • Ποιες κρίσιμες πληροφορίες απαιτούνται πριν από την αρχιτεκτόνηση ενός συστήματος Μεγάλων Δεδομένων;
  • Ποιοι είναι οι διαφορετικοί τρόποι υπολογισμού του Όγκου, της Ταχύτητας, της Ποικιλίας και της Ακρίβειας των δεδομένων
  • Πώς να υπολογιστεί η ανάπτυξη δεδομένων
  • Μελέτες περιπτώσεων

Ανασκόπηση Πωλητών Μεγάλων Δεδομένων και ανασκόπηση των προϊόντων τους.

  • Accenture
  • APTEAN (Πρώην CDC Software)
  • Cisco Systems
  • Cloudera
  • Dell
  • EMC
  • GoodData Corporation
  • Guavus
  • Hitachi Data Systems
  • Hortonworks
  • HP
  • IBM
  • Informatica
  • Intel
  • Jaspersoft
  • Microsoft
  • MongoDB (Πρώην 10Gen)
  • MU Sigma
  • Netapp
  • Opera Solutions
  • Oracle
  • Pentaho
  • Platfora
  • Qliktech
  • Quantum
  • Rackspace
  • Revolution Analytics
  • Salesforce
  • SAP
  • SAS Institute
  • Sisense
  • Software AG/Terracotta
  • Soft10 Automation
  • Splunk
  • Sqrrl
  • Supermicro
  • Tableau Software
  • Teradata
  • Think Big Analytics
  • Tidemark Systems
  • Treeminer
  • VMware (Μέρος της EMC)

Συνεδρία Ερωτήσεων/Απαντήσεων

Απαιτήσεις

  • Γνώση διαδικασιών επιβολής του νόμου και συστημάτων δεδομένων
  • Βασική κατανόηση SQL/Oracle ή σχεσιακών βάσεων δεδομένων
  • Βασική κατανόηση στατιστικής (σε επίπεδο λογιστικού φύλλου)

Ακροατήριο

  • Ειδικοί επιβολής του νόμου με τεχνικό υπόβαθρο
 35 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Σχόλια (3)

Εφεξής Μαθήματα

Σχετικές Κατηγορίες