Το «Edge computing», το οποίο αναπτύχθηκε αρχικά για ταχύτερη και ασφαλέστερη επεξεργασία μεγάλων όγκων δεδομένων, έχει πλέον συνδυαστεί με την τεχνητή νοημοσύνη (ΤΝ) ώστε να επιτρέπει την επεξεργασία χωρίς να απαιτείται η χρήση cloud. Καθημερινές συνδεδεμένες συσκευές, από πλυντήρια πιάτων έως αυτοκίνητα και smartphones, αποτελούν χαρακτηριστικά παραδείγματα εφαρμογής αυτής της τεχνολογίας επεξεργασίας δεδομένων σε πραγματικό χρόνο, επιτρέποντας στα μοντέλα μηχανικής μάθησης να εκτελούνται απευθείας σε ενσωματωμένους αισθητήρες, κάμερες ή ενσωματωμένα συστήματα.
Επίκουρος Καθηγητής, Πανεπιστήμιο Πατρών
Σπίτια, γραφεία, αγροκτήματα, νοσοκομεία και συστήματα μεταφορών εξοπλίζονται ολοένα και περισσότερο με αισθητήρες, δημιουργώντας σημαντικές ευκαιρίες για την ενίσχυση της δημόσιας ασφάλειας και της ποιότητας ζωής.
Πράγματι, οι συνδεδεμένες συσκευές, οι οποίες αποτελούν μέρος του Διαδικτύου των Πραγμάτων (IoT), περιλαμβάνουν αισθητήρες θερμοκρασίας και ποιότητας αέρα για τη βελτίωση της άνεσης στους εσωτερικούς χώρους, φορετούς βιοαισθητήρες για την παρακολούθηση της υγείας ασθενών, LiDAR και ραντάρ για την υποστήριξη της διαχείρισης κυκλοφορίας, καθώς και κάμερες ή ανιχνευτές καπνού που επιτρέπουν την ταχεία ανίχνευση πυρκαγιών και την αντιμετώπιση εκτάκτων αναγκών.
Οι συσκευές αυτές παράγουν τεράστιους όγκους δεδομένων, οι οποίοι μπορούν να αξιοποιηθούν για την αναγνώριση προτύπων στο περιβάλλον λειτουργίας τους και τη βελτίωση της απόδοσης των εφαρμογών μέσω αναλύσεων που βασίζονται στην ΤΝ.
Για παράδειγμα, δεδομένα συνδεσιμότητας από σημεία πρόσβασης Wi-Fi ή Bluetooth beacons εγκατεστημένα σε μεγάλα κτίρια μπορούν να αναλυθούν με αλγορίθμους ΤΝ για τον εντοπισμό προτύπων παρουσίας και μετακίνησης ατόμων σε διαφορετικές περιόδους του έτους, ανάλογα με τον τύπο του κτιρίου (π.χ. γραφείο, νοσοκομείο ή πανεπιστήμιο). Τα πρότυπα αυτά μπορούν στη συνέχεια να αξιοποιηθούν για πολλαπλούς σκοπούς, όπως η βελτιστοποίηση συστημάτων HVAC (θέρμανσης, εξαερισμού και κλιματισμού), ο σχεδιασμός εκκένωσης και άλλα.
Ο συνδυασμός του Διαδικτύου των Πραγμάτων με την τεχνητή νοημοσύνη φέρνει νέες τεχνικές προκλήσεις
Η Τεχνητή Νοημοσύνη των Πραγμάτων (AIoT) συνδυάζει την ΤΝ με τις υποδομές IoT ώστε να καταστήσει δυνατή την ευφυή λήψη αποφάσεων, τον αυτοματισμό και τη βελτιστοποίηση σε διασυνδεδεμένα συστήματα. Τα συστήματα AIoT βασίζονται σε δεδομένα μεγάλης κλίμακας από τον πραγματικό κόσμο για να ενισχύσουν την ακρίβεια και την ανθεκτικότητα των προβλέψεών τους.
Για την πραγματοποίηση της διαδικασίας inference, δηλαδή την εξαγωγή συμπερασμάτων από τα συλλεγόμενα δεδομένα IoT, καθώς και για τη λήψη αποφάσεων, τα δεδομένα IoT πρέπει να συλλέγονται, να επεξεργάζονται και να διαχειρίζονται αποτελεσματικά. Για παράδειγμα, τα δεδομένα σχετικά με την παρουσία ατόμων σε ένα κτίριο μπορούν να αναλυθούν προκειμένου να εντοπιστούν οι περίοδοι αυξημένης χρήσης και να προβλεφθούν οι μελλοντικές ενεργειακές ανάγκες. Αυτό επιτυγχάνεται συνήθως με την αξιοποίηση πλατφορμών cloud όπως το Amazon Web Services, το Google Cloud Platform κ.λπ., που φιλοξενούν υπολογιστικά απαιτητικά μοντέλα ΤΝ, συμπεριλαμβανομένων των νεότερων μοντέλων βάσης (Foundation Models).
Τι είναι τα Foundation Models;
- Τα Foundation Models είναι ένας τύπος μοντέλων μηχανικής μάθησης που εκπαιδεύονται σε δεδομένα ευρέος φάσματος και είναι σχεδιασμένα ώστε να προσαρμόζονται σε ποικίλες επιμέρους (downstream) εργασίες. Περιλαμβάνουν, χωρίς να περιορίζονται σε αυτά, τα Μεγάλα Γλωσσικά Μοντέλα (LLMs), τα οποία επεξεργάζονται κατά κύριο λόγο κείμενο, αλλά μπορούν επίσης να λειτουργούν και σε άλλες μορφές δεδομένων, όπως εικόνες, ήχο, βίντεο και χρονοσειρές (timeseries).
- Στη δημιουργική ΤΝ (generative AI), τα Foundation Models αποτελούν τη βάση για τη δημιουργία περιεχομένου όπως κείμενο, εικόνες, ήχος ή κώδικας.
- Σε αντίθεση με τα συμβατικά συστήματα ΤΝ, που βασίζονται σε μεγάλο βαθμό σε σύνολα δεδομένων ειδικά για κάθε εργασία και σε εκτεταμένη προεπεξεργασία, τα FM προσφέρουν δυνατότητες zero-shot και few-shot, επιτρέποντάς τους να προσαρμόζονται, σε νέες εργασίες και τομείς με ελάχιστη εξατομίκευση.
- Παρότι τα FM βρίσκονται ακόμη στα πρώτα τους στάδια, έχουν τη δυνατότητα να δημιουργήσουν σημαντική αξία για τις επιχειρήσεις σε όλους τους τομείς. Ως εκ τούτου, η άνοδος των FM σηματοδοτεί μια αλλαγή παραδείγματος στην εφαρμοσμένη τεχνητή νοημοσύνη.
Τα όρια του cloud computing στα δεδομένα IoT
Παρότι η φιλοξενία υπολογιστικά απαιτητικών μοντέλων ΤΝ ή συστημάτων βασισμένων σε FM σε πλατφόρμες cloud προσφέρει το πλεονέκτημα των άφθονων υπολογιστικών πόρων, εισάγει επίσης αρκετούς περιορισμούς. Συγκεκριμένα, η μετάδοση μεγάλων όγκων δεδομένων IoT στο cloud μπορεί να επιβαρύνει σημαντικά τον χρόνο απόκρισης των εφαρμογών AIoT, με την καθυστέρηση να κυμαίνεται συχνά από μερικές εκατοντάδες χιλιοστά του δευτερολέπτου έως αρκετά δευτερόλεπτα, ανάλογα με τις συνθήκες του δικτύου και τον όγκο των δεδομένων.
Επιπλέον, η μεταφόρτωση δεδομένων, ιδίως ευαίσθητων ή εμπιστευτικών πληροφοριών, στο cloud εγείρει ανησυχίες για το απόρρητο και περιορίζει τη δυνατότητα τοπικής επεξεργασίας των δεδομένων κοντά στις πηγές τους και στους τελικούς χρήστες.
Για παράδειγμα, σε ένα έξυπνο σπίτι, τα δεδομένα από έξυπνους μετρητές ή από συστήματα ελέγχου φωτισμού μπορούν να αποκαλύψουν μοτίβα κατοίκησης ή να επιτρέψουν εντοπισμό θέσης σε εσωτερικούς χώρους (για παράδειγμα, να ανιχνεύσουν ότι η Έλενα βρίσκεται συνήθως στην κουζίνα στις 8:30 π.μ. ετοιμάζοντας πρωινό). Τέτοιου είδους συμπεράσματα είναι προτιμότερο να εξάγονται κοντά στην πηγή των δεδομένων, ώστε να ελαχιστοποιούνται οι καθυστερήσεις από την επικοινωνία edge-to-cloud και να μειώνεται η έκθεση ιδιωτικών πληροφοριών σε πλατφόρμες cloud τρίτων.
Τι είναι το edge computing και το Edge AI;
Για τη μείωση της καθυστέρησης και την ενίσχυση του απορρήτου των δεδομένων, το Edge computing αποτελεί μια κατάλληλη προσέγγιση, καθώς παρέχει υπολογιστικούς πόρους (δηλαδή συσκευές με μνήμη και δυνατότητες επεξεργασίας) πλησιέστερα στις συσκευές IoT και στους τελικούς χρήστες, συνήθως εντός του ίδιου κτιρίου, σε τοπικές πύλες (gateways) ή σε κοντινά micro data centers.
Ωστόσο, αυτοί οι edge πόροι είναι σημαντικά πιο περιορισμένοι σε επεξεργαστική ισχύ, μνήμη και αποθηκευτικό χώρο σε σύγκριση με τις κεντρικοποιημένες πλατφόρμες cloud, γεγονός που δημιουργεί προκλήσεις για την ανάπτυξη σύνθετων μοντέλων ΤΝ.
Για την αντιμετώπιση αυτού, το αναδυόμενο πεδίο του Edge AI, ιδιαίτερα ενεργό στην Ευρώπη, διερευνά μεθόδους για την αποδοτική εκτέλεση φόρτων εργασίας ΤΝ στο Edge.
Μία τέτοια μέθοδος είναι το Split Computing (κατανεμημένη εκτέλεση μοντέλων), το οποίο κατανέμει μοντέλα βαθιάς μάθησης σε πολλαπλούς edge κόμβους εντός του ίδιου χώρου (ενός κτιρίου, για παράδειγμα) ή ακόμη και σε διαφορετικές γειτονιές ή πόλεις. Η ανάπτυξη αυτών των μοντέλων σε κατανεμημένα περιβάλλοντα δεν είναι απλή υπόθεση και απαιτεί εξελιγμένες τεχνικές. Η πολυπλοκότητα αυξάνεται περαιτέρω με την ενσωμάτωση Foundation Models, καθιστώντας τον σχεδιασμό και την εκτέλεση στρατηγικών split computing ακόμη πιο απαιτητικά.
Τι αλλάζει ως προς την κατανάλωση ενέργειας, το απόρρητο και την ταχύτητα;
Το Edge computing βελτιώνει σημαντικά τους χρόνους απόκρισης, επεξεργαζόμενο τα δεδομένα πλησιέστερα στους τελικούς χρήστες και εξαλείφοντας την ανάγκη μετάδοσης πληροφοριών σε απομακρυσμένα cloud data centers. Πέρα από την απόδοση, το edge computing ενισχύει επίσης το απόρρητο, ιδίως με την εμφάνιση των τεχνικών Edge AI.
Για παράδειγμα, η ομοσπονδιακή μάθηση (Federated Learning) επιτρέπει την εκπαίδευση μοντέλων μηχανικής μάθησης απευθείας σε τοπικές Edge ή, ενδεχομένως, σε νέου τύπου συσκευές IoT με δυνατότητες επεξεργασίας, διασφαλίζοντας ότι τα πρωτογενή δεδομένα (raw data) παραμένουν στη συσκευή, ενώ μόνο οι ενημερώσεις των παραμέτρων του μοντέλου μεταδίδονται σε Edge ή cloud πλατφόρμες για συνάθροιση και τελική εκπαίδευση.
Το απόρρητο διατηρείται περαιτέρω και κατά τη φάση του inference: μόλις εκπαιδευτούν, τα μοντέλα ΤΝ μπορούν να αναπτυχθούν στο Edge, επιτρέποντας την τοπική επεξεργασία των δεδομένων χωρίς να απαιτείται η μεταφορά τους σε υποδομές cloud.
Αυτό είναι ιδιαίτερα πολύτιμο για βιομηχανίες και ΜΜΕ που στοχεύουν να αξιοποιήσουν Μεγάλα Γλωσσικά Μοντέλα εντός της δικής τους υποδομής. Τα Μεγάλα Γλωσσικά Μοντέλα μπορούν να χρησιμοποιηθούν για να απαντούν σε ερωτήματα σχετικά με τις δυνατότητες συστημάτων, την παρακολούθηση ή την πρόβλεψη εργασιών, όπου η εμπιστευτικότητα των δεδομένων είναι απαραίτητη. Για παράδειγμα, τα ερωτήματα μπορεί να αφορούν την επιχειρησιακή κατάσταση βιομηχανικών μηχανημάτων, όπως η πρόβλεψη αναγκών συντήρησης βάσει δεδομένων αισθητήρων, όπου η προστασία ευαίσθητων δεδομένων ή δεδομένων χρήσης είναι απαραίτητη.
Σε τέτοιες περιπτώσεις, η διατήρηση τόσο των ερωτημάτων όσο και των απαντήσεων εντός του οργανισμού διαφυλάσσει τις ευαίσθητες πληροφορίες και συνάδει με τις απαιτήσεις απορρήτου και συμμόρφωσης.
Πώς εφαρμόζεται στην πράξη;
Σε αντίθεση με τις ώριμες πλατφόρμες cloud, όπως το Amazon Web Services και το Google Cloud, δεν υπάρχουν προς το παρόν καθιερωμένες πλατφόρμες που να υποστηρίζουν την ανάπτυξη εφαρμογών και υπηρεσιών στο Edge σε μεγάλη κλίμακα.
Ωστόσο, οι πάροχοι τηλεπικοινωνιών αρχίζουν να αξιοποιούν υπάρχοντες τοπικούς υπολογιστικούς πόρους σε σταθμούς βάσης κινητής τηλεφωνίας, προκειμένου να προσφέρουν υπολογιστικές δυνατότητες πλησιέστερα στους τελικούς χρήστες. Η διαχείριση αυτών των edge πόρων παραμένει απαιτητική λόγω της μεταβλητότητας και της ετερογένειάς τους, καθώς συχνά περιλαμβάνουν πολλούς διακομιστές και συσκευές χαμηλής χωρητικότητας.
Κατά τη γνώμη μου, η πολυπλοκότητα της συντήρησης αποτελεί βασικό εμπόδιο για την ανάπτυξη υπηρεσιών Edge AI. Ταυτόχρονα, οι εξελίξεις στο Edge AI παρουσιάζουν ελπιδοφόρες ευκαιρίες για την ενίσχυση της αξιοποίησης και της διαχείρισης αυτών των κατανεμημένων πόρων.
Κατανομή πόρων στο συνεχές IoT–Edge–Cloud για ασφαλείς και αποδοτικές εφαρμογές AIoT
Για να καταστεί δυνατή η αξιόπιστη και αποδοτική ανάπτυξη συστημάτων AIoT σε έξυπνους χώρους, όπως σπίτια, γραφεία, βιομηχανίες και νοσοκομεία, η ερευνητική μας ομάδα, σε συνεργασία με εταίρους σε όλη την Ευρώπη, αναπτύσσει ένα πλαίσιο που αξιοποιεί την ΤΝ στο πλαίσιο του προγράμματος Horizon Europe PANDORA.
Το PANDORA παρέχει μοντέλα ΤΝ ως Υπηρεσία (AIaaS) προσαρμοσμένα στις απαιτήσεις των τελικών χρηστών (π.χ. καθυστέρηση, ακρίβεια, κατανάλωση ενέργειας). Τα μοντέλα αυτά μπορούν να εκπαιδεύονται είτε κατά τον χρόνο σχεδιασμού (design time) είτε κατά τον χρόνο εκτέλεσης (runtime), χρησιμοποιώντας δεδομένα που συλλέγονται από συσκευές IoT εγκατεστημένες σε έξυπνους χώρους. Επιπλέον, το PANDORA προσφέρει Υπολογιστικούς πόρους ως Υπηρεσία (CaaS) σε όλο το continuum IoT–Edge–Cloud για την υποστήριξη της ανάπτυξης μοντέλων ΤΝ. Το πλαίσιο διαχειρίζεται ολόκληρο τον κύκλο ζωής των μοντέλων ΤΝ, εξασφαλίζοντας τη συνεχή και ανθεκτική λειτουργία των εφαρμογών AIoT με βάση τους στόχους των τελικών χρηστών (intent-driven).
Κατά τον χρόνο εκτέλεσης, οι εφαρμογές AIoT αναπτύσσονται δυναμικά σε όλο το συνεχές IoT–Edge–Cloud, με βάση μετρικές απόδοσης όπως η ενεργειακή αποδοτικότητα, η καθυστέρηση και η υπολογιστική χωρητικότητα. Το CaaS κατανέμει με ευφυή τρόπο τα φορτία εργασίας σε πόρους του πλέον κατάλληλου επιπέδου (IoT–Edge–Cloud), μεγιστοποιώντας την αξιοποίηση των πόρων. Τα μοντέλα επιλέγονται με βάση απαιτήσεις στόχου (intent) ειδικές για κάθε τομέα εφαρμογής (π.χ. ελαχιστοποίηση της κατανάλωσης ενέργειας ή μείωση του χρόνου εξαγωγής συμπερασμάτων) και παρακολουθούνται και ενημερώνονται συνεχώς ώστε να διατηρείται η βέλτιστη απόδοση.
Το έργο έχει λάβει χρηματοδότηση από το πρόγραμμα έρευνας και καινοτομίας Horizon Europe της Ευρωπαϊκής Ένωσης.
Σχετικά με το PANDORA: Horizon Europe GA No. 101135775 · https://pandora-heu.eu
