Η νέα λειτουργία της OpenAI καταγράφει και συνοψίζει τη δραστηριότητα του χρήστη σε εφαρμογές και websites, δημιουργώντας ένα διαρκές ιστορικό που μπορεί να αξιοποιηθεί από το ChatGPT και το Codex. Η δυνατότητα εγείρει σημαντικά ερωτήματα για την ιδιωτικότητα, την ασφάλεια και τον κίνδυνο αξιοποίησης των δεδομένων από infostealers.
Μια νέα λειτουργία του ChatGPT με την ονομασία Computer History έρχεται να αλλάξει τον τρόπο με τον οποίο το chatbot μπορεί να «θυμάται» τη δραστηριότητα ενός χρήστη στον υπολογιστή του. Παράλληλα, όμως, δημιουργεί μια σειρά από εύλογους προβληματισμούς γύρω από την ιδιωτικότητα και την ασφάλεια των δεδομένων.
Η λειτουργία, που παρουσιάστηκε από την OpenAI για macOS, δημιουργεί ένα χρονολόγιο της καθημερινής δραστηριότητας στον υπολογιστή, ομαδοποιώντας ενέργειες και καταγράφοντας ποιες εφαρμογές και ιστοσελίδες συνδέονται με κάθε δραστηριότητα.
Με αυτόν τον τρόπο, το ChatGPT και το Codex μπορούν να αξιοποιούν το συγκεκριμένο ιστορικό ως πρόσθετο πλαίσιο στις μελλοντικές αλληλεπιδράσεις με τον χρήστη.
Πώς λειτουργεί το Computer History
Το Computer History αποτελεί τον διάδοχο της πειραματικής λειτουργίας Chronicle, αλλά σύμφωνα με την OpenAI δεν πρόκειται απλώς για αλλαγή ονομασίας. Η εταιρεία έχει αναπτύξει εκ νέου το σύστημα, το οποίο χρησιμοποιεί events αλληλεπίδρασης, κείμενο και άλλο διαθέσιμο context από τις δυνατότητες προσβασιμότητας του macOS για να δημιουργεί περιλήψεις της δραστηριότητας.
Οι χρήστες μπορούν να ελέγχουν τις περιλήψεις, αλλά και να τις διαγράφουν.
Η OpenAI διευκρινίζει ότι το Computer History:
- δεν αποθηκεύει screenshots στο ιστορικό,
- δεν καταγράφει ήχο,
- δεν περιλαμβάνει δραστηριότητα από private-mode browsing,
- είναι απενεργοποιημένο από προεπιλογή και απαιτεί ενεργοποίηση από τον χρήστη,
- απαιτεί επίσης να είναι ενεργοποιημένη η ξεχωριστή λειτουργία Memories.
Η δυνατότητα είναι προς το παρόν διαθέσιμη μόνο στην desktop εφαρμογή του ChatGPT για macOS και δεν προσφέρεται στον Ευρωπαϊκό Οικονομικό Χώρο, την Ελβετία και το Ηνωμένο Βασίλειο.
Για τους Pro χρήστες η ενεργοποίηση μπορεί να γίνει από τον ίδιο τον χρήστη. Στα Business και Enterprise περιβάλλοντα απαιτείται πρώτα έγκριση από τον administrator, χωρίς όμως η έγκριση αυτή να ενεργοποιεί αυτόματα τη λειτουργία για όλους τους χρήστες.
Ο χρήστης διατηρεί τον έλεγχο – αλλά όχι χωρίς ρίσκο
Η OpenAI έχει ενσωματώσει αρκετές δυνατότητες ελέγχου.
Ο χρήστης μπορεί να επιλέξει ποιες εφαρμογές και ιστοσελίδες θα συμμετέχουν στη δημιουργία του ιστορικού, αλλά και να εξαιρέσει συγκεκριμένες εφαρμογές οποιαδήποτε στιγμή.
Υπάρχει επίσης δυνατότητα προσωρινής παύσης της συλλογής δεδομένων, είτε από τις ρυθμίσεις είτε μέσω του menu bar του macOS, χωρίς να απαιτείται πλήρης απενεργοποίηση της λειτουργίας.
Παράλληλα, το ιστορικό μπορεί να διαγραφεί για:
- τα τελευταία 10 λεπτά,
- την τελευταία ώρα,
- την τελευταία ημέρα,
- ή συνολικά.
Κάθε καταχώριση του timeline συνοδεύεται από ένα αρχείο μνήμης, το οποίο ο χρήστης μπορεί να εντοπίσει μέσω του Finder.
Σύμφωνα με την OpenAI, τα raw interaction-event files παραμένουν τοπικά στον Mac, μέσα στο data container της εφαρμογής ChatGPT, και διαγράφονται μετά από 48 ώρες.
Τα αρχεία μνήμης που δημιουργούνται από αυτά τα δεδομένα είναι διαφορετικά. Πρόκειται για απλά Markdown αρχεία κειμένου, τα οποία παραμένουν στη συσκευή μέχρι να τα διαγράψει ο χρήστης.
Η εταιρεία αναφέρει επίσης ότι τα interaction-event files αποστέλλονται στους servers της μόνο για την επεξεργασία και δημιουργία των σχετικών περιλήψεων και στη συνέχεια δεν διατηρούνται.
Το πρόβλημα: τα αρχεία μνήμης δεν είναι κρυπτογραφημένα
Παρά τις δικλίδες ασφαλείας, η ίδια η OpenAI αναγνωρίζει ορισμένους σημαντικούς κινδύνους.
Ο πρώτος αφορά τα memory files.
Τα συγκεκριμένα αρχεία δεν είναι κρυπτογραφημένα, γεγονός που σημαίνει ότι άλλες εφαρμογές οι οποίες εκτελούνται με τα ίδια δικαιώματα χρήστη στο macOS ενδέχεται να μπορούν να τα διαβάσουν.
Αυτό αποκτά ιδιαίτερη σημασία αν αναλογιστεί κανείς το είδος των πληροφοριών που μπορεί να περιλαμβάνει ένα τέτοιο αρχείο.
Ένα ιστορικό δραστηριότητας μπορεί να αποκαλύψει, για παράδειγμα, ποιες εφαρμογές χρησιμοποιεί ένας εργαζόμενος, ποια websites επισκέπτεται, ποια εργαλεία χρησιμοποιεί και, ανάλογα με το περιεχόμενο που καταγράφεται στις περιλήψεις, σημαντικές πληροφορίες για την καθημερινή του εργασία.
Σε έναν εταιρικό υπολογιστή, ένα τέτοιο αρχείο θα μπορούσε δυνητικά να περιέχει ευαίσθητο επαγγελματικό context, ακόμη και αν δεν αποτελεί αυτούσιο αντίγραφο της δραστηριότητας του χρήστη.
Ο κίνδυνος του prompt injection
Ο δεύτερος κίνδυνος που αναγνωρίζει η OpenAI αφορά το prompt injection.
Όσο περισσότερα δεδομένα από το περιβάλλον του χρήστη παρέχονται σε ένα AI μοντέλο, τόσο μεγαλύτερη γίνεται η επιφάνεια στην οποία μπορεί να εμφανιστεί κακόβουλο περιεχόμενο.
Για παράδειγμα, ένας χρήστης μπορεί να επισκεφθεί μια ιστοσελίδα που περιέχει κακόβουλες οδηγίες σχεδιασμένες να επηρεάσουν τη συμπεριφορά ενός AI agent.
Η OpenAI προειδοποιεί ότι, σε ένα τέτοιο σενάριο, το ChatGPT ή το Codex ενδέχεται να ακολουθήσει αυτές τις οδηγίες.
Το ζήτημα είναι ιδιαίτερα σημαντικό καθώς η τεχνολογία μετακινείται σταδιακά από τα απλά conversational AI συστήματα προς AI agents που μπορούν να αντιλαμβάνονται και να αλληλεπιδρούν με το περιβάλλον του χρήστη.
Όσο μεγαλύτερη είναι η πρόσβαση ενός agent στο context ενός υπολογιστή, τόσο μεγαλύτερη είναι και η ανάγκη για ισχυρούς μηχανισμούς απομόνωσης, ελέγχου και επικύρωσης των ενεργειών του.
«Δεν θα το ενεργοποιούσα στον υπολογιστή της δουλειάς»
Ο Ed Gaile, Principal Solution Architect στην Appfire, περιγράφει με ιδιαίτερα παραστατικό τρόπο τον προβληματισμό γύρω από τη νέα λειτουργία.
Όπως σημειώνει, το Computer History μοιάζει με την περίπτωση όπου κάποιος συνάδελφος θα καθόταν δίπλα σου όλη την ημέρα, θα κατέγραφε κάθε κλικ και κάθε πληκτρολόγηση και στη συνέχεια θα αποθήκευε αυτές τις σημειώσεις σε έναν φάκελο στον Mac.
Η παρομοίωση μπορεί να ακούγεται υπερβολική, όμως αναδεικνύει ένα ουσιαστικό ζήτημα: τι είδους πληροφορίες δημιουργούνται όταν ένα AI αποκτά διαρκή εικόνα της δραστηριότητας ενός χρήστη;
Ο Gaile υποστηρίζει ότι δεν θα ενεργοποιούσε τη λειτουργία σε υπολογιστή που χρησιμοποιείται για εργασία, ιδιαίτερα όταν στο συγκεκριμένο σύστημα υπάρχουν πληροφορίες που θα ήταν δύσκολο να δικαιολογηθούν σε έναν πελάτη, έναν εργοδότη ή σε ένα εσωτερικό εταιρικό έλεγχο.
Η συμβουλή του προς όσους θέλουν να δοκιμάσουν τη λειτουργία είναι απλή: να παραμείνει απενεργοποιημένη στον εταιρικό Mac και, εφόσον κάποιος θέλει να πειραματιστεί, να χρησιμοποιήσει έναν προσωπικό υπολογιστή χωρίς ευαίσθητα δεδομένα.
Θα μπορούσε να αποτελέσει «χάρτη» για τους infostealers;
Ακόμη μεγαλύτερο ενδιαφέρον παρουσιάζει η προειδοποίηση του Mark Beare, επικεφαλής του consumer security unit και του Malwarebytes Labs.
Το βασικό ερώτημα είναι τι θα συνέβαινε εάν ένας infostealer αποκτούσε πρόσβαση στα συγκεκριμένα αρχεία.
Οι infostealers είναι σχεδιασμένοι να αναζητούν και να κλέβουν δεδομένα από έναν υπολογιστή, όπως credentials, cookies, tokens, στοιχεία browser και άλλες πληροφορίες που μπορούν να αξιοποιηθούν για πρόσβαση σε λογαριασμούς και συστήματα.
Ένα αρχείο που αποτυπώνει με οργανωμένο τρόπο τη δραστηριότητα ενός χρήστη θα μπορούσε δυνητικά να προσφέρει σε έναν επιτιθέμενο κάτι ακόμη πιο πολύτιμο: έναν έτοιμο χάρτη του ψηφιακού περιβάλλοντος του θύματος.
Από ένα τέτοιο ιστορικό θα μπορούσαν να εξαχθούν πληροφορίες σχετικά με τις εφαρμογές που χρησιμοποιούνται, τις υπηρεσίες στις οποίες συνδέεται ο χρήστης, τα websites που επισκέπτεται και ενδεχομένως τις επαγγελματικές του δραστηριότητες.
Αυτό δεν σημαίνει ότι το Computer History αποτελεί από μόνο του μηχανισμό κλοπής δεδομένων ή ότι έχει αποδειχθεί πως χρησιμοποιείται από infostealers. Το ζήτημα είναι ότι δημιουργείται ένα νέο, συγκεντρωμένο αποθετήριο context, το οποίο θα μπορούσε να αποκτήσει ιδιαίτερη αξία σε περίπτωση που ένας εισβολέας καταφέρει να αποκτήσει πρόσβαση στο endpoint.
Η νέα πρόκληση για την ασφάλεια των AI agents
Η περίπτωση του Computer History αναδεικνύει ένα ευρύτερο ζήτημα που αναμένεται να απασχολήσει έντονα την κυβερνοασφάλεια τα επόμενα χρόνια.
Τα AI συστήματα αποκτούν ολοένα μεγαλύτερη επίγνωση του περιβάλλοντος του χρήστη. Από απλά εργαλεία που απαντούν σε ερωτήσεις, εξελίσσονται σε agents που μπορούν να γνωρίζουν τι κάνει ο χρήστης, να αλληλεπιδρούν με εφαρμογές, να χρησιμοποιούν δεδομένα από προηγούμενες ενέργειες και, σε ορισμένες περιπτώσεις, να εκτελούν ενέργειες για λογαριασμό του.
Αυτό δημιουργεί ένα νέο trade-off:
περισσότερο context σημαίνει πιο χρήσιμο AI, αλλά ταυτόχρονα μεγαλύτερη αξία των δεδομένων που πρέπει να προστατευθούν.
Για τις επιχειρήσεις, επομένως, το ερώτημα δεν είναι μόνο εάν ένα AI εργαλείο είναι χρήσιμο. Είναι επίσης ποια δεδομένα μπορεί να δει, πού αποθηκεύονται, ποια άλλα προγράμματα μπορούν να τα προσπελάσουν και τι θα μπορούσε να συμβεί εάν το endpoint παραβιαστεί.
Και στην περίπτωση του Computer History, η απάντηση φαίνεται να απαιτεί ιδιαίτερη προσοχή — ειδικά όταν πρόκειται για εταιρικούς υπολογιστές και περιβάλλοντα όπου διαχειρίζονται ευαίσθητες πληροφορίες.
Πηγή: Help Net Security / OpenAI