Ένα νέο πλαίσιο ελέγχου και διακυβέρνησης των AI Agents

Η Τεχνητή Νοημοσύνη αλλάζει τον τρόπο λειτουργίας των επιχειρήσεων, με το ενδιαφέρον να μετατοπίζεται από υποστηρικτικά εργαλεία σε συστήματα που αναλαμβάνουν πιο ενεργό ρόλο.

eSafe Cyber Security Hellas
https://esafe-cybersecurity.gr

 

 

 

Οι AI agents αποτελούν το επόμενο βήμα, καθώς αναλαμβάνουν εργασίες και αλληλεπιδρούν με εργαλεία, δεδομένα και εταιρικά συστήματα. Η εξέλιξη αυτή δημιουργεί ένα κρίσιμο ερώτημα: πώς διατηρούνται η ορατότητα, ο έλεγχος και η διακυβέρνηση όταν η Τεχνητή Νοημοσύνη δεν περιορίζεται πλέον στο να απαντά, αλλά μπορεί και να ενεργεί;

Τα περισσότερα εργαλεία ασφάλειας παρακολουθούν ανθρώπους, εφαρμογές, συσκευές ή κώδικα, ενώ ένας agent μπορεί να κινείται ανάμεσά τους. Σε αυτή τη νέα πραγματικότητα, η Island προτείνει ένα Control Plane για το Agentic Enterprise, ένα ενιαίο επίπεδο ελέγχου, με κοινό μηχανισμό εφαρμογής πολιτικών και καταγραφής ενεργειών, που προσφέρει ορατότητα και έλεγχο στη δραστηριότητα των AI agents. 

Η πρόκληση της αυτονομίας των AI Agents

Μέχρι πρόσφατα, το AI governance επικεντρωνόταν στον έλεγχο των δεδομένων που οι εργαζόμενοι μοιράζονταν με εργαλεία Generative AI. Με τους AI agents, όμως, οι απαιτήσεις αλλάζουν, καθώς εκτελούν ενέργειες και αλληλεπιδρούν αυτόνομα με συστήματα. Σύμφωνα με έρευνα της Island, το 53% των αλληλεπιδράσεων με AI αφορά ήδη αυτόνομες ενέργειες.

Η αυτονομία δημιουργεί προκλήσεις και στο κόστος, με το 93% των συμμετεχόντων σε έρευνα της McKinsey που επικαλείται η Island να αναφέρει υπέρβαση των προϋπολογισμών για AI.

Παράλληλα, διευρύνεται η επιφάνεια επίθεσης, καθώς προσωπικοί χώροι αποθήκευσης στο cloud συνδέονται με agents ή εγκαθίστανται MCP servers από διαφορετικές πηγές. Οι επιχειρήσεις ενδέχεται να μην έχουν πλήρη εικόνα των agents και των ενεργειών τους.

Ακόμη και οι διαδικασίες έγκρισης δεν αρκούν πάντα, καθώς η Island διαπίστωσε ότι το 93% των αιτημάτων έγκρισης τελικά εγκρίνονται, περιορίζοντας την αποτελεσματικότητα της ανθρώπινης εποπτείας (human-in-the-loop).

Η Island σάρωσε επίσης σχεδόν 34.000 δημόσιους MCP servers και διαπίστωσε ότι ένας στους τρεις παρουσίαζε εύρημα υψηλής ή κρίσιμης σοβαρότητας, ενώ το 92% των υπευθύνων τους δεν διέθετε επαληθεύσιμη σύνδεση με οργανισμό. 

Το κενό ορατότητας στα παραδοσιακά εργαλεία ασφάλειας

Τα εργαλεία ασφάλειας καλύπτουν διαφορετικά τμήματα της δραστηριότητας. Τα εργαλεία ασφάλειας δικτύου παρακολουθούν την κίνηση στο δίκτυο, οι λύσεις Endpoint Detection and Response (EDR) καταγράφουν όσα συμβαίνουν στις συσκευές και τα συστήματα διαχείρισης ταυτοτήτων ελέγχουν ποια credentials χρησιμοποιούνται για την πρόσβαση σε εταιρικούς πόρους.

Στην περίπτωση ενός AI agent, όμως, απαιτείται συνολική εικόνα της ακολουθίας, από το prompt και το εργαλείο που χρησιμοποιήθηκε έως τα δεδομένα στα οποία απέκτησε πρόσβαση και τον τελικό προορισμό τους.

Για παράδειγμα, ένας coding agent μπορεί να εκτελέσει μη εγκεκριμένο skill, να αποκτήσει πρόσβαση σε ευαίσθητο αρχείο και να το αποστείλει σε εξωτερικό domain, ενώ διαφορετικά εργαλεία ασφάλειας καταγράφουν μόνο επιμέρους στάδια.

Ενιαίος έλεγχος εκεί όπου λειτουργούν οι Agents

Η τεχνολογία της Island λειτουργεί στα σημεία όπου δραστηριοποιούνται οι agents, όπως ο browser, το endpoint και το δίκτυο, επιτρέποντας την εφαρμογή πολιτικών σε διαφορετικά στάδια των ενεργειών τους. Για παράδειγμα, εάν εντοπιστεί κακόβουλο skill, η εκτέλεσή του μπορεί να αποκλειστεί.

Στον browser, όπου ένας agent μπορεί να αλληλεπιδρά με μια διαδικτυακή εφαρμογή όπως ένας άνθρωπος, μπορούν να εφαρμόζονται πολιτικές που λαμβάνουν υπόψη το πλαίσιο της δραστηριότητας και επιτρέπουν τον κατάλληλο έλεγχο.

 

Πέντε βασικοί άξονες για τη διακυβέρνηση των AI Agents

Το Control Plane της Island οργανώνεται γύρω από πέντε βασικούς άξονες:

  • Το Agentic Endpoint Posture εντοπίζει agents, MCP servers, skills, πακέτα λογισμικού και επεκτάσεις στα endpoints, αξιολογεί κινδύνους και επιτρέπει την απομάκρυνση επικίνδυνων στοιχείων.
  • Το Agentic Identity καταγράφει τις μη ανθρώπινες ταυτότητες και παρέχει just-in-time credentials μέσω MCP gateway, περιορίζοντας την ανάγκη για μόνιμα credentials.
  • Το AI Protect εφαρμόζει πολιτικές σε prompts, tool calls, αρχεία και sub-agents, αποκλείοντας μη επιτρεπόμενες ενέργειες και ενημερώνοντας τον agent ώστε να προσαρμόσει τη συμπεριφορά του.
  • Το AI Cost and Experience παρέχει εικόνα για τη χρήση, το κόστος και την απόδοση των agents βάσει πραγματικών δεδομένων από τις συνεδρίες τους.
  • Το Vibe Publishing επιτρέπει την ασφαλή δημοσίευση εσωτερικών εργαλείων που δημιουργούνται μέσω εφαρμογών ανάπτυξης λογισμικού με AI (vibe coding), με ελέγχους πριν από τη διάθεσή τους.

Και οι πέντε άξονες βασίζονται στον ίδιο μηχανισμό εφαρμογής πολιτικών και καταγραφής ενεργειών, δημιουργώντας κοινό πλαίσιο ελέγχου της δραστηριότητας των AI agents.

 

Από την υιοθέτηση των AI Agents στην ασφαλή διακυβέρνησή τους

Καθώς οι AI agents αποκτούν πρόσβαση σε εταιρικά συστήματα, δεδομένα και διαδικασίες, το ζητούμενο είναι υπό ποιους κανόνες, με ποια δικαιώματα και με ποιο επίπεδο ελέγχου λειτουργούν.

Η eSafe Hellas, σε συνεργασία με την Island, μπορεί να υποστηρίξει τους οργανισμούς στην ασφαλή ενσωμάτωση των AI agents. Συνδυάζοντας το Island Enterprise Browser και το Agentic Enterprise Control Plane με την τεχνογνωσία της eSafe, οι οργανισμοί μπορούν να δημιουργήσουν ένα συνεκτικό πλαίσιο ορατότητας, πολιτικών και ελέγχου, ώστε η αξιοποίηση του AI να εξελίσσεται παράλληλα με την ασφάλεια και τη διακυβέρνησή του.