ΤΝ: Σύμμαχος ή Απειλή;

Ο Ιανός της Ψηφιακής Εποχής

Γιώργος Ασλανίδης
Cybersecurity Architecture & Solutions Manager
Cyber Noesis      www.cybernoesis.com

Η Τεχνητή Νοημοσύνη (ΤΝ) εξελίσσεται με ρυθμό που δεν έχει προηγούμενο. Ακόμα και το διαδίκτυο χρειάστηκε δεκαετίες για να ωριμάσει – σε αντίθεση με την ΤΝ. Μια τεχνολογίας με διττή φύση, ένας σύγχρονος Ιανός, που κοιτάζει ταυτόχρονα προς δύο κατευθύνσεις. Τη μεγάλη ευκαιρία και τον υψηλό κίνδυνο καθώς ενισχύει και τις δύο πλευρές του ψηφιακού «πολέμου».

Η σκοτεινή όψη της ΤΝ

Η προηγούμενη δεκαετία χαρακτηρίστηκε από κλιμάκωση κυβερνοεπιθέσεων που αξιοποιούσαν αυτοματισμούς, botnets, ευπάθειες σε IoT συσκευές και phishing σε μαζική κλίμακα. Με την ΤΝ, όμως, το επίπεδο απειλής όχι μόνο ενισχύεται αλλά αλλάζει και ποιοτικά.

Η ΤΝ επιτρέπει σε μη έμπειρους επιτιθέμενους να παράγουν malware, να μεταλλάσσουν κακόβουλο λογισμικό που αλλάζει συμπεριφορά σε κάθε εκτέλεση και να αναπτύσσουν payloads με τεχνικές απόκρυψης που μέχρι πρόσφατα απαιτούσαν εξειδίκευση επιπέδου APT.

Ταυτόχρονα, τα μοντέλα generative ΤΝ επιτρέπουν ευφυή αναγνώριση και κατανόηση της αρχιτεκτονικής ενός συστήματος μέσω από δημόσιων δεδομένων, δικτυακών patterns και λανθασμένων ρυθμίσεων που έχουν διαρρεύσει στο διαδίκτυο, συρρικνώνοντας τον απαιτούμενο χρόνο χαρτογράφησης ενός οργανισμού.

Το πεδίο όπου η ΤΝ έχει δημιουργήσει τη μεγαλύτερη ανισορροπία είναι το social engineering. Η προσωποποιημένη πειθώ σε πραγματικό χρόνο, τα deepfakes φωνής και video, η δημιουργία πειστικών σεναρίων «IT support» ή «επείγουσας ανάγκης», η εκμετάλλευση συναισθηματικών αντιδράσεων, συνθέτουν μια απειλή που υπερβαίνει το παραδοσιακό phishing. Ο επιτιθέμενος πλέον προσαρμόζει το ύφος, το λεξιλόγιο και τη συμπεριφορά του με ακρίβεια που θυμίζει ψυχομετρικά μοντέλα.

Στον πίνακα των απειλών που καταγράφουν σήμερα οργανισμοί, CERTs και ρυθμιστικές αρχές προστίθενται και οι adversarial τεχνικές, εναντίων των ίδιων των μοντέλων ΤΝ ώστε να δίνουν λάθος αποτελέσματα, να διαρρέουν δεδομένα ή να δημιουργούν κρυφούς «backdoor» μηχανισμούς, δημιουργώντας μια εικόνα  ακόμη πιο σύνθετη.

Η εξέλιξη των επιθέσεων δεν είναι κάτι καινούργιο.  Ήδη από το 2000, το Software Engineering Institute του Carnegie Mellon δημοσίευσε το κλασικό διάγραμμα “Attack Sophistication vs. Intruder Technical Knowledge” (CMU/SEI-99-TR-028), το οποίο ανέδειξε μια κρίσιμη τάση:  όσο τα εργαλεία των επιτιθέμενων γίνονται πιο εξελιγμένα, τόσο μειώνεται η τεχνική γνώση για την εκτέλεση μιας επιτυχημένης επίθεσης. Δηλαδή, η «εξειδίκευση» μετατοπίζεται από τον άνθρωπο στο εργαλείο. Σήμερα, με την ευρεία χρήση της ΤΝ, αυτή η τάση επιταχύνεται. Η εμφάνιση των Cognitive & Autonomous Attacks είναι η επόμενη «πίστα» εξέλιξης, σχεδιάζοντας ακόμα και υβριδικές επιθέσεις που συνδυάζουν ψηφιακές και φυσικές παρεμβολές. Η ΤΝ λειτουργεί πλέον ως πολλαπλασιαστής ισχύος, επιτρέποντας σε επιτιθέμενους με περιορισμένη εμπειρία να αξιοποιήσουν δυνατότητες που μέχρι πρόσφατα ανήκαν αποκλειστικά σε ομάδες υψηλής εξειδίκευσης.

Η φωτεινή όψη της ΤΝ

Ένα εργαλείο, μια χημική ουσία, ένα όχημα, μπορεί να είναι τόσο ασφαλές όσο και επικίνδυνο, ανάλογα με τον τρόπο που χρησιμοποιείται.

Έτσι η ΤΝ μπορεί να προσφέρει εξίσου ισχυρά εργαλεία και στους υπερασπιστές οργανισμών, κρίσιμων υποδομών και κοινωνιών. Να προσδώσει επιπλέον δυνατότητες σε αναγνώριση συμπεριφορών μετατρέποντας ένα SIEM σε εργαλείο ενεργής ανάλυσης μοτίβων, ένα EDR να μπορεί να εντοπίζει αποκλίσεις διεργασιών και ένα XDR να συνδέει σε πραγματικό χρόνο δεδομένα από endpoints, email, δίκτυο και cloud. Να ισχυροποιεί την αναγνώριση phishing campaigns, αναλύοντας ύφος, δομή και προέλευση, εντοπίζοντας κακόβουλα μηνύματα που ξεφεύγουν από παραδοσιακά φίλτρα.

Συστήματα που παλαιότερα «έβλεπαν» μόνο κομμάτια της εικόνας, τώρα αποκτούν ενιαία, νοητή επίγνωση του περιβάλλοντος ενισχύοντας το exposure management, βοηθώντας οργανισμούς να κατανοήσουν τα assets τους, τα κενά ασφαλείας και να δρομολογήσουν την προτεραιοποίηση των ενεργειών αποκατάστασης.

Το threat intelligence επίσης ενδυναμώνεται με την συμβολή της ΤΝ επιτρέποντας ανάλυση τάσεων, πρόβλεψη μελλοντικών επιθέσεων και συσχέτιση συμβάντων που θα ήταν ακατόρθωτο με τα συμβατικά μέσα που είχε στην διάθεσή τους ένας αναλυτής.

Στον τομέα των εφαρμογών, η ΤΝ μπορεί να είναι το δεύτερο – ή τρίτο – ζευγάρι μάτια προγραμματιστών που εντοπίζει κενά ασφαλείας στον κώδικα, προτείνει διορθώσεις και μειώνει δραστικά τις πιθανότητες ευπαθειών, χωρίς να παραγνωρίζονται οι κίνδυνοι στην ποιότητα του κώδικα εάν δεν εισαχθούν ποιοτικοί έλεγχοι.

Τέλος, ένα ακόμα τεράστιο όφελος είναι η επιτάχυνση του Incident Response συνθέτοντας δεδομένα από πολλαπλές πηγές και SOAR με αυτοματισμούς  απόκρισης, μειώνοντας σημαντικά χρόνους MTTD/MTTR ώστε οι ομάδες να επικεντρωθούν σε τακτικές υψηλής αξίας.

Η ανάγκη για Διακυβέρνηση και Υπεύθυνη Υιοθέτηση

Η διείσδυση της ΤΝ σε όλο και περισσότερες λειτουργίες ενός οργανισμού, δημιουργεί την ανάγκη για στιβαρή διακυβέρνηση και υπεύθυνη χρήση. Ο ευρωπαϊκός AI Act, το NIST AI RMF και το ISO/IEC 42001 θέτουν τα πρώτα ολοκληρωμένα πλαίσια που καθορίζουν τι σημαίνει ασφαλής, τεκμηριωμένη και υπεύθυνη χρήση ΤΝ.

Ένα σύγχρονο πρόγραμμα διακυβέρνησης ΤΝ δεν μπορεί να περιορίζεται σε τεχνικές απαιτήσεις. Απαιτεί αναγνώριση, καταγραφή και αξιολόγηση των μοντέλων ΤΝ – τόσο των επίσημων όσο και των «σκιωδών» που υιοθετούν οι χρήστες. Απαιτεί διαφάνεια στα δεδομένα εκπαίδευσης, κατανόηση των ροών εισόδου και εξόδου, και προστασία από adversarial χειρισμούς μέσω κατάλληλων μηχανισμών «AI firewalls».

Η ΤΝ απαιτεί ολιστική προσέγγιση διακυβέρνησης που συνδυάζει τεχνολογία, ηθική, επιχειρησιακή ευθύνη και ανθρώπινη επίβλεψη, για να προσδώσει εμπιστοσύνη στους εμπλεκόμενους και να δημιουργήσει  ένα πλαίσιο υπευθυνότητας για ανάπτυξη καινοτομιών, χωρίς νομικές και οικονομικές επιπλοκές.

 Κρυφοκοιτάζοντας το αύριο

Το ορατό μέλλον φαίνεται να επηρεάζεται από τις εξελίξεις στους κβαντικούς υπολογιστές και την ΤΝ, η οποία θα λειτουργεί σαν καταλύτης σε όλο και περισσότερους τομείς της πραγματικότητας που βιώνουμε. Η ΤΝ δεν είναι καλή ή κακή, αλλά ούτε και ουδέτερη. Είναι ένα εργαλείο τεράστιας ισχύος με διττή χρησιμότητα στην ανάπτυξη καινοτομιών και καταχρήσεων. Το ποια πλευρά θα επικρατήσει δεν θα το καθορίσει η τεχνολογία αλλά η ηγεσία, οι στρατηγικές αποφάσεις, η διακυβέρνηση  και η ανάπτυξη ταλέντων στον χώρο της κυβερνοασφάλειας  που θα χρησιμοποιήσουν την ΤΝ προς όφελος των οργανισμών και της κοινωνίας.