Από τη δημιουργία ψεύτικων ταυτοτήτων και την παραγωγή μηνυμάτων μέχρι τη διαχείριση εργαζομένων και τη σύνδεση με κυκλώματα εμπορίας ανθρώπων, η υπόθεση δείχνει πώς η GenAI μπορεί να λειτουργήσει ως “πολλαπλασιαστής ισχύος” για το οργανωμένο έγκλημα.
Η τεχνητή νοημοσύνη εξελίσσεται γρήγορα σε ένα ακόμη εργαλείο στα χέρια του οργανωμένου κυβερνοεγκλήματος. Μια πρόσφατη έρευνα της OpenAI αποκαλύπτει τον τρόπο με τον οποίο ένα συντονισμένο δίκτυο λογαριασμών ChatGPT, το οποίο φέρεται να συνδεόταν με την Καμπότζη, αξιοποίησε τα μοντέλα της εταιρείας για να οργανώσει και να υποστηρίξει μια σειρά από μεγάλης κλίμακας διαδικτυακές απάτες.
Η δραστηριότητα φαίνεται να ξεκινούσε από την περιοχή Preah Sihanouk της Καμπότζης, η οποία έχει συνδεθεί σε δημόσιες αναφορές με οργανωμένα scam compounds και κυκλώματα εμπορίας ανθρώπων.
Η OpenAI εντόπισε και διέκοψε τη συγκεκριμένη δραστηριότητα έπειτα από σχετική πληροφορία που προήλθε από το WhatsApp. Σύμφωνα με την εταιρεία, οι λογαριασμοί χρησιμοποιούσαν το ChatGPT για τη δημιουργία ψεύτικων online personas, τη σύνταξη και μετάφραση μηνυμάτων προς υποψήφια θύματα, την παραγωγή διαφημιστικού περιεχομένου και την υποστήριξη των καθημερινών λειτουργιών του κυκλώματος.
Το πραγματικό οικονομικό μέγεθος της επιχείρησης παραμένει άγνωστο. Ωστόσο, από τις συνομιλίες που εντοπίστηκαν προκύπτει ότι οι δράστες μπορεί να είχαν επικοινωνήσει με εκατοντάδες πιθανά θύματα, ενώ σε ορισμένες περιπτώσεις γινόταν αναφορά σε απώλειες χιλιάδων δολαρίων.
Ένα «εργοστάσιο» διαδικτυακής εξαπάτησης
Το ιδιαίτερα ανησυχητικό στοιχείο της υπόθεσης δεν είναι απλώς ότι οι δράστες χρησιμοποίησαν AI για να γράψουν καλύτερα μηνύματα. Το ChatGPT φαίνεται να ενσωματώθηκε σε πολλά διαφορετικά στάδια της επιχειρησιακής διαδικασίας.
Το δίκτυο λειτουργούσε ταυτόχρονα διαφορετικούς τύπους scams, μεταξύ των οποίων επενδυτικές απάτες, romance scams, gambling scams και πλαστοπροσωπία αρχών επιβολής του νόμου.
Η μεθοδολογία που περιγράφεται είναι χαρακτηριστική της σύγχρονης social engineering απάτης. Αρχικά οι δράστες πραγματοποιούν το λεγόμενο «ping», δηλαδή την πρώτη προσέγγιση του θύματος. Στη συνέχεια ακολουθεί το «zing», η δημιουργία συναισθηματικής σύνδεσης ή πίεσης, και τέλος το «sting», δηλαδή η προσπάθεια απόσπασης χρημάτων.
Το ChatGPT χρησιμοποιήθηκε για τη μετάφραση και τη διαμόρφωση συνομιλιών σε πλατφόρμες όπως το WhatsApp και το Telegram. Παράλληλα, οι δράστες δημιουργούσαν αναρτήσεις στα social media, αναζητούσαν πληροφορίες από dating profiles και συγκέντρωναν στοιχεία που θα μπορούσαν να κάνουν τις ψεύτικες ταυτότητες περισσότερο πειστικές.
Η χρήση της AI επέτρεπε έτσι στους απατεώνες να παράγουν γρήγορα και σε μεγάλη κλίμακα εξατομικευμένα μηνύματα, προσαρμοσμένα στη γλώσσα και στο προφίλ κάθε στόχου.
Από την προσέγγιση στην οικονομική παγίδα
Το περιεχόμενο των μηνυμάτων ήταν σχεδιασμένο ώστε να δημιουργεί εμπιστοσύνη, συναισθηματική εμπλοκή και αίσθηση επείγοντος.
Στις επενδυτικές απάτες, για παράδειγμα, οι δράστες υπόσχονταν εγγυημένες αποδόσεις και «χωρίς ρίσκο» επενδύσεις. Σε άλλες περιπτώσεις χρησιμοποιούσαν ρομαντική γλώσσα και πρακτικές που παραπέμπουν σε romance scams, ενώ συχνά ζητούσαν από τα θύματα να κρατήσουν τη συνομιλία μυστική.
Η πίεση εντεινόταν με την επίκληση χρονικών περιορισμών, υποτιθέμενων bonus ή προσφορών που θα έληγαν σύντομα.
Όταν το θύμα είχε πλέον πειστεί, ερχόταν το οικονομικό σκέλος της απάτης. Οι δράστες ζητούσαν χρήματα για την ενεργοποίηση δήθεν ανταμοιβών, την απελευθέρωση κερδών ή την καταβολή ανύπαρκτων προστίμων και χρεών.
Σε ορισμένες περιπτώσεις ζητούσαν ακόμη και screenshots των πληρωμών ή στοιχεία λογαριασμών, προκειμένου να επιβεβαιώσουν ότι η μεταφορά χρημάτων είχε πραγματοποιηθεί.
Το σημαντικό εδώ είναι ότι η AI δεν αντικαθιστά απαραίτητα τον απατεώνα. Του επιτρέπει όμως να επιχειρεί σε μεγαλύτερη κλίμακα, με μεγαλύτερη ταχύτητα και με πολύ πιο πειστικό περιεχόμενο.
Η πιο σκοτεινή πλευρά: σύνδεση με εμπορία ανθρώπων
Ακόμη πιο σοβαρές είναι οι ενδείξεις ότι μέρος της δραστηριότητας συνδεόταν με εμπορία ανθρώπων και καταναγκαστική εργασία.
Ορισμένοι λογαριασμοί παρήγαγαν περιεχόμενο που παραπέμπει σε οργανωμένα εγκληματικά δίκτυα της Ανατολικής Ασίας. Δημόσιες έρευνες έχουν καταγράψει περιπτώσεις όπου άνθρωποι προσελκύονται με υποσχέσεις για νόμιμη εργασία και στη συνέχεια παγιδεύονται σε συνθήκες χρέους, εξαναγκασμού και καταναγκαστικής εργασίας μέσα σε οργανωμένα scam compounds.
Σε αυτή την περίπτωση, η χρήση του ChatGPT δεν περιοριζόταν στην επικοινωνία με τα υποψήφια θύματα των scams.
Τα μοντέλα χρησιμοποιούνταν και για εσωτερικές διοικητικές εργασίες, όπως η σύνταξη ανακοινώσεων, η μετάφραση μηνυμάτων μεταξύ εργαζομένων και η καταγραφή στοιχείων σχετικά με προσλήψεις, μεταναστευτικό καθεστώς, συνθήκες εργασίας και πειθαρχικά ζητήματα.
Παράλληλα, δημιουργούνταν διαφημίσεις στα social media που υπόσχονταν σε υποψήφιους εργαζομένους αεροπορικά εισιτήρια, διαμονή, φαγητό, βίζες και άδειες εργασίας.
Πίσω από αυτή την εικόνα, όμως, φαίνεται να υπήρχε ένα σύστημα ελέγχου των εργαζομένων. Στις συνομιλίες καταγράφονταν χρέη, κρατήσεις από μισθούς, πρόστιμα, αποπληρωμές δανείων, λήξεις visa, άδειες εργασίας και κίνητρα στρατολόγησης.
Ορισμένες συνομιλίες περιείχαν επίσης αναφορές σε κρατήσεις, προσπάθειες διαφυγής και φόβους ότι οι εργαζόμενοι θα αντιμετωπίσουν ποινικές συνέπειες. Οι συγκεκριμένες αναφορές δεν αρκούν από μόνες τους για να αποδειχθεί τι συνέβη σε κάθε άτομο, ωστόσο είναι συμβατές με όσα έχουν καταγραφεί διεθνώς για εγκληματικές οργανώσεις που διακινούν ανθρώπους και τους εξαναγκάζουν να εργάζονται σε διαδικτυακές απάτες.
Η AI ως «επιταχυντής» του οργανωμένου εγκλήματος
Η υπόθεση αναδεικνύει μια σημαντική αλλαγή στο threat landscape.
Μέχρι πρόσφατα, η συζήτηση γύρω από τη χρήση της AI από εγκληματίες επικεντρωνόταν κυρίως στη δημιουργία καλύτερων phishing emails, στη μετάφραση κειμένων ή στην παραγωγή κακόβουλου κώδικα.
Η συγκεκριμένη περίπτωση δείχνει κάτι ευρύτερο: η GenAI μπορεί να ενσωματωθεί σε ολόκληρη την επιχειρησιακή αλυσίδα ενός εγκληματικού οικοσυστήματος.
Από την εύρεση και αξιολόγηση πιθανών θυμάτων μέχρι τη δημιουργία ψεύτικων personas, από τη διαχείριση πολύγλωσσων συνομιλιών μέχρι την παραγωγή διαφημίσεων και από την επικοινωνία με τα θύματα μέχρι την εσωτερική διοικητική οργάνωση, η AI μπορεί να μειώσει σημαντικά το κόστος και τον χρόνο που απαιτούνται για τη λειτουργία μιας τέτοιας επιχείρησης.
Αυτό είναι ίσως το σημαντικότερο μήνυμα για τις ομάδες κυβερνοασφάλειας: η AI δεν δημιουργεί από μόνη της το έγκλημα, αλλά μπορεί να αυξήσει δραματικά την αποτελεσματικότητα, την κλίμακα και την ταχύτητα των ανθρώπων που το οργανώνουν.
Και όσο τα AI εργαλεία γίνονται περισσότερο αυτόνομα και ικανά να εκτελούν σύνθετες εργασίες, τόσο περισσότερο η ασφάλεια θα πρέπει να αντιμετωπίζει όχι μόνο το ενδεχόμενο «κακόβουλης χρήσης της AI», αλλά και την εμφάνιση ενός νέου μοντέλου AI-assisted cybercrime, όπου η τεχνητή νοημοσύνη λειτουργεί ως πολλαπλασιαστής επιχειρησιακής ισχύος για ολόκληρα εγκληματικά δίκτυα.