Οι τεχνολογίες γενετικής ή παραγωγικής Τεχνητής Νοημοσύνης, όπως το ChatGPT και το DALL-E της OpenAI, έχουν προκαλέσει μεγάλη αναστάτωση σε μεγάλο μέρος της ψηφιακής μας ζωής. Δημιουργώντας αξιόπιστο κείμενο, εικόνες ή ακόμη και ήχο, τα συγκεκριμένα εργαλεία τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν τόσο για καλούς όσο και για κακούς σκοπούς. Και αυτό περιλαμβάνει και την εφαρμογή τους στον χώρο της κυβερνοασφάλειας.
Την ώρα που η Sophos AI εργάζεται πάνω σε τρόπους ενσωμάτωσης της γενετικής ή παραγωγικής AI στα εργαλεία κυβερνοασφάλειας της -ένα έργο που βρίσκεται σε φάση ενσωμάτωσης στους τρόπους που χρησιμοποιεί η Sophos για την υπεράσπιση των δικτύων των πελατών της- πολλοί αντίπαλοι έχουν ήδη αρχίσει να πειραματίζονται με τη δημιουργική AI. Όπως έχει συζητηθεί σε ποικιλία άρθρων το τελευταίο διάστημα, η παραγωγική Τεχνητή Νοημοσύνη αξιοποιείται ήδη από απατεώνες για την υπέρβαση των γλωσσικών εμποδίων μεταξύ των ίδιων και των στόχων τους, παρέχοντας πειστικές απαντήσεις σε μηνύματα κειμένου σε συνομιλίες στο WhatsApp και σε άλλες πλατφόρμες. Έχουμε επίσης δει τη χρήση της παραγωγικής τεχνητής νοημοσύνης για τη δημιουργία ψεύτικων εικόνων τύπου «selfie» που αποστέλλονται στις συγκεκριμένες συνομιλίες ενώ έχει αναφερθεί και η χρήση της παραγωγικής τεχνητής νοημοσύνης για τη σύνθεση φωνής σε τηλεφωνικές απάτες.
Όταν αυτά τα εργαλεία συνδυάζονται, μπορούν να χρησιμοποιηθούν από απατεώνες και άλλους κυβερνοεγκληματίες σε πολύ μεγαλύτερη κλίμακα. Για να είναι σε θέση να αμυνθεί καλύτερα ενάντια στην «οπλοποίηση» της γενετικής Τεχνητής Νοημοσύνης, η ομάδα AI της Sophos διεξήγαγε ένα πείραμα για να διαπιστώσει τι ήταν εφικτό στη σφαίρα του δυνατού.
Όπως παρουσιάσαμε στο AI Village του συνεδρίου DEF CON νωρίτερα φέτος (και στο CAMLIS τον Οκτώβριο και στο BSides Sydney τον Νοέμβριο), το πείραμά της Sophos εξετάζει την πιθανή κατάχρηση προηγμένων τεχνολογιών γενετικής AI για την ενορχήστρωση εκστρατειών απάτης μεγάλης κλίμακας. Αυτές οι εκστρατείες συγχωνεύουν πολλαπλούς τύπους παραγωγικής Τεχνητής Νοημοσύνης, εξαπατώντας ανυποψίαστα θύματα ώστε να παραδώσουν αμαχητί ευαίσθητες πληροφορίες. Αν και διαπιστώθηκε ότι υπήρχε ακόμα μία καμπύλη εκμάθησης για να κατακτήσουν οι επίδοξοι απατεώνες, τα εμπόδια δεν ήταν τόσο σημαντικά όσο θα ήλπιζε κανείς.
Χρήση της Γενετικής Τεχνητής Νοημοσύνης για την κατασκευή ιστοσελίδων απάτης
Στην ολοένα και πιο ψηφιακή κοινωνία μας, η απάτη αποτελεί ένα διαρκές πρόβλημα. Παραδοσιακά, η εκτέλεση μίας απάτης που σχετίζεται με ένα ψεύτικο διαδικτυακό κατάστημα απαιτούσε υψηλό επίπεδο τεχνογνωσίας, το οποίο συχνά περιλάμβανε εξελιγμένες γνώσεις προγραμματισμού και βαθιά κατανόηση της ανθρώπινης ψυχολογίας. Η έλευση ωστόσο των μεγάλων γλωσσικών μοντέλων (LLM) έχει χαμηλώσει σε σημαντικό βαθμό το ύψος του πήχη.
Τα μεγάλα γλωσσικά μοντέλα (LLMs) μπορούν να παρέχουν πληθώρα γνώσεων με απλές οδηγίες, καθιστώντας δυνατή τη συγγραφή κώδικα από οποιονδήποτε με ελάχιστη εμπειρία στον προγραμματισμό. Με τη βοήθεια της μηχανικής διαδραστικών προτροπών, σχεδόν οποιοσδήποτε μπορεί να δημιουργήσει μία απλή ψεύτικη ιστοσελίδα και ψεύτικες εικόνες. Παρόλα αυτά, η ενσωμάτωση των επιμέρους στοιχείων σε μία πλήρως λειτουργική απατηλή ιστοσελίδα δεν είναι απλή εργασία.
Η πρώτη προσπάθεια της Sophos αφορούσε την αξιοποίηση μεγάλων γλωσσικών μοντέλων για την παραγωγή ψεύτικου ή απατηλού περιεχομένου από το μηδέν. Η διαδικασία περιελάμβανε τη δημιουργία απλών frontends (του δημόσιου τμήματος των ιστοσελίδων), τον εμπλουτισμό τους με περιεχόμενο κειμένου και τη βελτιστοποίηση λέξεων-κλειδιών για τις εικόνες. Αυτά τα στοιχεία ενσωματώθηκαν στη συνέχεια για να δημιουργήσουν μία λειτουργική και φαινομενικά νόμιμη ιστοσελίδα. Η ενσωμάτωση ωστόσο αυτών των ξεχωριστών τμημάτων χωρίς ανθρώπινη παρέμβαση ήταν μία σημαντική πρόκληση.
Για να αντιμετωπιστούν οι συγκεκριμένες δυσκολίες, η Sophos ανάπτυξε μια προσέγγιση που περιλάμβανε τη δημιουργία ενός προτύπου μίας ψεύτικης, απατηλής ιστοσελίδας χρησιμοποιώντας το πρότυπο (template) ενός απλού ηλεκτρονικού καταστήματος και την προσαρμογή του με τη χρήση ενός LLM, του GPT-4. Στη συνέχεια, η εταιρεία κλιμάκωσε τη διαδικασία προσαρμογής χρησιμοποιώντας ένα εργαλείο ενορχήστρωσης τεχνητής νοημοσύνης, το Auto-GPT.
H Sophos ξεκίνησε με ένα απλό πρότυπο ηλεκτρονικού καταστήματος και στη συνέχεια προχώρησε στην προσαρμογή της ιστοσελίδας για να μετατραπεί στο ψεύτικό ηλεκτρονικό κατάστημα. Η διαδικασία περιελάμβανε τη δημιουργία διάφορων τμημάτων για το κατάστημα, τον ιδιοκτήτη του καταστήματος και τα διάφορα προϊόντα με τη χρήση προτροπών. Προστέθηκε επίσης μια ψεύτικη σύνδεση στο Facebook και μια ψεύτικη σελίδα πληρωμής ώστε να είναι δυνατή η κλοπή των διαπιστευτηρίων σύνδεσης των χρηστών και των στοιχείων της των πιστωτικών τους καρτών χρησιμοποιώντας προτροπές. Το αποτέλεσμα ήταν να δημιουργηθεί ένα πρώτης τάξης ψεύτικο ηλεκτρονικό κατάστημα, το οποίο ήταν σημαντικά απλούστερο να κατασκευαστεί με τη χρήση της συγκεκριμένης μεθόδου σε σύγκριση με τη δημιουργία του εξ ολοκλήρου από το μηδέν.
Η κλιμάκωση στη συνέχεια της απάτης απαιτεί αυτοματοποίηση. Το ChatGPT, το γνωστό chatbot τεχνητής νοημοσύνης της OpenAI έχει μεταμορφώσει τον τρόπο με τον οποίο οι άνθρωποι αλληλεπιδρούν με τις τεχνολογίες AI. Το Auto-GPT είναι μια εξελιγμένη μορφή της ίδιας βασικής ιδέας, το οποίο έχει σχεδιαστεί για την αυτοματοποίηση στόχων υψηλού επιπέδου με την ανάθεση καθηκόντων σε μικρότερους, συγκεκριμένων καθηκόντων πράκτορες.
Το Auto-GPT αξιοποιήθηκε για την ενορχήστρωση της εκστρατείας εξαπάτησης, υλοποιώντας τους ακόλουθους πέντε πράκτορες, οι οποίοι είναι υπεύθυνοι για διαφορετικές λειτουργίες και στοιχεία. Αναθέτοντας εργασίες κωδικοποίησης σε ένα LLM, τη δημιουργία εικόνων σε ένα μοντέλο σταθερής διάχυσης (stable diffusion) και τη δημιουργία ήχου σε ένα μοντέλο WaveNet, ολόκληρο το έργο μπορεί να αυτοματοποιηθεί πλήρως από το Auto-GPT.
- Πράκτορας δεδομένων: παραγωγή αρχείων δεδομένων για το κατάστημα, τον ιδιοκτήτη και τα προϊόντα με τη χρήση του GPT-4.
- Πράκτορας εικόνας: παραγωγή εικόνων με χρήση ενός μοντέλου σταθερής διάχυσης (stable diffusion).
- Πράκτορας ήχου: παραγωγή αρχείων ήχου του ιδιοκτήτη με χρήση του WaveNet της Google.
- Πράκτορας UI: παραγωγή κώδικα με χρήση του GPT-4.
- Πράκτορας διαφημίσεων: παραγωγή αναρτήσεων με χρήση GPT-4.
Το ακόλουθο σχήμα δείχνει τον στόχο για τον πράκτορα εικόνας και τις εντολές και εικόνες που δημιούργησε. Θέτοντας απλούς στόχους υψηλού επιπέδου, το Auto-GPT παρήγαγε με επιτυχία πειστικές εικόνες του καταστήματος, του ιδιοκτήτη και των προϊόντων.
Πηγαίνοντας τις απάτες τεχνητής νοημοσύνης στο επόμενο επίπεδο
Η συγχώνευση των τεχνολογιών τεχνητής νοημοσύνης φέρνει την απάτη σε νέα επίπεδα. Η προσέγγισή της Sophos μπορεί να δημιουργήσει ολόκληρες εκστρατείες εξαπάτησης που συνδυάζουν κώδικα, κείμενο, εικόνες και ήχο για τη δημιουργία εκατοντάδων μοναδικών ιστοσελίδων και των αντίστοιχων διαφημίσεων τους στα μέσα κοινωνικής δικτύωσης. Το αποτέλεσμα είναι ένας ισχυρός συνδυασμός τεχνικών, που η μία ενισχύει το μήνυμα της άλλης, καθιστώντας δυσκολότερο για τους ανθρώπους να μπορέσουν να καταλάβουν τις συγκεκριμένες απάτες και να τις αποφύγουν.
Συμπέρασμα
Η εμφάνιση εκστρατειών εξαπάτησης που έχουν δημιουργηθεί με τη βοήθεια της τεχνητής νοημοσύνης μπορεί να έχει βαθιές συνέπειες. Καθώς η δημιουργία αξιόπιστων απατηλών ιστοσελίδων και άλλου περιεχομένου είναι πλέον απλή υπόθεση, ενδέχεται να δούμε έναν αρκετά μεγάλο αριθμό δυνητικών δραστών να θέτει σε λειτουργία επιτυχημένες εκστρατείες εξαπάτησης ακόμα μεγαλύτερης κλίμακας και πολυπλοκότητας. Επιπλέον, η πολυπλοκότητα του αναμένεται να καταστήσει δυσκολότερο τον εντοπισμό τους. Η αυτοματοποίηση και η χρήση διαφόρων τεχνικών δημιουργικής τεχνητής νοημοσύνης μεταβάλλουν την ισορροπία μεταξύ του έργου που καταβάλλεται και της πολυπλοκότητας, επιτρέποντας πλέον στις εκστρατείες να στοχεύουν σε χρήστες που είναι πιο προηγμένοι τεχνολογικά.
Ενώ η τεχνητή νοημοσύνη συνεχίζει να επιφέρει θετικές αλλαγές στον κόσμο μας, δεν μπορεί να αγνοηθεί η αυξανόμενη τάση της κατάχρησής της για πράγματα που έχουν στόχο να εξαπατήσουν ή να βλάψουν. Στη Sophos, έχουμε πλήρη επίγνωση των νέων ευκαιριών και των κινδύνων που παρουσιάζουν τα μεγάλα γλωσσικά μοντέλα τεχνητής νοημοσύνης. Για να αντιμετωπίσουμε αυτές τις απειλές, αναπτύσσουμε το δικό μας μοντέλο τεχνητής νοημοσύνης ασφαλείας co-pilot, το οποίο έχει σχεδιαστεί για να εντοπίζει αυτές τις νέες απειλές και να αυτοματοποιεί τις λειτουργίες ασφαλείας.
Πηγή: Sophos