Πιθανότατα θα έχετε ακούσει μέχρι τώρα το παράδειγμα του αεροπλάνου όσον αφορά την τεχνητή νοημοσύνη (AI) και την κυβερνοασφάλεια. Αν όχι, η κυβερνοασφάλεια για την τεχνητή νοημοσύνη έχει παρομοιαστεί με ένα αεροπλάνο το οποίο βρίσκεται υπό κατασκευή ή συναρμολόγηση ενώ βρίσκεται σε πτήση.

Αυτή είναι η εικόνα που αρμόζει στη συγκεκριμένη περίπτωση, καθώς πολλοί από εμάς προσπαθούμε να συμβαδίσουμε με κάτι που έχει ήδη απογειωθεί. Μία παρόμοια αναλογία μπορεί αν γίνει και με τα δεδομένα, τα οποία μπορούν να παρομοιαστούν με το καύσιμο του αεροπλάνου. Κανείς δεν γνωρίζει πραγματικά τι υπάρχει στο ρεζερβουάρ ανά πάσα στιγμή και αυτό μπορεί να οδηγήσει σε μεγάλους κινδύνους.

Η παραδοσιακή προστασία δεδομένων επικεντρώνεται στα δεδομένα που βρίσκονται σε κατάσταση ηρεμίας και στα δεδομένα υπό μεταφορά αφήνοντας κενά όταν πρόκειται για πλατφόρμες τεχνητής νοημοσύνης. Η Διαχείριση της Κατάστασης Ασφάλειας Δεδομένων (Data Security Posture Management – DSPM) βοηθά τους οργανισμούς να εντοπίζουν και να ασφαλίζουν τα δεδομένα που βρίσκονται σε χρήση -τα δεδομένα δηλαδή που τροφοδοτούν την τεχνητή νοημοσύνη. Ας δούμε τους τρόπους που το DSPM αντιμετωπίζει βασικές προκλήσεις των δεδομένων τεχνητής νοημοσύνης.

Βασικά συμπεράσματα

• Η τεχνητή νοημοσύνη εισάγει νέους κινδύνους έκθεσης δεδομένων κατά τη διάρκεια της εκπαίδευσης, κατά τις προτροπές και την εξαγωγή αποτελέσματος
• Η παραδοσιακή ασφάλεια δεδομένων στερείται ορατότητας στις ροές εργασίας της τεχνητής νοημοσύνης
• Το DSPM βοηθά στον εντοπισμό, στην ταξινόμηση και στην παρακολούθηση ευαίσθητων δεδομένων που χρησιμοποιούνται από την τεχνητή νοημοσύνη
• Οι ομάδες ασφαλείας μπορούν να μειώσουν τον κίνδυνο χωρίς να επιβραδύνουν την καινοτομία

Πως η τεχνητή νοημοσύνη αλλάζει τον κίνδυνο στην ασφάλεια δεδομένων

Τα δεδομένα μετακινούνται συνεχώς μεταξύ εφαρμογών, μοντέλων και διεπαφών προγραμματισμού εφαρμογών (APIs). Ευαίσθητα δεδομένα ενδέχεται να τροφοδοτηθούν ακούσια σε συστήματα τεχνητής νοημοσύνης και τα αποτελέσματα μπορούν να εκθέσουν πληροφορίες που είναι ιδιόκτητες ή υπό κανονιστικό ή ρυθμιστικό πλαίσιο. Τα κενά ορατότητας επεκτείνονται τόσο στην εκπαίδευση (του μοντέλου) όσο και στον συμπερασμό (inference).

Ένα κοινό παράδειγμα αυτού είναι όταν ένας υπάλληλος επικολλά ευαίσθητα δεδομένα (αρχεία πελατών, πηγαίο κώδικα ή λεπτομέρειες συμβάσεων κ.ά.) σε ένα εργαλείο τεχνητής νοημοσύνης όπως το ChatGPT για να έχει βοήθεια για μία εργασία, όπως είναι η δημιουργία μίας περίληψης ή μίας σύνοψης ή ένας προγραμματιστής χρησιμοποιεί έναν βοηθό τεχνητής νοημοσύνης για τη συγγραφή κώδικα και επικολλά κώδικα που είναι ιδιόκτητος η εμπιστευτικός. Πλέον, τα δεδομένα υφίστανται επεξεργασία εκτός του περιβάλλοντος του οργανισμού και ο κίνδυνος έχει ήδη φυτευτεί.

Ποια προβλήματα για την ασφάλεια επιλύει η χρήση DSPM για την τεχνητή νοημοσύνη;

Για την προστασία όλων των δεδομένων, η ασφάλεια δεδομένων για την Τεχνητή Νοημοσύνη πρέπει να αντιμετωπίσει κρίσιμες προκλήσεις ασφάλειας τις οποίες τα παραδοσιακά εργαλεία συχνά παραβλέπουν. Η DSPM απαντά σε κρίσιμα ερωτήματα για τις ομάδες ασφαλείας:

• Πού χρησιμοποιούνται ευαίσθητα δεδομένα στα pipelines της τεχνητής νοημοσύνης;
• Ποιος αλληλοεπιδρά με τα δεδομένα;
• Ποια μοντέλα ή εργαλεία έχουν πρόσβαση στα δεδομένα;
• Εκτίθενται αυτά εξωτερικά;

Το DSPM μπορεί να εντοπίσει εσφαλμένες ρυθμίσεις παραμέτρων σε σύνθετα περιβάλλοντα νέφους (cloud) και λογισμικού ως υπηρεσία (SaaS) μειώνοντας τον ακούσιο κίνδυνο. Προσθέτοντας πλαίσιο και ιεράρχηση προτεραιοτήτων, επιτρέπει στις ομάδες να επικεντρωθούν στις πιο κρίσιμες απειλές αντί να χάνονται στον θόρυβο των ειδοποιήσεων.

Γιατί η παραδοσιακή προστασία δεδομένων δυσκολεύεται με τις πλατφόρμες τεχνητής νοημοσύνης;

Περιορισμένη ορατότητα στις ροές δεδομένων της τεχνητής νοημοσύνης

Τα παραδοσιακά εργαλεία επικεντρώνονται σε στατικά περιβάλλοντα και όχι σε δυναμικά pipelines τεχνητής νοημοσύνης, όπως διεπαφές προγραμματισμού εφαρμογών (APIs), εργαλεία SaaS, ενσωματώσεις και διανυσματικές βάσεις δεδομένων.

Αδυναμία παρακολούθησης της χρήσης δεδομένων σε πραγματικό χρόνο

Δεν μπορούν να παρακολουθήσουν πως χρησιμοποιούνται τα δεδομένα σε προτροπές, εκπαίδευση ή αποτελέσματα, κάτι που μπορεί να συμβεί και να εξαφανιστεί ακαριαία.

Κενά στην ταξινόμηση δεδομένων

Τα ευαίσθητα δεδομένα είναι συχνά μη δομημένα ή ενσωματωμένα σε ροές εργασίας Τεχνητής Νοημοσύνης, καθιστώντας δύσκολη την ταξινόμησή τους.

Αντιδραστική ασφάλεια έναντι προληπτικής

Τα παλαιού τύπου εργαλεία εντοπίζουν προβλήματα μετά την έκθεση και όχι πριν από αυτήν. Μία λύση DSPM εντοπίζει την επικίνδυνη έκθεση προτού χρησιμοποιηθεί στην τεχνητή νοημοσύνη.

Πως το DSPM βοηθά τους οργανισμούς να ασφαλίσουν τα δεδομένα τεχνητής νοημοσύνης

Οι λύσεις DSPM βοηθούν τους οργανισμούς να ασφαλίσουν τα δεδομένα τεχνητής νοημοσύνης παρέχοντας συνεχή ορατότητα σχετικά με το πού βρίσκονται οι ευαίσθητες πληροφορίες και πως ρέουν στα συστήματα τεχνητής νοημοσύνης, συμπεριλαμβανομένων των προτροπών, των μοντέλων και των αποτελεσμάτων.

Ανακάλυψη -Εύρεση σκιωδών δεδομένων (Shadow data) που χρησιμοποιούνται στην τεχνητή νοημοσύνη

Διαβάθμιση/ ταξινόμηση -Επισήμανση ευαίσθητων δεδομένων ακόμη και σε μη δομημένες μορφές που χρησιμοποιούνται από την τεχνητή νοημοσύνη

Παρακολούθηση -Καταγραφή του τρόπου με τον οποίο χρησιμοποιούνται τα δεδομένα σε προτροπές, διεπαφές προγραμματισμού εφαρμογών (APIs) και αλληλεπιδράσεις με μοντέλα

Ιεράρχηση προτεραιοτήτων -Μείωση της κόπωσης από τις ειδοποιήσεις εστιάζοντας στην έκθεση υψηλού κινδύνου που συνδέεται με τις ροές εργασίας της τεχνητής νοημοσύνης.

Πριν από το DSPM, οι οργανισμοί δεν μπορούσαν να γνωρίζουν ποια δεδομένα εισέρχονταν στα συστήματα τεχνητής νοημοσύνης ή έβγαιναν από αυτά. Τώρα, μία λύση DSPM επιτρέπει στις ομάδες να επιτηρούν, να ελέγχουν και να διοικούν τις ροές δεδομένων της τεχνητής νοημοσύνης χωρίς να παρεμποδίζουν τη χρήση της.

Πλέον, όταν ένας υπάλληλος μεταφορτώνει ένα έγγραφο με δεδομένα πελατών σε ένα εργαλείο τεχνητής νοημοσύνης, το DSPM θα εντοπίσει τα ευαίσθητα δεδομένα, θα επισημάνει την εξωτερική έκθεση, θα ειδοποιήσει ή θα αποκλείσει την ενέργεια με βάση τις πολιτικές ασφαλείας και στη συνέχεια θα παράσχει σχετικές λεπτομέρειες.

Πηγή: Fortra