Μια πρόσφατη παγκόσμια μελέτη του IEEE αποκάλυψε ότι το 96% πιστεύει ότι η καινοτομία, η εξερεύνηση και η υϊοθέτηση της τεχνητής νοημοσύνης -ιδίως της πρακτορικής τεχνητής νοημοσύνης (Agentic AI)- θα συνεχιστεί με «ταχύτητα φωτός» το 2026.

Τι σημαίνει αυτό;

Σημαίνει ότι με το πλαίσιο κανονιστικής συμμόρφωσης γύρω από την τεχνητή νοημοσύνη να βρίσκεται ακόμα υπό διαμόρφωση και τις απαραίτητες υποδομές κέντρων δεδομένων για την υποστήριξή της να απέχουν περίπου πέντε χρόνια, οφείλουμε να μάθουμε πως να τη θωρακίσουμε και γρήγορα μάλιστα.

Και μπορεί η τεχνητή νοημοσύνη αυτή τη στιγμή να αποτελεί την κινητήριο δύναμη σχεδόν σε κάθε τεχνολογική καινοτομία και εξέλιξη, αν ωστόσο δεν έχουμε κατανόηση του τι μπορούν και τι δεν μπορούν να επιτελέσουν αυτά τα συστήματα αυτόνομα, οι ομάδες ενδέχεται να βρεθούν προ απροόπτου.

Τα πλεονεκτήματα της εφαρμογής της πρακτορικής Τεχνητής Νοημοσύνης

Η πρακτορική ΤΝ (Agentic AI) έχει ωθήσει την Τεχνητή Νοημοσύνη στο επόμενο επίπεδο· έχει την ικανότητα να σκέφτεται, να συλλογίζεται, ακόμα και να ενεργεί. Και αυτό απέχει παρασάγγας από την απλή ανάγνωση, σύνοψη και το αναμάσημα των δεδομένων. Η πρακτορική ΤΝ είναι εκείνη που τροφοδοτεί πολλές υλοποιήσεις AI που πραγματικά εξοικονομούν χρόνο, όπως:

• Προσδιορισμός διαδρομών επίθεσης (κυβερνοασφάλεια)
• Αυτόνομη επίλυση ζητημάτων παροχής υπηρεσιών (εξυπηρέτηση πελατών)
• Εύρεση και αξιολόγηση υποψηφίων (Ανθρώπινο Δυναμικό)
• Προγραμματισμός μέσω εντολών φυσικής γλώσσας (διαισθητικός, δημιουργικός προγραμματισμός)

Καθώς και άλλες εργασίες επίλυσης προβλημάτων και άσκησης κρίσης. Εξακολουθεί να διατηρεί τον άνθρωπο στον βρόγχο, ωστόσο μαθαίνει από καθιερωμένα μοτίβα και προχωρά σε συσχετισμούς για να καταστεί περισσότερο ικανή και αυτοδύναμη με την πάροδο του χρόνου.

Και αυτό είναι εξαιρετικό για το επιχειρείν. Ενέχει όμως και κινδύνους.

Οι κίνδυνοι της εφαρμογής της πρακτορικής Τεχνητής Νοημοσύνης

Δεν χρειάζεται κάποιος να το σκεφτεί και πολύ για να αντιληφθεί τις τεράστιες δυνατότητες, για καλό ή για κακό, ενός αυτόνομου πράκτορα που μπορεί να σκέφτεται και να ελέγχεται μόνο μερικώς εντός του περιβάλλοντος σας.

«Σε αντίθεση με τις παραδοσιακές εφαρμογές, η πρακτορική τεχνητή νοημοσύνη (Agentic AI) μπορεί να συμπεριφέρεται με προσαρμοστικούς και απρόβλεπτους τρόπους», σημειώνει η ομάδα FIRE της Fortra στον πρόσφατο οδηγό Secure AI Innovation. «Αν αντιμετωπιστούν αυτά τα συστήματα «ως μερικές ακόμη εφαρμογές» καταπνίγεις την ικανότητα εξέλιξης της συμπεριφοράς βάσει βρόγχων ανατροφοδότησης, έκθεσης σε δεδομένα ή πειραματικών ερεθισμάτων».

Η απελευθέρωση της πρακτορικής ΤΝ χωρίς τους κατάλληλους μηχανισμούς ελέγχου της ασφάλειας θα μπορούσε να σημαίνει:

• Την εκμάθηση λανθασμένων συμπεριφορών στην περίπτωση που δεν δοθεί προσοχή στις εισερχόμενες παραμέτρους
• Την αυτοπροσαρμογή και την απόκριση του βάσει προβληματικών ή ελαττωματικών δεδομένων στην περίπτωση που αυτά τα δεδομένα δεν είναι «αποστειρωμένα»
• Την παγίωση εσφαλμένων και πειραματικών πρακτικών αν δεν γίνει επανεκπαίδευση με τις ορθές

Στο τέλος, καταλήγουμε στη διάδοση σφαλμάτων (μεροληψία), στην πιθανότητα έκθεσης σε δηλητηρίαση δεδομένων και στην παραγωγή ακούσιων αποτελεσμάτων εξαιτίας της κακής χρήσης εργαλείων. Μην ξεχνάτε ότι έχετε να κάνετε με μία άλλη οντότητα που μπορεί να «σκέφτεται» -δεν είναι στατική.

Ακριβώς όπως και με έναν ανθρώπινο τζούνιορ αναλυτή, πρέπει να διασφαλίσετε ότι είναι καλά εκπαιδευμένος. Και ότι έχετε κάνει ότι είναι δυνατόν για να τον εμποδίσετε να προβεί σε οποιαδήποτε επικίνδυνη ενέργεια.

Αντιμετωπίζοντας την πρακτορική ΤΝ ως εκπαιδευόμενο

Οι εταιρείες θα έπρεπε ήδη να εφαρμόζουν πολιτικές για να διασφαλίσουν ότι οι εργαζόμενοι λειτουργούν με ασφάλεια εντός προκαθορισμένων ορίων. Για ποιον λόγο; Επειδή οι εργαζόμενοι μπορούν να ενεργούν αυτόνομα· δεν είναι δυνατόν να παραμετροποιηθούν.

Παρομοίως, αυτή η ιδιότητα χαρακτηρίζει και την πρακτορική ΤΝ. Σε αντίθεση με άλλες τεχνολογίες, δεν μπορείτε απλώς να την εγκαταστήσετε και να ξεχάσετε ότι υπάρχει. Μαθαίνει, θυμάται και μεταβάλλεται. Αυτό σημαίνει ότι πρέπει να αντιμετωπίζεται περισσότερο ως ανθρώπινος πόρος παρά ως μια στατική προσθήκη στη στοίβα ασφαλείας σας (ή στο CRM, στις υπηρεσίες HR ή στις λειτουργίες IT).

Η έκθεση της Fortra επισημαίνει ότι οι υφιστάμενες πολιτικές προσωπικού όπως:

• Ο έλεγχος πρόσβασης
• Η εποπτεία απόδοσης
• Το πεδίο καθηκόντων

θα πρέπει να επεκταθούν στα συστήματα πρακτορικής ΤΝ ενώ θα πρέπει να προστεθούν και επιπλέον μέτρα όπως:

• Προγραμματιστικές δικλείδες ασφαλείας
• Ισχυρή καταγραφή
• Τακτικά σημεία ελέγχου

Και αξιολογήσεις με τον ανθρώπινο παράγοντα εντός του βρόγχου. Η πρακτορική ΤΝ μπορεί να είναι ωφέλιμη αλλά είναι ιδιαίτερα προηγμένη ή και περίπλοκη για να της έχουμε εμπιστοσύνη. Προκειμένου να διατηρηθεί υπό έλεγχο, η ανθρώπινη εποπτεία, η επιτήρηση και ο έλεγχος είναι απαραίτητα πράγματα.

Επομένως πως μπορεί να γίνει αυτό πρακτικά;

Ένα πλαίσιο για τη διακυβέρνηση της τεχνητής νοημοσύνης

Η πρακτορική ΤΝ διαθέτει κατά ένα μέρος μηχανικές και κατά ένα μέρος ανθρώπινες ιδιότητες. Αυτό σημαίνει ότι πρέπει να αλλάξουμε τον τρόπο που ασκείται η διακυβέρνηση σε αυτή την «τεχνολογία» ώστε να συμπεριλαμβάνονται τόσο τους περιορισμούς που θα θέταμε σε έναν αυτόνομο συνεργάτη όσο και τις συνεχείς μικροαλλαγές στις ρυθμίσεις που θα κάναμε σε μια μηχανή.

Αυτό μεταφράζεται σε:

• Επίσημη διαδικασία ένταξης και αποχώρησης: Όπως θα δημιουργούσατε και θα ασφαλίζατε την ταυτότητα ενός υπαλλήλου έτσι πρέπει να δημιουργείτε και να ασφαλίζετε την ταυτότητα κάθε πράκτορα ΤΝ. Αυτό σημαίνει την ανάκληση προνομίων και της πρόσβασης μόλις ο πράκτορας τεθεί εκτός λειτουργίας.
• Πρωτόκολλα συνεχούς ασφάλειας και παρακολούθησης: Εφαρμόστε όρια συναγερμού/ειδοποιήσεων, αυτοματοποιήστε όπου είναι δυνατόν την επιβολή πολιτικών και αποφύγετε τα «τυφλά σημεία» στη λειτουργία του. Αυτό προϋποθέτει συνεχή παρακολούθηση, ικανότητα ανίχνευσης ανωμαλιών και άμεση απόκριση.
• Πρακτικές DevOps: Όπως και με κάθε κρίσιμης σημασίας σύστημα, θα πρέπει να υποβάλετε τον πράκτορα ΤΝ σε τακτικές ασκήσεις/δοκιμές, σε έλεγχο έκδοσης και σε επικύρωση αποτελεσμάτων ώστε τα αποτελέσματα να μην παρεκκλίνουν με την πάροδο του χρόνου.

Πρακτορική ΤΝ: Το πόσο ασφαλής είναι εξαρτάται από εσάς

Η Πρακτορική ΤΝ αναμένεται να φέρει την επανάσταση στον τρόπο που εφαρμόζουμε την κυβερνοασφάλεια αλλά και σε κάθε άλλη δραστηριότητα. Από τον χρόνο που δαπανούν τα κέντρα επιχειρήσεων ασφαλείας (SOCs, Security Operations Centers) για να ανταποκριθούν στον μεγάλο αριθμό ειδοποιήσεων μέχρι την ταχύτητα που οι λιανοπωλητές ανταποκρίνονται στα σύνθετα ερωτήματα των πελατών τους, η Πρακτορική ΤΝ θα ενσωματωθεί στους οργανισμούς με πρωτοφανή ρυθμό το ερχόμενο έτος.

Αυτός είναι ο λόγος για τον οποίο, όπως επισημαίνεται και από την έρευνα του IEEE, το 44% κατατάσσει τις ηθικές πρακτικές ΤΝ ως «κορυφαία δεξιότητα» για τις προσλήψεις που σχετίζονται με την τεχνητή νοημοσύνη το 2026. Ένα από τα θεμέλια αυτών των ηθικών κανόνων είναι η ευθύνη για την ασφαλή λειτουργία και χωρίς ασφάλεια στην ΤΝ, δεν υφίσταται ηθική στην ΤΝ.

Καθώς οι οργανισμοί συνειδητοποιούν την αξία της Πρακτορικής ΤΝ στην παραγωγικότητα και στο επιχειρείν, ας μην επαναλάβουμε τα λάθη του παρελθόντος. Ορισμένοι μπορεί να βρίσκονται ήδη στα μισά αλλά ποτέ δεν είναι αργά: αν η υϊοθέτηση της Πρακτορικής ΤΝ έχει ξεπεράσει τη διακυβέρνηση ΤΝ στον οργανισμό σας, τώρα είναι η ώρα για αλλαγή.

Σε αντίθεση με ότι πιστεύεται συνήθως, κάτι τέτοιο δεν θα επιβραδύνει απαραίτητα την πρόοδο. Αντιθέτως, η εφαρμογή ορθών πολιτικών πρακτορικής ΤΝ σήμερα, από την αρχή, θα σας επιτρέψει να αναπτύξετε τις πρωτοβουλίες σας γύρω από την ΤΝ με την αυτοπεποίθηση που θα σας επιτρέψει να συνεχίσετε να εξελίσσεστε, όταν οι άλλοι θα διακόπτουν λειτουργίες για να διορθώσουν τις αστοχίες της δικής τους AI.

Πηγή: Fortra