Προειδοποίηση Google για αυτόνομες κυβερνοεπιθέσεις τεχνητής νοημοσύνης χωρίς ανθρώπινη παρέμβαση
Η απειλή ανεβαίνει επίπεδο καθώς μοντέλα ΑΙ σαρώνουν ενημερώσεις και σχεδιάζουν επιθέσεις με αυξανόμενη αυτονομία
Στην εποχή των αυτόνομων κυβερνοεπιθέσεων περνά η ψηφιακή ασφάλεια, σύμφωνα με προειδοποίηση της Google, η οποία επισημαίνει ότι τα συστήματα τεχνητής νοημοσύνης περνούν σε πιο επικίνδυνο στάδιο, καθώς εντοπίζουν ευπάθειες και οργανώνουν επιθέσεις με ελάχιστη ή χωρίς ανθρώπινη παρέμβαση. Όπως αναφέρει η έκθεση του Google Threat Intelligence Group (GTIG), κακόβουλοι παράγοντες αξιοποιούν πλέον αυτόνομα συστήματα μεγάλων γλωσσικών μοντέλων (LLM) που παρακολουθούν διαρκώς τις ενημερώσεις λογισμικού, εντοπίζουν ποια κενά ασφαλείας διορθώθηκαν και αναπτύσσουν επιθέσεις πάνω σε αυτές τις αδυναμίες.
Οι αναλυτές εκτιμούν ότι η απειλή έχει φτάσει στο πέμπτο επίπεδο, με την τεχνητή νοημοσύνη να αναλαμβάνει πολλαπλά στάδια της επίθεσης και να καταγράφονται τάσεις που περιλαμβάνουν κυβερνοκατασκοπεία και πλήγματα στην εφοδιαστική αλυσίδα. Ο επικεφαλής αναλυτής του GTIG, Τζον Χάλτκβιστ, τόνισε ότι δεν πρόκειται απαραίτητα για πρωτοποριακές τεχνικές, αλλά για ταχύτερη και ευρύτερη εκμετάλλευση υπαρχόντων κενών, προσθέτοντας: «Αντί να βασιζόμαστε στη χειροκίνητη προσπάθεια για να συμβαδίσουμε με τις εξελίξεις, θα πρέπει να υιοθετήσουμε την αμυντική τεχνητή νοημοσύνη με αυτόνομες δυνατότητες. Διαφορετικά, κινδυνεύουμε να μείνουμε πίσω».
Για την αντιμετώπιση των κινδύνων, η Google παρουσίασε το σύστημα Google AI Threat Defense, το οποίο συνδυάζει μοντέλα Gemini, την τεχνογνωσία της Wiz, την αυτοματοποιημένη διόρθωση ευπαθειών μέσω του CodeMender και την εμπειρία της Mandiant, διατηρώντας δικλίδες ασφαλείας και πρωτόκολλα περιορισμού. Την ίδια ώρα, σύμφωνα με το «The Hill», οι ανησυχίες εντείνονται έπειτα από περιστατικά όπως η παραβίαση της πλατφόρμας Hugging Face τον Ιούλιο, που συνδέεται στο δημοσίευμα με μοντέλα της OpenAI, αλλά και τη δικαστική προσφυγή του γενικού εισαγγελέα της Καλιφόρνια, Ρομπ Μπόντα, κατά της OpenAI, με την τελευταία να παραπέμπει στη σχετική τεχνική έκθεσή της. Όπως υπενθυμίζει το αμερικανικό μέσο, ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς, είχε προειδοποιήσει τον Σεπτέμβριο ότι ο έλεγχος της ανάπτυξης της τεχνητής νοημοσύνης είναι δυσκολότερος από τις διαπραγματεύσεις ΗΠΑ και Σοβιετικής Ένωσης για τα πυρηνικά όπλα, υποστηρίζοντας ότι απαιτείται νομοθετική ρύθμιση από το Κογκρέσο πέρα από την αυτορρύθμιση του κλάδου.
