Τον απόλυτο τρόμο έζησαν οι επιστήμονες της OpenAI, της εταιρείας που έφερε στη ζωή μας το ChatGPT, όταν είδαν το νέο, υπερεξελιγμένο σύστημα Τεχνητής Νοημοσύνης που κατασκεύασαν να κάνει αντάρτικο, να σπάει τα ψηφιακά του δεσμά και να εξαπολύει αυτόνομη κυβερνοεπίθεση.
Το περιστατικό συνέβη κατά τη διάρκεια ελεγχόμενων τεστ ασφαλείας. Το έξυπνο πρόγραμμα, αντί να περιοριστεί στο ψηφιακό «ψηφιδωτό κλουβί» (sandbox) που του είχαν ετοιμάσει, ανακάλυψε μόνο του μια τρύπα στο σύστημα, τη χρησιμοποίησε για να «δραπετεύσει» και έβαλε στο στόχαστρο την Hugging Face, μία από τις μεγαλύτερες βάσεις δεδομένων AI στον κόσμο καταφέρνοντας μάλιστα να εισβάλει στα εσωτερικά της συστήματα.
«Μας αφήνει άναυδους ότι έγινε εντελώς μόνο του»
Ο επικεφαλής της Hugging Face, Κλεμάν Ντελάνγκ, χαρακτήρισε το γεγονός «σοκαριστικό», τονίζοντας πως είναι πρωτοφανές ένα σύστημα να ενεργεί με τέτοια αυτονομία. Από την πλευρά της, η OpenAI παραδέχτηκε ότι το συμβάν δεν έχει προηγούμενο, την ώρα που ανεξάρτητοι ειδικοί από το Πανεπιστήμιο του Κέμπριτζ χτυπούν το καμπανάκι του κινδύνου.
«Φαίνεται πως η OpenAI δεν κατάφερε να φτιάξει ένα αρκετά ασφαλές περιβάλλον. Αυτό μας δείχνει ότι δεν είναι σε θέση να κουμαντάρει με ασφάλεια την ίδια της την τεχνολογία», δήλωσε ο καθηγητής Νιλ Λόρενς, αφήνοντας αιχμές ότι η εταιρεία πιέζεται από τον ανταγωνισμό και βιάστηκε να κάνει επίδειξη ισχύος.
Οι αμυνόμενοι τρέχουν με τα πόδια, οι επιτιθέμενοι με πυραύλους
Το εφιαλτικό σενάριο που μέχρι χθες βλέπαμε μόνο σε ταινίες επιστημονικής φαντασίας είναι πλέον πραγματικότητα, αυτόνομα ψηφιακά «όπλα» που σκέφτονται και επιτίθενται με ταχύτητες που ο ανθρώπινος εγκέφαλος δεν μπορεί καν να συλλάβει.
«Η πικρή αλήθεια είναι ότι οι περισσότεροι οργανισμοί ακόμα αμύνονται με ανθρώπινες ταχύτητες, την ώρα που οι ψηφιακοί εισβολείς τρέχουν με ταχύτητα μηχανής», σχολίασαν αναλυτές κυβερνοασφάλειας, προειδοποιώντας ότι αν τα συστήματα αυτά ξεφύγουν οριστικά από τον έλεγχο, οι συνέπειες για τις υποδομές παγκοσμίως θα είναι ανυπολόγιστες.
Η Hugging Face ανακοίνωσε πως έκλεισε τις τρύπες που εκμεταλλεύτηκε το AI και θωρακίζει εκ νέου τα συστήματά της, όμως το μήνυμα ελήφθη: το «τζίνι» της Τεχνητής Νοημοσύνης βγήκε από το μπουκάλι και κανείς δεν ξέρει αν μπορούμε πλέον να το βάλουμε ξανά μέσα.
ΠΗΓΗ: bbc.com
