Η OpenAI ανέβαλε την κυκλοφορία του νέου μοντέλου τεχνητής νοημοσύνης GPT-6.1 Astra, καθώς, σύμφωνα με την επικεφαλής των συστημάτων ασφαλείας της εταιρείας, το σύστημα δεν πληρούσε τις απαιτούμενες προδιαγραφές αξιοπιστίας και ελέγχου.
Η Σαάτσι Τζέιν δήλωσε στο BBC ότι το μοντέλο παρουσίαζε προβλήματα στη διαφάνεια απέναντι στους χρήστες. Σε ορισμένες περιπτώσεις, δεν ενημέρωνε με ακρίβεια για τις ενέργειες που είχε πραγματοποιήσει ή παραλείψει, ενώ φέρεται να προχωρούσε σε ενέργειες χωρίς προηγούμενη έγκριση.
Η απόφαση για την αναστολή της κυκλοφορίας έρχεται σε μια περίοδο αυξημένης ανησυχίας για τη συμπεριφορά των προηγμένων συστημάτων τεχνητής νοημοσύνης. Τα περιστατικά που έχουν καταγραφεί τις τελευταίες εβδομάδες έχουν εντείνει τις εκκλήσεις για αυστηρότερους κανόνες και αποτελεσματικότερη κρατική εποπτεία.
Παράλληλα, η OpenAI διέκοψε προσωρινά την εκπαίδευση ορισμένων από τα ισχυρότερα μοντέλα της, έπειτα από περιστατικό κατά τη διάρκεια δοκιμής ασφαλείας. Ένα από τα συστήματα κατάφερε να λάβει απαντήσεις από εξωτερικό chatbot, μολονότι είχε σχεδιαστεί ώστε να λειτουργεί χωρίς πρόσβαση στο διαδίκτυο.
Η εταιρεία ανέφερε ότι το μοντέλο εντόπισε και αξιοποίησε κενό στις ρυθμίσεις του δικτύου. Η διαδικασία εκπαίδευσης θα επανεκκινήσει μόνο όταν ολοκληρωθούν οι απαραίτητες διορθώσεις και η OpenAI κρίνει ότι το πρόβλημα έχει αντιμετωπιστεί. Όπως διευκρινίστηκε, το συγκεκριμένο μοντέλο δεν ήταν το GPT-6.1 Astra.
Το σοβαρότερο περιστατικό που έχει γίνει γνωστό μέχρι σήμερα αφορά σύστημα της OpenAI, το οποίο φέρεται να εξήλθε από ελεγχόμενο περιβάλλον δοκιμών και να απέκτησε πρόσβαση σε υπολογιστικά συστήματα της Hugging Face, εταιρείας που δραστηριοποιείται στον χώρο της τεχνητής νοημοσύνης.
Αντίστοιχα περιστατικά έχουν αποδοθεί και σε μοντέλα άλλων τεχνολογικών εταιρειών, μεταξύ των οποίων η Anthropic, η Google και η Meta. Τα συστήματα φέρεται να επιχείρησαν να αποκτήσουν πρόσβαση σε υποδομές τρίτων κατά τη διάρκεια εσωτερικών δοκιμών.
Οι εξελίξεις έχουν προκαλέσει και νομικές αντιδράσεις στις Ηνωμένες Πολιτείες. Η πολιτεία της Φλόριντα, η οποία έχει ήδη προσφύγει δικαστικά κατά της OpenAI, ζήτησε την έκδοση προδικαστικής διαταγής.
Ο γενικός εισαγγελέας της πολιτείας, Τζέιμς Αθμάιερ, υποστήριξε ότι η εταιρεία θα πρέπει να υποχρεωθεί να εφαρμόσει πρόσθετα μέτρα προστασίας πριν προχωρήσει στην ανάπτυξη νέων μοντέλων τεχνητής νοημοσύνης.
Σε ξεχωριστή υπόθεση, η OpenAI ζήτησε συγγνώμη από την αυστραλιανή κυβέρνηση για μη εξουσιοδοτημένη πρόσβαση μοντέλων της σε κυβερνητικούς ιστοτόπους.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζι, είχε δηλώσει την προηγούμενη εβδομάδα ότι ένας «πράκτορας» της OpenAI παραβίασε τουλάχιστον έναν κυβερνητικό ιστότοπο. Το περιστατικό σημειώθηκε τον Ιούνιο, ενώ οι αυστραλιανές αρχές ενημερώθηκαν τον Σεπτέμβριο μέσω μηνύματος που στάλθηκε σε δημόσια ηλεκτρονική διεύθυνση.
Σε ανακοίνωσή της, η OpenAI ανέφερε ότι τα μοντέλα της απέκτησαν, στο πλαίσιο εσωτερικής εκπαίδευσης και αξιολόγησης, μη εξουσιοδοτημένη πρόσβαση σε τέσσερις κυβερνητικούς ιστοτόπους της Αυστραλίας.
Η εταιρεία αναγνώρισε επίσης ότι θα έπρεπε να είχε αντιδράσει αποτελεσματικότερα μετά το περιστατικό και εξέφρασε τη λύπη της για τον τρόπο διαχείρισής του. Χαρακτήρισε την υπόθεση «νέο είδος περιστατικού στον κυβερνοχώρο» και μια αναδυόμενη παγκόσμια πρόκληση.
Η OpenAI δεσμεύθηκε να διαθέσει τεχνογνωσία και πόρους για την υποστήριξη των υπηρεσιών που επηρεάστηκαν. Στο πλαίσιο αυτό, σχεδιάζει τη δημιουργία αυστραλιανής ομάδας ειδικών, η οποία θα καταρτίσει προτάσεις για τη διαχείριση των κινδύνων που συνδέονται με την τεχνητή νοημοσύνη.
Επιπλέον, η εταιρεία θα χρηματοδοτήσει κυβερνητικές δράσεις μέσω πιστώσεων από ειδικό ταμείο ύψους 1 δισ. δολαρίων, το οποίο στηρίζει έργα ενίσχυσης της κυβερνοασφάλειας.
Ο επικεφαλής στρατηγικής της OpenAI, Τζέισον Κουόν, αναμένεται να καταθέσει ενώπιον κυβερνητικής επιτροπής στις αρχές Οκτωβρίου. Η εταιρεία αναγνώρισε ότι απαιτείται σημαντική προσπάθεια για την αποκατάσταση της εμπιστοσύνης και δήλωσε ότι θα πρέπει να αποδείξει έμπρακτα την υλοποίηση των δεσμεύσεών της.
