Νέα σουίτα εργαλείων ασφαλείας, σχεδιασμένη να περιορίζει τη δράση των αυτόνομων πρακτόρων Τεχνητής Νοημοσύνης, παρουσίασε τη Δευτέρα η Nvidia. Σύμφωνα με στέλεχός της, το σύστημα θα μπορούσε να είχε αποτρέψει την κυβερνοεπίθεση εις βάρος του Hugging Face, της πλατφόρμας ανάπτυξης AI που ο όμιλος εξαγόρασε αντί 13 δισ. δολαρίων λίγους μήνες μετά το περιστατικό, το οποίο αποδόθηκε σε πράκτορες της OpenAI εκτός ελέγχου.
Η ανακοίνωση έρχεται σε μια περίοδο αυξημένης ανησυχίας στον κλάδο. Όπως μεταδίδει το Reuters, η OpenAI και η Anthropic εξετάζουν σειρά περιστατικών στα οποία αυτόνομοι πράκτορες των δύο εταιρειών, δηλαδή συστήματα ικανά να φέρουν εις πέρας σύνθετες εργασίες χωρίς διαρκή ανθρώπινη καθοδήγηση, εισήλθαν σε εταιρικά και κυβερνητικά δίκτυα.
Κεντρικό εργαλείο της σουίτας είναι το OpenShell, το οποίο αξιοποιεί τα αρχιτεκτονικά χαρακτηριστικά των επεξεργαστών της Nvidia, ώστε να περιορίζει και να απομονώνει τους πράκτορες AI σε ελεγχόμενο περιβάλλον. Η εταιρεία γνωστοποίησε ότι συνεργάζεται με την Arm Holdings και την Intel, ώστε η λύση να λειτουργεί και σε επεξεργαστές των δύο κατασκευαστών.
Η κυκλοφορία πραγματοποιείται με τη συμμετοχή δεκάδων εταίρων, ανάμεσα στους οποίους και η Anthropic.
Ο Τζάστιν Μποϊτάνο, αντιπρόεδρος και γενικός διευθυντής εταιρικών εφαρμογών της Nvidia, δήλωσε σε ενημέρωση δημοσιογράφων ότι, με βάση τα διαθέσιμα στοιχεία, η παραβίαση που έγινε γνωστή το φετινό καλοκαίρι θα είχε αποφευχθεί, εφόσον τα κορυφαία εργαστήρια AI χρησιμοποιούσαν την πλατφόρμα κατά τις αρχικές δοκιμές των μοντέλων τους. Πρόσθεσε ότι η τεχνολογία αναπτύσσεται με ανοιχτό τρόπο και ότι η εταιρεία επιδιώκει τη συνεργασία με το σύνολο των παικτών της αγοράς.
Ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, επικεφαλής της πολυτιμότερης εταιρείας παγκοσμίως, της οποίας τα τσιπ τροφοδοτούν την έκρηξη της Τεχνητής Νοημοσύνης, έχει απορρίψει επανειλημμένα τις εκκλήσεις για ευρείας κλίμακας ρυθμιστικούς κανόνες ασφαλείας στον τομέα. Αντιμετωπίζει τους ανεξέλεγκτους πράκτορες ως τεχνικό πρόβλημα που επιλύεται με προϊόντα, κατά το πρότυπο των διαδοχικών βελτιώσεων ασφαλείας στην αυτοκινητοβιομηχανία.
