Η εταιρεία τεχνητής νοημοσύνης Anthropic δημοσιοποίησε πρόσφατα έκθεση που αποκαλύπτει μια σειρά από αποτρεπμένες προσπάθειες κακόβουλης χρήσης των μοντέλων της, περιλαμβανομένων σεναρίων ανάπτυξης βιολογικών όπλων και σχεδιασμού συμβατικών πολεμικών συστημάτων. Τα ευρήματα, που καλύπτουν τους τελευταίους οκτώ μήνες, φέρνουν στο προσκήνιο τις αυξανόμενες ανησυχίες για την ταχύτατη εξέλιξη της τεχνητής νοημοσύνης και τους υπαρξιακούς κινδύνους που αυτή ενέχει.
Σύμφωνα με την έκθεση, οι απόπειρες κατάχρησης δεν προέρχονται μόνο από μεμονωμένους χρήστες. Σε αυτές εμπλέκονται κρατικά υποστηριζόμενες ομάδες χάκερ από τη Ρωσία και την Κίνα, εγκληματικές οργανώσεις, πωλητές spyware, κρατικοί μηχανισμοί προπαγάνδας, αλλά και κινεζικές εταιρείες τεχνητής νοημοσύνης που επιχείρησαν να αναπαράγουν τις δυνατότητες του μοντέλου Claude. Τα περιστατικά ποικίλλουν. Από ψεύτικες εφαρμογές γνωριμιών και απάτες μέσω WiFi ξενοδοχείων, έως συστήματα παρακολούθησης για τον εντοπισμό αντιφρονούντων.
Ξεχωριστή μνεία γίνεται στον βιολογικό τομέα, όπου η ίδια γνώση που οδηγεί στη δημιουργία ενός εμβολίου μπορεί, ελλείψει επαρκών δικλίδων ασφαλείας, να μετατραπεί σε φονικό όπλο. Παράλληλα, καταγράφηκαν περιπτώσεις όπου τα μοντέλα αξιοποιήθηκαν για την ανάπτυξη λογισμικού που αφορά πυροβόλα όπλα, πυραύλους, οπλισμένα drones και συστήματα στοχοποίησης.
Ο Τζέικομπ Κλάιν, επικεφαλής της υπηρεσίας πληροφοριών για απειλές στην Anthropic, δήλωσε στους New York Times ότι η κατάσταση είναι «απίστευτα λεπτή», επισημαίνοντας ότι οι κακόβουλοι δρώντες δεν διατυπώνουν ανοιχτά τις προθέσεις τους. Η εταιρεία, μαζί με άλλους πρωτοπόρους του κλάδου όπως η Google, διαβεβαιώνει ότι ενισχύει διαρκώς τους μηχανισμούς ανίχνευσης και συνεργάζεται με τις αρχές για την αναχαίτιση τέτοιων επιχειρήσεων.
Οι αποκαλύψεις έχουν πυροδοτήσει εκκλήσεις για άμεση δράση. Ο Αμερικανός γερουσιαστής Μπέρνι Σάντερς ζητά παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης και απαγόρευση της τεχνητής υπερνοημοσύνης. Αντίθετα, ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ έχει μέχρι στιγμής απορρίψει τέτοιους φόβους, εκφράζοντας ωστόσο την ανησυχία ότι «αν δεν κερδίσουμε την Τεχνητή Νοημοσύνη, θα βρεθούμε σε πολύ δύσκολη θέση».
Η έκθεση της Anthropic, η πρώτη για φέτος, έρχεται στον απόηχο της προειδοποίησης κορυφαίου ερευνητή ασφάλειας ότι η τεχνητή νοημοσύνη εξελίσσεται τόσο ραγδαία, ώστε υπάρχει πιθανότητα μεγαλύτερη του 10% να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Σε άρθρο του στις 6 Σεπτεμβρίου, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, κάλεσε τον κλάδο να εφαρμόσει «εθελοντικές επιβραδύνσεις» έως ότου τεθούν επαρκή μέτρα ασφαλείας, τονίζοντας ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας ανεξέλεγκτης αύξησης της μηχανικής νοημοσύνης.
