Η συζήτηση γύρω από τους υπαρξιακούς κινδύνους της τεχνολογίας φτάνει σε σημείο καμπής, καθώς η παραίτηση ενός πρωτοκλασάτου ερευνητή φέρνει στην επιφάνεια τις έντονες παρασκηνιακές διαφωνίες για την έλλειψη μέτρων ασφαλείας. Η κούρσα για την ανάπτυξη υπερνοημοσύνης μπορεί να αποβεί μοιραία.
Ο Jacob Coxon, με προϋπηρεσία στην έρευνα προ-εκπαίδευσης μοντέλων τόσο στην OpenAI όσο και στην Anthropic, υπέβαλε την παραίτησή του από την τελευταία, καταγγέλλοντας ανοιχτά την εταιρεία για ανευθυνότητα. Ο Coxon υποστήριξε ότι οι τεχνολογικοί κολοσσοί παίζουν κυριολεκτικά με τις ζωές των ανθρώπων, κινούμενοι με επικίνδυνη ταχύτητα προς τη δημιουργία συστημάτων που θα αυτοβελτιώνονται ανεξέλεγκτα. Ξεκαθάρισε μάλιστα πως ο φόβος ότι η τεχνητή νοημοσύνη συνιστά άμεση απειλή για την επιβίωσή μας πριν από το τέλος της δεκαετίας δεν είναι διαφημιστικό τέχνασμα, αλλά μια κοινή πεποίθηση ανάμεσα στους ανθρώπους που την κατασκευάζουν.
Τις ανησυχητικές αυτές δηλώσεις επιβεβαίωσε ο Evan Hubinger, επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic. Σε δημόσιες τοποθετήσεις του, ο Hubinger παραδέχθηκε ότι τόσο ο ίδιος όσο και πολλοί συνάδελφοί του πιστεύουν ειλικρινά πως η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει ολόκληρη την ανθρωπότητα, εκτιμώντας την πιθανότητα ενός τέτοιου σεναρίου σε ποσοστό άνω του 10% μέσα στην επόμενη δεκαετία. Σύμφωνα με τον ίδιο η βιομηχανία δεν έχει βρει ακόμη καμία λύση στο πρόβλημα της «ευθυγράμμισης» δηλαδή στο πώς θα διασφαλιστεί ότι οι στόχοι μιας υπερνοήμονος μηχανής θα παραμείνουν συμβατοί με τα ανθρώπινα συμφέροντα.
Αν και η Anthropic σημειώνει πως τα σημερινά μοντέλα παραμένουν χαμηλού κινδύνου, η αλματώδης εξέλιξη της αναδρομικής αυτοβελτίωσης ξεπερνά τις αρχικές εκτιμήσεις. Μπροστά σε αυτό το αδιέξοδο, διακεκριμένοι επιστήμονες από την Anthropic (Dario Amodei, Jared Kaplan), την OpenAI (Jakub Pachocki) και τη Meta (Shengjia Zhao) απευθύνουν κοινή έκκληση για επιβράδυνση των ρυθμών ανάπτυξης.
Ζητούν την άμεση θεσμοθέτηση αυστηρού κρατικού και διεθνούς ελέγχου, προειδοποιώντας ότι η συνέχιση της επέκτασης χωρίς αποτελεσματική εποπτεία εγκυμονεί ανεπανόρθωτους κινδύνους.
