Η τεχνολογική βιομηχανία βάζει την απληστία πάνω από την ασφάλεια. Ο Τζέικομπ Κόξον είναι από τους βασικούς επιστημονικούς ερευνητές της Anthropic, της αμερικανικής εταιρίας ανάπτυξης Τεχνητής Νοημοσύνης (ΑΙ).
- Από τον Βασίλη Γαλούπη
Προχθές ανακοίνωσε ότι παραιτείται και «φεύγει» από την κούρσα, επειδή η βιομηχανία τρέχει ανεξέλεγκτα προς μια «εκτός ελέγχου» Τεχνητή Νοημοσύνη που θα αποδειχτεί άκρως επικίνδυνη.
«Παίζουν με τις ζωές μας» λέει για τη βιασύνη των εταιριών για όλο και πιο σύνθετα μοντέλα χωρίς πλαίσιο ασφαλείας, χωρίς εγγυήσεις ότι δεν θα στραφούν κατά των συμφερόντων των ανθρώπων. «Δεν συνειδητοποιούν τα διακυβεύματα για τον ανθρώπινο πολιτισμό».
«Οι άνθρωποι που κατασκευάζουν την Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι θα μπορούσε να αφανίσει την ανθρωπότητα μέχρι το τέλος της δεκαετίας» έγραψε στο X. Στη «Wall Street Journal» δήλωσε: «Μέχρι το τέλος του επόμενου έτους η κατάσταση θα μπορούσε να έχει ήδη ξεφύγει από τον έλεγχο».
Και εξήγησε τους φόβους του ότι τα μοντέλα θα μπορούσαν να ξεφύγουν από τον έλεγχο και να καταστρέψουν την ανθρωπότητα. Ζητεί να γίνουν επειγόντως «συμβιβασμοί ασφαλείας», αλλά οι εταιρίες ΑΙ δεν νοιάζονται να επιβραδύνουν. Ενδιαφέρονται μόνο να βγουν μπροστά στον μεταξύ τους ανταγωνισμό αλλά και με καινούργιες εταιρίες ΑΙ από την Κίνα. Οπότε αφήνουν τα μοντέλα ΑΙ να εκμεταλλεύονται όλη την έτοιμη ανθρώπινη γνώση που υπάρχει διαθέσιμη, από τις βιβλιοθήκες της ανθρωπότητας μέχρι τις αναρτήσεις στο διαδίκτυο, ακόμα και με τρόπους επιθετικούς για τις κοινωνίες των ανθρώπων.
Ο Τζέικομπ Κόξον είναι ένας 27χρονος Βρετανός, που ξεκίνησε ως αυθεντία στα μαθηματικά, προτού αναλάβει ρόλο στη βιομηχανία της Τεχνητής Νοημοσύνης. Αρχικά εντάχθηκε στο δυναμικό της OpenAI, απ’ όπου έφυγε στις αρχές της χρονιάς για να πάει στην ανταγωνίστρια Anthropic, «επειδή η συγκεκριμένη εταιρία είναι γνωστή για τις προσπάθειές της για την ασφάλεια των μοντέλων». Βρήκε πως πράγματι τέτοιες προσπάθειες ασφαλείας γίνονταν.
Αλλά δεν είναι αρκετές. Καμία εταιρία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο Τεχνητή Νοημοσύνη που να μπορεί να ξεπεράσει τους ανθρώπους σε μια σειρά εργασιών, αν δεν υπάρξει κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση του κλάδου, είπε στη «Wall Street Journal». Κι ενώ είχε διασφαλίσει για τον εαυτό του «πρώτη θέση» σε μια βιομηχανία που επωφελείται από δισεκατομμύρια σε δανεισμό και κεφάλαια από επενδυτές, μια λαμπρή επαγγελματική καριέρα κι έναν παραφουσκωμένο τραπεζικό λογαριασμό, ο Κόξον τα παράτησε ξαφνικά όλα, χτυπώντας «καμπανάκι» κινδύνου.
Στην αμερικανική εφημερίδα εξήγησε ότι οι φόβοι του βασίζονται σε πραγματικά περιστατικά κι όχι σε κάποια μελλοντολογική κινδυνολογία: Υπήρξαν πρόσφατες κυβερνοεπιθέσεις από μοντέλα Τεχνητής Νοημοσύνης της OpenAI και της Anthropic. Τα μοντέλα αυτά λειτουργούσαν συνεργατικά, σαν «σμήνη πρακτόρων», δήλωσε. Υπάρχουν ήδη αποδείξεις ότι «τα συστήματα Τεχνητής Νοημοσύνης μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους. Μόλις τα συστήματα αρχίσουν να βελτιώνονται από μόνα τους, θα μπορούσαν να προχωρήσουν αρκετά ώστε να αρνηθούν τις ανθρώπινες εντολές».
Η περίπτωση του Κόξον, η αποχώρηση δηλαδή ενός στελέχους της Anthropic λόγω φόβων για την ασφάλεια στην Τεχνητή Νοημοσύνη, δεν είναι μεμονωμένη. Ενας άλλος ερευνητής έφυγε από την ίδια εταιρία νωρίτερα φέτος, προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο». Και παράτησε τον κλάδο ολοκληρωτικά, δηλώνοντας «στο εξής θα ασχοληθώ με την ποίηση».
Αρκετοί ερευνητές έχουν αποχωρήσει από όλες τις εταιρίες AI πρόσφατα και τα προηγούμενα χρόνια επικαλούμενοι παρόμοιες ανησυχίες. Οι ηγέτες της βιομηχανίας προειδοποιούν ότι αυτές οι κυβερνοεπιθέσεις που οργάνωσαν μοντέλα της ΑΙ «λειτουργώντας συνεργατικά, σαν σμήνη», όπως περιέγραψε ο Κόξον, αποτελούν προάγγελο. «Νομίζω ότι κάποια πράγματα θα πάνε πολύ στραβά με την κυβερνοασφάλεια, εκτός αν οι άνθρωποι δράσουν επειγόντως» δήλωσε ο διευθύνων σύμβουλος της OpenAI Σαμ Αλτμαν σε αξιωματούχους του G20 σε σύνοδο κορυφής την περασμένη εβδομάδα.
Και ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσόκι, ζήτησε δημοσίως μια συντονισμένη επιβράδυνση της βιομηχανίας και μια σοβαρή κυβερνητική παρέμβαση: «Η εποχή απαιτεί εξαιρετική προσοχή. Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ταχείας αύξησης της μηχανικής νοημοσύνης». Η βιομηχανία της Τεχνητής Νοημοσύνης κατασκευάζει τεράστιες υποδομές και διασφαλίζει όλο και περισσότερα κεφάλαια επενδυτών, χωρίς όμως να φέρνει τις ανάλογες οικονομικές αποδόσεις. Τρέχουν, λοιπόν, χωρίς κανόνες, προσπαθώντας να φτάσουν το μέγιστο κέρδος.
Η Anthropic, για παράδειγμα, ετοιμάζεται για μια αρχική δημόσια προσφορά που θα αποτιμάται σε 2 τρισεκατομμύρια δολάρια, από τις μεγαλύτερες που έχουν γίνει ποτέ. Πρόσφατα πάνω από 1.000 ερευνητές και ανώτατα στελέχη της Τεχνητής Νοημοσύνης υπέγραψαν δήλωση ζητώντας παγκόσμιο κυβερνητικό συντονισμό για ένα σύστημα που θα βάλει φρένο στα μοντέλα AI. Αλλά η αμερικανική κυβέρνηση προς το παρόν δίνει προτεραιότητα στη μεγιστοποίηση των οικονομικών κερδών της Τεχνητής Νοημοσύνης.
Την περασμένη Δευτέρα ο ΟΗΕ δήλωσε σε συμβούλιο στη Γενεύη ότι η Τεχνητή Νοημοσύνη αποτελεί απειλή για την ανθρωπότητα. Ο επικεφαλής του ΟΗΕ για τα ανθρώπινα δικαιώματα, Φόλκερ Τουρκ προειδοποίησε για κίνδυνο σοβαρών διαταραχών σε επικοινωνίες, υπηρεσίες, δημοκρατικά συστήματα και ζήτησε «ακλόνητες εγγυήσεις»: «Καλώ εδώ, σήμερα, για μια ολοκληρωμένη προσπάθεια να τεθούν ακλόνητες εγγυήσεις γύρω από την ασφάλεια και την προστασία της Τεχνητής Νοημοσύνης πριν να είναι πολύ αργά»…
ΤΖΕΪΚΟΜΠ ΚΟΞΟΝ
Ερευνητής της Anthropic για την Τεχνητή Νοημοσύνη
ΒΙΟΓΡΑΦΙΚΟ
Βρετανός στην καταγωγή, ο 27χρονος ερευνητής τα τελευταία χρόνια ζει και εργάζεται στο Σαν Φρανσίσκο των ΗΠΑ, όπου βρίσκονται οι έδρες της OpenAI και της Anthropic. Σπούδασε μαθηματικά στο Cambridge στη Βρετανία. Αρχικά η ακαδημαϊκή του έρευνα ήταν στον τομέα της στατιστικής μοντελοποίησης. Στη συνέχεια αφοσιώθηκε αποκλειστικά στα Μεγάλα Γλωσσικά Μοντέλα. Μεταπήδησε στη βιομηχανία της Τεχνητής Νοημοσύνης, όπου εργάστηκε συνολικά τρία χρόνια στον κρίσιμο τομέα της προεκπαίδευσης μοντέλων, δηλαδή το στάδιο όπου τα μοντέλα απορροφούν τεράστιες ποσότητες δεδομένων. Αρχισε την καριέρα του στην εταιρία Τεχνητής Νοημοσύνης OpenAI, όπου συνεισέφερε, μεταξύ άλλων, στην ανάπτυξη του μοντέλου GPT-4. Μέσα στο 2026 μεταπήδησε στην εταιρία Τεχνητής Νοημοσύνης Anthropic, θεωρώντας ότι τηρούν αυστηρότερο πλαίσιο ασφάλειας για τα μοντέλα τους. Προχθές ανακοίνωσε την παραίτησή του μέσω μιας ανάρτησης στην πλατφόρμα X, προειδοποιώντας πως η Τεχνητή Νοημοσύνη «θα μπορούσε να αφανίσει την ανθρωπότητα μέχρι το τέλος της δεκαετίας».
