Άλαν Φίνκελ, The Guardian
Πρόσφατα, ο Τζέικομπ Κόξον, ερευνητής στην εταιρεία Anthropic, υπέβαλε την παραίτησή του εκφράζοντας σοβαρές ανησυχίες ότι η Τεχνητή Νοημοσύνη βρίσκεται σε τροχιά σύγκρουσης με την ανθρωπότητα. Μια σειρά από πρωτοσέλιδα έφεραν στο προσκήνιο τη σημερινή κρίση: ο ανεξέλεγκτος ανταγωνισμός ανάμεσα στις εταιρείες τεχνολογίας, αλλά και μεταξύ ΗΠΑ και Κίνας, θέτει σε κίνδυνο τις παγκόσμιες υποδομές, απειλώντας στην χειρότερη περίπτωση ακόμη και την ίδια την ανθρώπινη ύπαρξη. Στο μυαλό του καθενός έρχονται εικόνες από στρατούς ρομπότ ή συστηματικούς ψηφιακούς εκβιασμούς.
Στο πνεύμα του να μην αφήνεις καμία κρίση να πάει χαμένη, μια σημαντική ευκαιρία παρουσιάζεται αυτή την εβδομάδα με τη συνάντηση κορυφής ανάμεσα στον πρόεδρο των ΗΠΑ, Ντόναλντ Τραμπ, και τον πρόεδρο της Κίνας, Σι Τζινπίνγκ.
Η Τεχνητή Νοημοσύνη βρίσκεται πλέον παντού. Είναι εξαιρετικά ισχυρή, βοηθώντας μας ως άτομα να προγραμματίζουμε τα ταξίδια μας, να κλείνουμε γυμναστήρια ή να παραγγέλνουμε φαγητό, ενώ σε θεσμικό επίπεδο ενισχύει την παραγωγικότητα επιχειρήσεων και γραφειοκρατιών. Στον ακαδημαϊκό χώρο προσφέρει εντυπωσιακές ανακαλύψεις στα μαθηματικά που διέφευγαν από τους κορυφαίους θεωρητικούς για δεκαετίες. Υπό την έννοια ότι είναι ευρέως διαθέσιμη και προσφέρει τεράστια οφέλη, μοιάζει με τα φάρμακα, τον ηλεκτρισμό και τα αυτοκίνητα. Αντίθετα όμως με αυτές τις τεχνολογίες, δεν έχουμε βρει ακόμη τον τρόπο να διασφαλίσουμε ότι τα οφέλη της θα υπερτερούν των κινδύνων.
Εξετάζοντας την πορεία προς το μέλλον, αξίζει να αναλογιστούμε πόσο χρόνο έχουμε ή δεν έχουμε για να το πετύχουμε. Η τεχνολογική εξέλιξη γινόταν κάποτε με αργούς ρυθμούς. Η πρώτη χρήση λίθινων εργαλείων ξεκίνησε πριν από 3,4 εκατομμύρια χρόνια και παρέμεινε σχεδόν στάσιμη για τα επόμενα 2 εκατομμύρια χρόνια.
Κάνοντας ένα τεράστιο άλμα στο σήμερα, η χωρητικότητα των τσιπ υπολογιστών διπλασιαζόταν κάθε δύο χρόνια από το 1965 έως τώρα. Αυτός ο ρυθμός είναι ταχύς, αλλά φαντάζει αργός σε σύγκριση με την εξέλιξη της Τεχνητής Νοημοσύνης. Σύμφωνα με το ερευνητικό ινστιτούτο METR, οι δυνατότητες της παραγωγικής τεχνητής νοημοσύνης (generative AI) διπλασιάζονταν κάθε επτά μήνες από το 2020 έως το 2024. Έκτοτε, ο ρυθμός διπλασιασμού έχει πέσει στους τέσσερις μήνες, ενώ με τις πρόσφατες κυκλοφορίες των μοντέλων ChatGPT 6-Astra και Claude Fable 5.1, η επιτάχυνση είναι πιθανότατα ακόμη μεγαλύτερη.
Μόλις λίγες ημέρες μετά την παραίτηση του Κόξον, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, εξέφρασε τις ίδιες ανησυχίες, ζητώντας την επιβράδυνση της ανάπτυξης της Τεχνητής Νοημοσύνης. Την έκκλησή του έσπευσαν να υποστηρίξουν ο επικεφαλής της OpenAI, Σαμ Άλτμαν, και ο διευθύνων σύμβουλος της xAI, Ίλον Μασκ.
Υπερασπιζόμενος την ανεξέλεγκτη ανάπτυξη της Τεχνητής Νοημοσύνης, ο Ντόναλντ Τραμπ απέρριψε τους ισχυρισμούς αυτούς, υποστηρίζοντας ότι οι προειδοποιήσεις περί καταστροφής της ανθρωπότητας αποτελούν «απάτη» και ότι οι εκκλήσεις για επιβράδυνση είναι μια συνωμοσία που θα ευνοήσει την Κίνα. Αρνήθηκε την ανάγκη επιβολής ρυθμιστικών κανόνων (guardrails), δηλώνοντας ότι το μόνο που χρειάζεται είναι ένας «ισχυρός και έξυπνος πρόεδρος (με υψηλό IQ!), και οι ΗΠΑ διαθέτουν έναν τέτοιο και με το παραπάνω».
Τι μέλλει γενέσθαι; Οι κυβερνήσεις θα μπορούσαν απλώς να περιμένουν. Αν το κάνουν, κάτι σοβαρό θα συμβεί. Αν είμαστε τυχεροί, το σοκ θα είναι αρκετά ισχυρό ώστε να αφυπνίσει κράτη και βιομηχανία, αλλά όχι τόσο καταστροφικό ώστε να αποβεί μοιραίο. Θα μπορούσε να είναι ένα εκτεταμένο μπλακ-άουτ σε πολλές πολιτείες, η παρεμπόδιση τραπεζικών αναλήψεων για μία εβδομάδα, ή η εσκεμμένη υπερφόρτωση του παγκόσμιου διαδικτύου που θα παρέλυε τη ροή των πληροφοριών.
Πολύ καλύτερο από το να περιμένουμε ένα τέτοιο καμπανάκι κινδύνου θα ήταν να αναλάβουμε ενεργό δράση. Ορισμένες από τις κορυφαίες εταιρείες του κλάδου προσπαθούν να το πράξουν. Το αποκαλούμενο «σύνταγμα» της Anthropic επιχειρεί να επιβάλει ηθική συμπεριφορά στα μοντέλα της. Το πρόβλημα όμως είναι ότι υποφέρει από διαρκώς αυξανόμενη πολυπλοκότητα. Όταν ανακοινώθηκε το 2023, αριθμούσε 2.700 λέξεις, ενώ η σημερινή εκδοχή του φτάνει τις 23.000 λέξεις. Είναι αναπόφευκτο ότι μεγάλο μέρος του θα υπόκειται σε ερμηνείες, τόσο από την ίδια την Τεχνητή Νοημοσύνη όσο και από τους ανθρώπους που την εκπαιδεύουν. Μάλιστα, η Anthropic αποδέσμευσε στοιχεία τον Ιούλιο σύμφωνα με τα οποία, παρά την ύπαρξη του «συντάγματος», αυτόνομα συστήματα (agents) του Claude διέσπασαν το δοκιμαστικό περιβάλλον και επιτέθηκαν σε τρεις εξωτερικούς οργανισμούς.
Η δική μου προτεινόμενη προσέγγιση για τα προστατευτικά πλαίσια βασίζεται σε κανόνες απλούς, θεμελιώδεις και ευθυγραμμισμένους με τις ανθρώπινες αξίες. Έχω προτείνει τρεις βασικούς νόμους της Τεχνητής Νοημοσύνης που, σε ένα ιδανικό σενάριο, θα έπρεπε να είναι εγγεγραμμένοι στον πυρήνα του κώδικα κάθε θεμελιώδους μοντέλου, διασφαλίζοντας ότι η τεχνολογία δεν θα βλάψει ούτε θα εξαπατήσει τους ανθρώπους, αλλά θα λειτουργεί νόμιμα και ηθικά.
Ωστόσο, ούτε η προσέγγιση της Anthropic μέσω «συντάγματος» ούτε η δική μου μέσω θεμελιωδών κανόνων έχουν πιθανότητα καθολικής εφαρμογής, εάν οι κυβερνήσεις δεν αναλάβουν δράση καθιστώντας τις υποχρεωτικές. Η προοπτική να αυτορρυθμιστεί η ίδια η βιομηχανία δεν είναι ρεαλιστική. Το ιστορικό αυτορρύθμισης των εταιρειών είναι διάτρητο, καθιστώντας το μια επικίνδυνη επιλογή για έναν κλάδο όπου οι λειτουργικοί κίνδυνοι μπορεί να αποβούν κατακλυσμιαίοι.
Πρέπει να γίνει κάτι και πρέπει να γίνει άμεσα. Έχουμε βρεθεί ξανά σε παρόμοια θέση. Τον προηγούμενο αιώνα, ήρθαμε αντιμέτωποι με την προοπτική της αμοιβαία εξασφαλισμένης καταστροφής λόγω της κούρσας των πυρηνικών εξοπλισμών. Οι δύο τότε υπερδυνάμεις οι ΗΠΑ και η Σοβιετική Ένωση συμφώνησαν σε συνθήκες για τη συγκράτηση και τελικά τη μείωση των πυρηνικών οπλοστασίων. Στην περίπτωση της Τεχνητής Νοημοσύνης, οι δύο χώρες που ηγούνται σήμερα της ανάπτυξής της οφείλουν να αναλάβουν την ευθύνη για την αποτροπή των απειλών κατά της ανθρωπότητας.
Η επίσημη επίσκεψη του Σι Τζινπίνγκ αυτή την εβδομάδα και η συνάντησή του με τον Ντόναλντ Τραμπ αποτελεί την ιδανική ευκαιρία. Φανταστείτε αν και οι δύο μπορούσαν να συμφωνήσουν ότι, για το καλό του ανθρώπινου γένους, οι ΗΠΑ και η Κίνα θα συνεργαστούν για την εφαρμογή μιας διεθνούς συνθήκης ρύθμισης της βιομηχανίας της Τεχνητής Νοημοσύνης.
Αν η Τεχνητή Νοημοσύνη εγκυμονεί έστω και ένα κλάσμα των κινδύνων που περιγράφουν οι ίδιοι οι ηγέτες του τεχνολογικού τομέα, έχουμε ξεπεράσει προ πολλού το σημείο όπου η σημερινή παθητική στάση μπορεί να δικαιολογηθεί, τη στιγμή που σε κάθε άλλο τομέα λαμβάνουμε αυστηρά μέτρα για την προστασία της ανθρωπότητας.
Ατενίζω προς τον πρόεδρο Τραμπ και τον πρόεδρο Σι με την προσδοκία να αναλάβουν την απαιτούμενη ηγεσία, διασφαλίζοντας ότι η Τεχνητή Νοημοσύνη θα υπηρετήσει την ανθρωπότητα αντί να την καταστρέψει.
