Η Anthropic προτείνει προσωρινή παγκόσμια παύση στην ανάπτυξη ισχυρών συστημάτων AI, προειδοποιώντας για τον κίνδυνο απώλειας του ανθρώπινου ελέγχου. Η εταιρεία παρουσίασε την πρόοδο του Claude στην «αναδρομική αυτοβελτίωση», την ικανότητα δηλαδή του μοντέλου να αναπτύσσει αυτόνομα πιο εξελιγμένες εκδόσεις του εαυτού του, αποκαλύπτοντας ότι το 80% του κώδικά της γράφεται ήδη από αυτό.
Η εταιρεία πίσω από το chatbot Claude δήλωσε ότι είναι διατεθειμένη να αναστείλει τις εργασίες για πιο ισχυρά συστήματα, εφόσον διασφαλιστεί ότι το ίδιο θα πράξουν και οι υπόλοιποι ανταγωνιστές της.
«Εάν ήταν δυνατό να επιβραδυνθεί αποτελεσματικά η ανάπτυξη αυτής της τεχνολογίας, ώστε να έχουμε περισσότερο χρόνο να αντιμετωπίσουμε τις τεράστιες επιπτώσεις της, πιστεύουμε ότι αυτό πιθανότατα θα ήταν θετικό», είπαν στελέχη της στην Telegraph.
Η Anthropic δέχεται έντονη κριτική για αντιφατική στάση, καθώς την ίδια στιγμή που ζητά επιβράδυνση, μηχανικοί της συνεργάζονται με την Υπηρεσία Εθνικής Ασφάλειας των ΗΠΑ . Οι εξελίξεις αυτές συμπίπτουν με την προετοιμασία της εταιρείας για είσοδο στο χρηματιστήριο, με την αποτίμησή της να αγγίζει το 1 τρισεκατομμύριο δολάρια.
