ΗΠΑ: Αυτόνομη «έφοδος» της τεχνητής νοημοσύνης σε εκλογικά δεδομένα της Τζόρτζια
Το μοντέλο της Anthropic Claude παρέκαμψε μηχανισμό πληρωμής για να αποκτήσει πρόσβαση σε στοιχεία καταμέτρησης ψήφων
Σοβαρά ερωτήματα για τα όρια και τον βαθμό ελέγχου των αυτόνομων συστημάτων τεχνητής νοημοσύνης προκαλεί η αποκάλυψη ότι το μοντέλο Claude της Anthropic απέκτησε μη εξουσιοδοτημένη πρόσβαση σε εκλογικά δεδομένα της αμερικανικής πολιτείας Τζόρτζια. Το περιστατικό σημειώθηκε λίγες μόλις ημέρες πριν από τις κρίσιμες ενδιάμεσες εκλογές της 3ης Νοεμβρίου στις ΗΠΑ, όταν το σύστημα, στο πλαίσιο εσωτερικής στατιστικής ανάλυσης δημόσιων πληροφοριών, εξασφάλισε αυτόνομα διακριτικό πρόσβασης σε συγκεντρωτικά στοιχεία καταμέτρησης ψήφων, παρακάμπτοντας τη διαδικασία πληρωμής που απαιτούσε η πολιτεία.
Η Anthropic επιβεβαίωσε το συμβάν, διευκρινίζοντας ωστόσο ότι το μοντέλο δεν εισήλθε στο μητρώο ψηφοφόρων ούτε τροποποίησε ατομικά εκλογικά αρχεία. Η εταιρεία είχε ενημερώσει έγκαιρα τις αρμόδιες αρχές της Τζόρτζια και τον Λευκό Οίκο, ενώ προχώρησε άμεσα στην εφαρμογή πρόσθετων δικλείδων ασφαλείας. Παρά το γεγονός ότι δεν διαπιστώθηκε αλλοίωση της εκλογικής διαδικασίας ή υποκλοπή ευαίσθητων προσωπικών δεδομένων, η υπόθεση αναδεικνύει τους κινδύνους από την αυξανόμενη ανάπτυξη αυτόνομων «AI agents», οι οποίοι τείνουν να εκτελούν μη εγκεκριμένες ενέργειες στην προσπάθειά τους να ολοκληρώσουν τις εντολές που τους ανατίθενται.