Επιχειρήσεις Τεχνητής Νοημοσύνης προσφέρουν στους πελάτες τους συστήματα που μπορούν να συλλέγουν πληροφορίες και προσωπικά δεδομένα των πολιτών, ώστε, με τις ευλογίες της… δημοκρατίας και το πρόσχημα της «ασφάλειας», να ασκούν αυταρχική πολιτική και να αστυνομεύουν τους «αντιφρονούντες»
- Από τον Γιώργο Τραπεζιώτη
«Κάποιος πρέπει να συκοφάντησε τον Γιόζεφ Κ., γιατί χωρίς να έχει κάνει τίποτα κακό ένα πρωί συνελήφθη» έγραφε πριν από περίπου έναν αιώνα ο Φραντς Κάφκα στη δυστοπική, κλειστοφοβική αλλά κυρίως πάντα επίκαιρη «Δίκη» του.
«Επίκαιρη» γιατί σήμερα, στην εποχή της πληροφορίας και της ψηφιακής πανοπτικής επιτήρησης, η «ταυτότητα» του καθενός -ακόμα και το πρόσωπο ή το βλέμμα- έχει μετατραπεί σε δεδομένα προς ανάλυση από αλγορίθμους, ενώ η παρακολούθηση δεν χρειάζεται απαραίτητα κάποιο ένταλμα, αλλά πρωτίστως υπολογιστική ισχύ». Η ενοχή προηγείται της πράξης, ενώ «τα πάντα» είναι το πόσο ταιριάζεις στο «μοτίβο».
Κι όλα αυτά δεν «γίνονται μόνο στα έργα» – είτε στα λογοτεχνικά είτε στα κινηματογραφικά. Αλλά στο… πεδίο. Εκεί όπου η εξουσία δοκιμάζει ξεδιάντροπα πια τις δυνατότητές της, τόσο για να ενισχύσει τη θέση της όσο όμως και για να επιβληθεί. Ομως, τελικά πόσο ελεύθεροι είμαστε; Πόσο «εντοπίσιμοι» και κυρίως για «ποιους λόγους»;
Τα τελευταία χρόνια η κρατική εξουσία στις δυτικού τύπου δημοκρατίες απέκτησε ένα νέο, λιγότερο ορατό αλλά εξαιρετικά αποτελεσματικό εργαλείο: την ολική ανάλυση προσωπικών δεδομένων. Και με το ευπώλητο σε επίπεδο αφηγήματος επιχείρημα της ασφάλειας, αλλά και με εκείνο της «αποτελεσματικότερης διοίκησης», κυβερνήσεις στρέφονται σε ιδιωτικές εταιρίες τεχνολογίας που προσφέρουν στους πελάτες τους συστήματα ικανά να ενοποιούν τεράστιους όγκους πληροφοριών-δεδομένων και ακολούθως να παράγουν-δημιουργούν «προφίλ κινδύνου». Δύο κεντρικοί, κεντρικότατοι, «παίκτες» στο πεδίο αυτό είναι η λιγότερο γνωστή στη χώρα μας Clearview AI και η Palantir Technologies, την οποία μάθαμε στα μέρη μας την περίοδο της πανδημίας του νέου κορονοϊού. Τι ακριβώς συμβαίνει, όμως, με αυτές τις δύο εταιρίες τεχνολογίας;
Σύμφωνα με εκτενή ρεπορτάζ των WIRED, Mother Jones και 404 Media, τόσο η Clearview AI όσο και η Palantir τα τελευταία χρόνια συνεργάζονται στενά, στενότατα με τις αμερικανικές ομοσπονδιακές υπηρεσίες, μεταξύ των οποίων συγκαταλέγεται και η διαβόητη Υπηρεσία Μετανάστευσης και Τελωνειακής Επιβολής (ICE). Και η χρήση των «εργαλείων» τους κυριαρχεί τον καιρό αυτό στην επιβολή της μεταναστευτικής πολιτικής, στο πλαίσιο τουλάχιστον που την έχει ορίσει η κυβέρνηση του Ντόναλντ Τραμπ. Εντούτοις, οργανώσεις προστασίας ψηφιακών δικαιωμάτων, όπως η Electronic Frontier Foundation, αλλά και νομικοί επισημαίνουν τους φόβους που υπάρχουν για το γεγονός ότι οι τεχνολογικές δυνατότητες που παρέχουν οι δύο εταιρίες μπορούν να επεκταθούν πολύ πέρα από τον αρχικό τους σκοπό. Και να αξιοποιηθούν καταλλήλως, προφανώς για να εξυπηρετήσουν τους πιο δυστοπικούς πολιτικούς σκοπούς.
CLEARVIEW AI
Ενα βράδυ του Μαρτίου του 2017, στη διάρκεια της πρώτης προεδρικής θητείας του Ντόναλντ Τραμπ, ο Χόαν Τον-Τατ, ένας προγραμματιστής από την Αυστραλία που ζούσε ως μετανάστης στις ΗΠΑ, έστειλε σε επιχειρηματικούς του συνεργάτες ένα e-mail με τον τίτλο «Πρόταση για τη φύλαξη των συνόρων». Στόχος του ήταν να πείσει την κυβέρνηση πως η εφαρμογή μιας νέας τεχνολογίας που είχε αναπτύξει θα ήταν εξαιρετικά χρήσιμη, αν ενσωματωνόταν στις κάμερες παρακολούθησης των συνόρων της χώρας. Ετσι, η νεοσύστατη εταιρία, που αργότερα ονομάστηκε Clearview AI, θα μπορούσε να χρησιμοποιεί τα εργαλεία «ανίχνευσης προσώπου» στους μετανάστες που εισέρχονται στις Ηνωμένες Πολιτείες.
Με την πάροδο των ετών η Clearview AI κατάφερε να δημιουργήσει μια τεράστια βιομετρική βάση δεδομένων, που τελικά θα περιείχε δισεκατομμύρια εικόνες, τις οποίες η εταιρία είχε συλλέξει από το διαδίκτυο και τα κοινωνικά μέσα, χωρίς βέβαια τη γνώση και τη συγκατάθεση των πλατφορμών ή των χρηστών τους.
Την ίδια ώρα η Τεχνητή Νοημοσύνη ανέλυε αυτές τις εικόνες, δημιουργώντας έτσι ένα ξεχωριστό «αποτύπωμα προσώπου» για κάθε άτομο-στόχο. Ποιο ήταν το αποτέλεσμα αυτής της διαδικασίας αλίευσης και επεξεργασίας των προσωπικών δεδομένων; Η εταιρία να μπορεί να δίνει στους χρήστες-πελάτες της τη δυνατότητα να εκτελούν μια «δοκιμαστική αναζήτηση φωτογραφίας» στη βάση δεδομένων της και, όταν έβρισκε αποτελέσματα, δεν εμφάνιζε μόνο τις αντίστοιχες εικόνες, αλλά και τους συνδέσμους προς τους ιστότοπους από τους οποίους προέρχονταν.
Αυτό, βέβαια, διευκόλυνε περαιτέρω τους πελάτες της Clearview να δημιουργήσουν εμπλουτισμένα προφίλ των «στόχων» τους, αξιοποιώντας-συνδυάζοντας και άλλες πληροφορίες που έβρισκαν σε αυτές τις ιστοσελίδες. Κι όλα αυτά; Γρήγορα, απλά και κυρίως δίχως… φασαρίες. Δηλαδή, δίχως να απαιτείται να υπάρχει κάποιος προφανής λόγος για έρευνα – πολλώ δε μάλλον ένα σχετικό ένταλμα, που απαιτεί τη βούλα των Αρχών.
Ως φανατικός υποστηρικτής του Τραμπ, ο Τον-Τατ δεν οραματίστηκε απλώς τη χρήση της αναγνώρισης προσώπου για να συγκρίνει εικόνες μεταναστών που διέσχιζαν τα σύνορα με φωτογραφίες από αρχεία της αστυνομίας, προκειμένου να διαπιστώσει αν οι αφιχθέντες είχαν συλληφθεί στο παρελθόν στις Ηνωμένες Πολιτείες. Η πρότασή του προς τη Συνοριακή Φρουρά περιελάμβανε κάτι πιο ουσιαστικό: την… ιδέα κάθε αφιχθείς να ελέγχεται και για «τα συναισθήματά του απέναντι στις ΗΠΑ».
Προτείνοντας να σαρωθούν τα social media των μεταναστών, ώστε να εντοπιστούν τυχόν «αναρτήσεις μίσους», είτε για τις ΗΠΑ είτε για τον πρόεδρό τους. Μια ανάρτηση, λοιπόν, του τύπου «μισώ τον Τραμπ» αρκεί για να στοχοποιηθεί κάποιος και να καταχωριστεί στη λίστα εκείνων που έχουν «συγγένεια με ακροαριστερές ομάδες». Και το γεγονός ενισχύει τους εύλογους φόβους εκείνων που θεωρούν πως οι μετανάστες δεν είναι οι μόνοι που διατρέχουν κίνδυνο, μια και ο Ντόναλντ Τραμπ δεν κρύβει πως επιδιώκει «εκδίκηση» έναντι των πολιτικών του αντιπάλων. Και η Clearview έχει τα… δεδομένα για να το κάνει.
Μέχρι το τέλος της πρώτης προεδρικής θητείας του Τραμπ η Clearview είχε ήδη εξασφαλίσει χρηματοδότηση από τον Πίτερ Τιέλ. Τον δεξιό δισεκατομμυριούχο, συνιδρυτή και της Palantir, αλλά κι έναν από τους πρώτους επιχειρηματικούς εταίρους του Ιλον Μασκ. Ενώ είχε υπογράψει συμβόλαια με εκατοντάδες πελάτες από διάφορες υπηρεσίες των Αρχών επιβολής του νόμου σε όλη τη χώρα. Μάλιστα, η Clearview προσέφερε και… δωρεάν δοκιμές για να προσελκύσει χρήστες, προτρέποντας τους αστυνομικούς να «ξεσπάσουν», ενώ υπάρχουν αναφορές ότι ορισμένοι χρήστες το χρησιμοποίησαν πέρα από τα καθήκοντά τους.
Από τη στιγμή που η Clearview ήρθε για πρώτη φορά στο φως της δημοσιότητας το 2020 η δράση και οι δυνατότητές της έχουν προκαλέσει ευλόγως τεράστια αντιπαράθεση στις ΗΠΑ κι όχι μόνο για τις παραβιάσεις της ιδιωτικότητας. Κι αυτό διότι οι Αρχές την έχουν χρησιμοποιήσει εναντίον «αντιφρονούντων», ακτιβιστών και διαδηλωτών, ενώ πολλαπλές κυβερνητικές έρευνες έχουν διαπιστώσει ότι η χρήση των δυνατοτήτων της από ομοσπονδιακές υπηρεσίες δεν συμμορφώνεται με τις απαιτήσεις προστασίας της ιδιωτικής ζωής.
Παρ’ όλα αυτά, όμως, πολλές τοπικές και κρατικές Αρχές επιβολής του νόμου βασίζονται πλέον στην Clearview και τη χρησιμοποιούν ως εργαλείο καθημερινής αστυνόμευσης-επιτήρησης. Μεταξύ Απριλίου του 2018 και Μαρτίου του 2022 η βάση δεδομένων της εταιρίας χρησιμοποιήθηκε από περισσότερες ομοσπονδιακές υπηρεσίες επιβολής του νόμου και περισσότερο από οποιοδήποτε άλλο ιδιωτικό σύστημα αναγνώρισης προσώπου, σύμφωνα με εκθέσεις του γραφείου Λογοδοσίας της Κυβέρνησης των ΗΠΑ (GAO). Χρησιμοποιήθηκε, δε, από υπηρεσίες όπως το FBI, η Υπηρεσία Πυροβόλων Οπλων και Εκρηκτικών (ATF) αλλά και η Υπηρεσία Δίωξης Ναρκωτικών (DEA). Ακόμη και η Υπηρεσία Επιθεώρησης Ταχυδρομείων των ΗΠΑ χρησιμοποίησε την Clearview, στοχεύοντας σε διαδηλωτές του κινήματος Black Lives Matter το 2020.
«Αυτό που κάνει η Clearview είναι μαζική παρακολούθηση και αυτό είναι παράνομο» κατήγγειλε ο Ντανιέλ Τεριέν, επίτροπος Προστασίας της Ιδιωτικής Ζωής του Καναδά το 2021. Ενώ κι εδώ, στην Ευρώπη, οι Αρχές προστασίας δεδομένων όπως στη Γαλλία, στην Ελλάδα, στην Ιταλία και τις Κάτω Χώρες έχουν επίσης αποφανθεί ότι οι πρακτικές συλλογής δεδομένων της εταιρίας είναι παράνομες. Μέχρι σήμερα, μάλιστα, έχουν επιβάλει πρόστιμα στην Clearview ύψους περίπου 100.000.000 δολαρίων.
Σε… ενεργό διάλογο με διάφορες υπηρεσίες!
Στην Αμερική ωστόσο, όπως και αλλού, η συζήτηση σχετικά με τις βλαβερές επιπτώσεις της τεχνολογίας στην ιδιωτικότητα βασίζεται στην εσφαλμένη υπόθεση ότι η τεχνολογία είναι «απολίτικη», ουδέτερη. Μόνο που ακριβώς αυτό το προπέτασμα καπνού επιτρέπει στους ολιγάρχες των κοινωνικών μέσων και των εταιριών τεχνολογίας να παρουσιάζονται ως αμερόληπτοι ιδιοκτήτες πλατφορμών, ενώ την ίδια ώρα οι αλγόριθμοί τους διαδίδουν fake news και τελικά χτίζουν ή ενισχύουν πολιτικά αφηγήματα, διαμορφώνοντας την κοινή γνώμη.
Σήμερα η Clearview δεν έχει πια την ανάγκη να προσποιείται ότι είναι «απολίτικη». Ο Χαλ Λάμπερτ, ο νέος συν-διευθύνων σύμβουλος της εταιρίας, συνεργάζεται ήδη τόσο με τη SpaceX του Ιλον Μασκ όσο και με το υπουργείο Αμυνας των ΗΠΑ μέσω μιας ξεχωριστής εταιρίας δορυφόρων, ενώ δεν έχει κρύψει την επιθυμία του να χρησιμοποιήσει την Clearview ως όργανο της «κυβέρνησης MAGA». «Υπό την κυβέρνηση Τραμπ ελπίζουμε να αναπτυχθούμε περισσότερο από ό,τι θα μπορούσαμε υπό την κυβέρνηση Μπάιντεν» δήλωνε περήφανα στο «Forbes», ενώ πρόσθετε: «Είμαστε σε επαφή με το (σ.σ.: με το Πεντάγωνο), είμαστε σε επαφή με την Υπηρεσία Εσωτερικής Ασφάλειας. Υπάρχουν διάφορες υπηρεσίες με τις οποίες βρισκόμαστε σε ενεργό διάλογο».
Palantir Technologies: Ενα χρήσιμο εργαλείο στα χέρια της ICE
Η Clearview AI δεν είναι όμως μόνη στην επιβολή της μεταναστευτικής πολιτικής αλά Τραμπ που εφαρμόζεται στις ΗΠΑ. Ακόμα μία εταιρία, η Palantir Technologies που ιδρύθηκε το 2003 από τον επενδυτή Πίτερ Τιλ και τον Αλεξ Καρπ, διαδραματίζει κι αυτή σοβαρό ρόλο στις εξελίξεις, ενώ αποτελεί χρησιμότατο εργαλείο και στα χέρια των αξιωματούχων της ICE. Από τα πρώτα της κιόλας βήματα η Palantir εστίασε στην ανάπτυξη λογισμικού που επιτρέπει τη σύνδεση ετερογενών βάσεων δεδομένων: διοικητικών μητρώων, οικονομικών στοιχείων, πληροφοριών υγείας και ψηφιακών ιχνών. Οσο για το αποτέλεσμα; Είναι η δημιουργία πλατφορμών που προσφέρουν στις κρατικές υπηρεσίες μια ενιαία εικόνα για πρόσωπα, δίκτυα σχέσεων, αλλά και «μοτίβα συμπεριφοράς».
Δημόσια διαθέσιμα συμβόλαια και έγγραφα, όπως αυτά που υποβλήθηκαν στη βάση δεδομένων της αμερικανικής κυβέρνησης (USAspending.gov, 2020-2022), δείχνουν ότι συστήματα της Palantir χρησιμοποιούνται από την ICE για την ανάλυση υποθέσεων μετανάστευσης. Ενα από αυτά, το γνωστό και ως ELITE (Enhanced Leads Identification & Targeting for Enforcement), έχει σχεδιαστεί ώστε να ιεραρχεί υποθέσεις και να προτείνει προτεραιότητες για ελέγχους και απελάσεις. Ενώ παράλληλα άλλα εργαλεία αξιοποιούν τεχνικές Τεχνητής Νοημοσύνης για την επεξεργασία καταγγελιών πολιτών, μειώνοντας έτσι τον χρόνο που απαιτείται για τη διασταύρωση και την αξιολόγηση πληροφοριών.
Οπως και η Clearview, έτσι και η Palantir αντλεί σημαντικό μέρος των εσόδων της από κρατικές υπηρεσίες ασφάλειας τόσο στις ΗΠΑ όσο και σε άλλες χώρες. Ενώ όσο κι αν οι υπεύθυνοί της τονίζουν ότι η εταιρία τους δεν αποφασίζει πώς χρησιμοποιούνται τα συστήματά της από τους πελάτες της και πως η ευθύνη ανήκει αποκλειστικά σε εκείνους, πρώην εργαζόμενοι της Palantir, όπως έχουν αναφέρει σε ρεπορτάζ τους και οι «New York Times», υποστηρίζουν ότι η ίδια η δομή των εργαλείων -η δυνατότητα, δηλαδή, να συγκεντρώνουν και να συσχετίζουν δεδομένα από πολλαπλές πηγές- ενισχύει πρακτικές «προληπτικής επιτήρησης».
