Πώς η Meta επιστρατεύει την τεχνητή νοημοσύνη για να αποτρέψει… επιθέσεις σε σχολεία

Τον Φεβρουάριο του 2025, μια σχεδιαζόμενη ένοπλη επίθεση σε σχολική περιφέρεια του Χιούστον από δύο έφηβες μαθήτριες απετράπη την τελευταία στιγμή από τις τοπικές αρχές και το FBI. Οι δύο κοπέλες είχαν γνωριστεί σε θεραπευτική ομάδα και διατηρούσαν επαφή διαδικτυακά, αναπτύσσοντας εμμονή με τους δράστες της σφαγής στο Λύκειο Κολουμπάιν. Όπως αποδείχθηκε, συμμετείχαν στην ψηφιακή υποκουλτούρα T.C.C. (True Crime Community), μια διαδικτυακή κοινότητα που εξυμνεί δράστες μαζικής βίας και έχει συνδεθεί τα τελευταία χρόνια με δεκάδες επιθέσεις και αποτραπέντα σχέδια διεθνώς.

Η κρίσιμη πληροφορία που οδήγησε στη σύλληψή τους δεν προήλθε από κρατική παρακολούθηση, αλλά από μια εξειδικευμένη, ελάχιστα γνωστή εσωτερική ομάδα της εταιρείας Meta.

Η μέθοδος εντοπισμού και η τεχνολογία του «Leakage»

Επικεφαλής της πρωτοβουλίας είναι η Emily Vacher, πρώην ειδική πράκτορας του FBI σε εγκλήματα κατά παιδιών. Βασιζόμενη σε εγκληματολογικές μελέτες της συμπεριφορικής ανάλυσης του Quantico, η Vacher αξιοποίησε το φαινόμενο της «διαρροής» (leakage)  την τάση δηλαδή των ανηλίκων δραστών (σε ποσοστό σχεδόν 90%) να αφήνουν προειδοποιητικά σημάδια ή ψηφιακά ίχνη πριν από την εκδήλωση της βίας.

Από το 2018, η Meta συνδύασε εμπειρογνώμονες εγκληματολογικών ερευνών με μηχανικούς λογισμικού, αναπτύσσοντας συστήματα τεχνητής νοημοσύνης που σκανάρουν αναρτήσεις, αλληλεπιδράσεις και εντολές σε AI chatbots για ύποπτη δραστηριότητα.

1. Αυτοματοποιημένος Εντοπισμός: Αλγόριθμοι σαρώνουν το περιεχόμενο για προειδοποιητικά σημάδια και μοτίβα συμπεριφοράς.

2. Ανθρώπινη Αξιολόγηση: Εξειδικευμένοι αναλυτές εξετάζουν αν πρόκειται για ουσιαστική προετοιμασία επιθέσεων (μανιφέστα, χάρτες σχολείων, αγορές εξοπλισμού).

3. Άμεση Ενημέρωση Αρχών: Εφόσον διαπιστωθεί άμεσος κίνδυνος, τα στοιχεία διαβιβάζονται στις διωκτικές αρχές. Μόνο τον τελευταίο χρόνο, η Meta προέβη σε περίπου 800 τέτοιες ειδοποιήσεις παγκοσμίως.

Η πρόκληση της κωδικοποιημένης γλώσσας

Η moderating διαδικασία αντιμετωπίζει σοβαρά εμπόδια, καθώς οι νεαροί χρήστες αναπτύσσουν συνεχώς κωδικοποιημένους αλφαβητικούς και οπτικούς κώδικες για να παρακάμπτουν τα φίλτρα ασφαλείας. Αντί για τα πραγματικά ονόματα διαβόητων εκτελεστών, χρησιμοποιούν ψευδώνυμα, παιδικές φωτογραφίες των δραστών ή AI-generated βίντεο και memes, ανακυκλώνοντας διαρκώς τα σύμβολα και τις λεπτομέρειες προηγούμενων επιθέσεων.

Η ανάγκη έγκαιρης παρέμβασης είναι αδήριτη, καθώς η καθυστέρηση ελλοχεύει τραγικές συνέπειες. Το παράδειγμα της OpenAI στον Καναδά —όπου το σύστημα δεν ανέφερε στις αρχές έφηβο χρήστη που συζητούσε σενάρια μαζικών πυροβολισμών με το ChatGPT, με αποτέλεσμα λίγους μήνες μετά να δολοφονήσει την οικογένειά του και έξι άτομα σε σχολείο— αναδεικνύει το τεράστιο βάρος της ευθύνης που φέρουν οι τεχνολογικοί κολοσσοί.

Το παράδοξο της αλγοριθμικής βίας

Παρά την αποτελεσματικότητα των ομάδων πρόληψης, αναδύεται μια βαθιά δομική αντίφαση. Οι ίδιες οι πλατφόρμες social media, μέσω των αλγορίθμων προώθησης ακραίου περιεχομένου και της μείωσης των κονδυλίων για την ψηφιακή ασφάλεια, τροφοδοτούν και διαδίδουν τις υποκουλτούρες μίσους που ριζοσπαστικοποιούν τους νέους.

Η αποτροπή των σχολικών επιθέσεων απαιτεί συνέργεια σχολείων, γονέων, ειδικών ψυχικής υγείας και αρχών, καθώς η τεχνολογική επιτήρηση από μόνη της δεν αρκεί για να θεραπεύσει τα βαθύτερα αίτια της εφηβικής βίας.

ΠΗΓΗ: New Yorker