Κίνα και Ηνωμένες Πολιτείες βρέθηκαν μια ανάσα πριν από την ένοπλη σύγκρουση, όταν μια ψευδής αναφορά που δημιουργήθηκε με τεχνητή νοημοσύνη πυροδότησε συναγερμό στον αμερικανικό στρατό, σύμφωνα με το CNN.
Η συγκεκριμένη έκθεση, η οποία κυκλοφόρησε την περασμένη άνοιξη, κατά τη διάρκεια του πολέμου με το Ιράν, περιείχε πληροφορίες σχετικά με κινεζικό πλοίο που, σύμφωνα με τη διατύπωση της, μετέφερε υλικά για πυρηνικό πρόγραμμα.
Οι αμερικανικές ένοπλες δυνάμεις κινητοποιήθηκαν άμεσα, σχεδιάζοντας να παρεμποδίσουν το πλοίο. Σύμφωνα με τέσσερις πηγές, στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί, ενώ δύο από αυτές ανέφεραν ότι ένοπλοι στρατιώτες ήταν έτοιμοι να επιβιβαστούν στο σκάφος. Ωστόσο, λίγα λεπτά πριν την έναρξη οποιασδήποτε επιχείρησης, οι αξιωματούχοι εξέτασαν ξανά τα στοιχεία και διαπίστωσαν ότι η αναφορά είχε βασιστεί σε τεχνητή νοημοσύνη (AI), η οποία είχε παραπλανητικά προσδιορίσει το φορτίο του πλοίου.
Όπως ανέφερε πηγή, η έκθεση ήταν «απολύτως ψευδής», ωστόσο η κατάσταση διακινδύνευσε να κλιμακωθεί σε πόλεμο. Μια τέτοια στρατιωτική ενέργεια, βασισμένη σε ανακριβείς πληροφορίες, θα μπορούσε να οδηγήσει σε εσφαλμένη αντίδραση και σε γενίκευση της σύγκρουσης μεταξύ ΗΠΑ και Κίνας.
Το περιστατικό αναδεικνύει τους κινδύνους που εγκυμονεί η ευρεία ενσωμάτωση τεχνητής νοημοσύνης στις στρατιωτικές λειτουργίες. Σύμφωνα με αναλυτές, η αξιοπιστία των συστημάτων AI παραμένει αμφιλεγόμενη, καθώς η εξάρτηση από ασαφή ή παραποιημένα δεδομένα μπορεί να οδηγήσει σε σοβαρά λάθη. Η συγκεκριμένη περίπτωση αποτελεί ένα χαρακτηριστικό παράδειγμα, όπου η χρήση τεχνολογίας για την ανάλυση και την επιλογή στόχων σε συνθήκες πολέμου μπορεί να αποβεί καταστροφική.
Ο αναλυτής που συνέταξε την αρχική αναφορά χρησιμοποίησε ένα chatbot, το οποίο συνδύασε δεδομένα ανοικτού κώδικα με απόρρητες πληροφορίες από τα σήματα που διαθέτει η αμερικανική κυβέρνηση. Το λάθος προέκυψε από την ερμηνεία αυτών των δεδομένων, γεγονός που δείχνει πόσο κρίσιμη είναι η ανάγκη για αυστηρότερη επιτήρηση και αξιολόγηση των συστημάτων τεχνητής νοημοσύνης στον στρατιωτικό τομέα.
Από την πλευρά τους, αξιωματούχοι σημειώνουν ότι πολλά από τα εσωτερικά εργαλεία που χρησιμοποιούν οι στρατιωτικές υπηρεσίες μοιάζουν με εμπορικά προϊόντα, με μικρές τροποποιήσεις. Πάντως, η συγκεκριμένη περίπτωση καταδεικνύει ότι η τεχνητή νοημοσύνη παραμένει μια ισχυρή, αλλά επικίνδυνη τεχνολογία, η οποία απαιτεί αυστηρή διαχείριση όταν χρησιμοποιείται σε κρίσιμες καταστάσεις.
