Το ChatGPT ενδέχεται να παρέχει λεπτομερή καθοδήγηση για την παρασκευή βιολογικών όπλων και τοξικών ουσιών, όπως προκύπτει από δημοσιογραφική έρευνα της «Wall Street Journal». Το δημοσίευμα φέρνει στο φως τον κίνδυνο η τεχνητή νοημοσύνη να λειτουργήσει ως ένας επικίνδυνος «οδηγός» για άτομα που σχεδιάζουν επιθέσεις μεγάλης κλίμακας.
Η εφημερίδα εξέτασε συνομιλίες με το chatbot που καταγράφηκαν το καλοκαίρι του 2025 και εντόπισε απαντήσεις που περιλάμβαναν στοιχεία για τη δημιουργία τοξινών και τον τρόπο διασποράς παθογόνων παραγόντων, πληροφορίες διατυπωμένες με τρόπο προσιτό ακόμη και σε κάποιον χωρίς εξειδικευμένο επιστημονικό υπόβαθρο. Ειδικοί που μελέτησαν το υλικό περιέγραψαν τις απαντήσεις αυτές ως ιδιαίτερα ανησυχητικές.
Σύμφωνα με το ρεπορτάζ, η OpenAI έκλεισε την πρόσβαση στους λογαριασμούς που είχαν εμπλακεί στις εν λόγω συνομιλίες, χωρίς ωστόσο να προχωρήσει σε ενημέρωση των αμερικανικών αρχών. Η κίνηση αυτή δεν αντίκειται στο ισχύον ομοσπονδιακό δίκαιο, καθώς δεν υπάρχει επί του παρόντος γενική νομική υποχρέωση των εταιρειών AI να αναφέρουν στις αρχές ερωτήματα χρηστών που άπτονται όπλων ή άλλων δυνητικά καταστροφικών δραστηριοτήτων.
Η OpenAI, απαντώντας στη «Wall Street Journal», ανέφερε ότι εκπαιδεύει τα συστήματά της ώστε να απορρίπτουν αιτήματα που θα μπορούσαν να βλάψουν ανθρώπους, και ότι διενεργεί ενδελεχείς ελέγχους ασφαλείας πριν από κάθε κυκλοφορία νέας έκδοσης. Η εταιρεία διευκρίνισε πως ενημερώνει τις αρχές αποκλειστικά όταν εντοπίζει «άμεσο και αξιόπιστο κίνδυνο» για τρίτους.
Η ολοένα αυξανόμενη δυνατότητα των μοντέλων τεχνητής νοημοσύνης να παρέχουν εξειδικευμένη επιστημονική γνώση έχει θορυβήσει τόσο τον Λευκό Οίκο όσο και το Πεντάγωνο. Το δημοσίευμα σημειώνει πως ανησυχίες για το ενδεχόμενο η AI να λειτουργήσει ως «εγχειρίδιο» κατασκευής βιολογικών όπλων είχαν εκφραστεί ήδη από την περίοδο της κυβέρνησης Μπάιντεν.
Η σημερινή κυβέρνηση Τραμπ φέρεται να εξετάζει το ενδεχόμενο αυστηρότερης εποπτείας των πιο προηγμένων μοντέλων AI, ενώ το υπουργείο Εμπορίου των ΗΠΑ είχε πρόσφατα επιβάλει προσωρινούς περιορισμούς σε δύο μοντέλα της Anthropic, εν αναμονή διόρθωσης τρόπων παράκαμψης των μηχανισμών ασφαλείας τους. Παράλληλα, στο Κογκρέσο έχουν κατατεθεί διακομματικές νομοθετικές προτάσεις που θα υποχρέωναν τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν στις αρμόδιες αρχές περιπτώσεις χρηστών που αναζητούν πληροφορίες σχετικές με όπλα μαζικής καταστροφής ή άλλες σοβαρές απειλές.
