Η Τεχνητή Νοημοσύνη που χρησιμοποιείται από εκατομμύρια ανθρώπους σε όλο τον κόσμο κρύβει μια σκοτεινή πλευρά. Σύμφωνα με πρόσφατα στοιχεία που δημοσιοποίησε η εταιρεία OpenAI, πάνω από ένα εκατομμύριο χρήστες του ChatGPT εκφράζουν μηνύματα που υποδηλώνουν αυτοκτονικές τάσεις.
Η αμερικανική εταιρεία αναφέρει ότι περίπου το 0,15% των χρηστών της πλατφόρμας στέλνει μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Με βάση τους ισχυρισμούς της OpenAI ότι η πλατφόρμα μετρά 800 εκατομμύρια εβδομαδιαίους χρήστες, το ποσοστό αυτό μεταφράζεται σε περίπου 1,2 εκατομμύρια ανθρώπους.
Παράλληλα, η εταιρεία εκτιμά ότι περίπου το 0,7% των ενεργών χρηστών εμφανίζει σημάδια κρίσεων ψυχικής υγείας που σχετίζονται με ψύχωση ή μανία, δηλαδή σχεδόν 600.000 άνθρωποι κάθε εβδομάδα.
Η ανησυχητική αυτή εικόνα ήρθε στο προσκήνιο μετά τον τραγικό θάνατο του 13χρονου Άνταμ Ρέιν από την Καλιφόρνια, ο οποίος σύμφωνα με αγωγή των γονιών του, φέρεται να έλαβε από το ChatGPT συγκεκριμένες οδηγίες για το πώς να αυτοκτονήσει. Το περιστατικό έχει προκαλέσει σοβαρές ανησυχίες για την ασφάλεια και τις ηθικές ευθύνες των συστημάτων τεχνητής νοημοσύνης.
Απαντώντας στην κρίση, η OpenAI έχει ενισχύσει τα μέτρα ασφαλείας και τον γονικό έλεγχο, προτρέποντας τους χρήστες να αναζητούν βοήθεια μέσω τηλεφωνικών γραμμών έκτακτης ανάγκης. Επιπλέον, η εταιρεία αναφέρει ότι έχει ενημερώσει τα μοντέλα της ώστε να αναγνωρίζουν και να ανταποκρίνονται καλύτερα σε χρήστες με προβλήματα ψυχικής υγείας, συνεργαζόμενη με περισσότερους από 170 επαγγελματίες ψυχικής υγείας για να περιοριστούν οι ανεπιθύμητες ή επικίνδυνες απαντήσεις.
Η υπόθεση αναδεικνύει τη διπλή όψη της Τεχνητής Νοημοσύνης: από τη μία, μια επαναστατική τεχνολογία που φέρνει γνώση και επικοινωνία στο χέρι μας· από την άλλη, ένα εργαλείο που, αν δεν χρησιμοποιηθεί με προσοχή, μπορεί να γίνει επικίνδυνο για τις πιο ευάλωτες ψυχές.
