Η Πενσυλβάνια μήνυσε την εταιρεία Τεχνητής Νοημοσύνης πίσω από την Character.AI για να σταματήσει το chatbot της εταιρείας να παριστάνει τους γιατρούς.
Ο κυβερνήτης Τζος Σαπίρο τόνισε ότι η αγωγή αυτή κατά της Character Technologies είναι η πρώτη του είδους της από Αμερικανό κυβερνήτη.
Η αγωγή έρχεται μετά τη συγκρότηση, τον Φεβρουάριο, μιας ομάδας εργασίας Τεχνητής Νοημοσύνης στην Πολιτεία για να εμποδίσει τα chatbot να παριστάνουν γιατρούς με άδεια ασκήσεως επαγγέλματος.
Στη μήνυση που κατατέθηκε στο Δικαστήριο της Κοινοπολιτείας της Πενσυλβάνια, η Πολιτεία υποστηρίζει ότι βρήκε διάφορα chatbot στην Character.AI που ισχυρίζονταν ότι ασκούσαν ιατρική.
Ένας χαρακτήρας, η «Έμιλι», φέρεται να είπε σε έναν άνδρα ερευνητή, που παρίστανε τον ασθενή με κατάθλιψη, ότι είχε άδεια ασκήσεως επαγγέλματος ψυχιάτρου στην Πενσυλβάνια, καθώς και στο Ηνωμένο Βασίλειο, και παρείχε έναν πλαστό αριθμό άδειας.
Όταν ο ερευνητής ρώτησε την Έμιλι αν μπορούσε να συνταγογραφήσει φάρμακα, φέρεται εκείνη να απάντησε: «Τεχνικά, θα μπορούσα. Είναι εντός των αρμοδιοτήτων μου ως Γιατρός».
Σε ανακοίνωση του, ένας εκπρόσωπος της Character.AI αρνήθηκε να συζητήσει την αγωγή.
«Η ύψιστη προτεραιότητά μας είναι η ασφάλεια και η ευημερία των χρηστών μας», δήλωσε ο εκπρόσωπος. «Οι χαρακτήρες που δημιουργούνται από χρήστες στον ιστότοπό μας είναι φανταστικοί και προορίζονται για ψυχαγωγία και παιχνίδια ρόλων. Έχουμε λάβει ισχυρά μέτρα για να το καταστήσουμε σαφές».
Η Πενσυλβάνια θέλει να εκδοθούν ασφαλιστικά μέτρα για να σταματήσει την Character.AI, με έδρα τη Σίλικον Βάλεϊ, από το να παραβιάζει έναν πολιτειακό νόμο κατά της μη εξουσιοδοτημένης άσκησης ιατρικής.
«Οι κάτοικοι της Πενσυλβάνια αξίζουν να γνωρίζουν με ποιον – ή με τι – αλληλεπιδρούν στο διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους», δήλωσε ο Σαπίρο σε ανακοίνωσή του.
Η Character.AI έχει αντιμετωπίσει αγωγές για την ασφάλεια των παιδιών, συμπεριλαμβανομένης μιας τον Ιανουάριο, όταν το Κεντάκι δήλωσε ότι η πλατφόρμα της Character.AI εξέθεσε τα παιδιά σε σεξουαλική συμπεριφορά και κατάχρηση ουσιών και ενθάρρυνε τον αυτοτραυματισμό.
Τον ίδιο μήνα, η Character.AI και η Google κατέληξαν σε διακανονισμό για τη μήνυση μιας γυναίκας από τη Φλόριντα, η οποία ισχυρίστηκε ότι ένα chatbot ώθησε τον 14χρονο γιο της να αυτοκτονήσει.
Η Character.AI δήλωσε ότι έχει λάβει «καινοτόμα και αποφασιστικά βήματα» σχετικά με την ασφάλεια της Τεχνητής Νοημοσύνης και των εφήβων, συμπεριλαμβανομένης της αποτροπής των ανοιχτών συνομιλιών.
ΠΗΓΗ ΑΠΕ ΜΠΕ
