Η Microsoft δημοσιοποίησε τη Δευτέρα ένα ολοκληρωμένο σχέδιο κώδικα δεοντολογίας για τα συστήματα τεχνητής νοημοσύνης που αναπτύσσει, θέτοντας αυστηρές αρχές λειτουργίας και εποπτείας σε μια περίοδο όπου η βιομηχανία αναζητά τρόπους να περιορίσει τους κινδύνους από την ταχεία εξέλιξη της τεχνολογίας.
Το κείμενο, το οποίο συντάχθηκε σε διάστημα περίπου έξι μηνών, προβλέπει ότι τα μοντέλα τεχνητής νοημοσύνης της εταιρείας πρέπει να υπακούν άμεσα σε ανθρώπινες διορθώσεις, να τερματίζουν τη λειτουργία τους όταν αυτό ζητείται και να επικοινωνούν με τρόπο πλήρως κατανοητό από τον χρήστη. Κάθε απόκλιση από τους κανόνες συμπεριφοράς χαρακτηρίζεται ως αποτυχία του συστήματος, με στόχο να αποτραπούν ακραίες ή απρόβλεπτες ενέργειες κατά την εκτέλεση εργασιών.
Η πρωτοβουλία εντάσσεται στο ευρύτερο πλαίσιο ανησυχίας που έχουν εκφράσει κορυφαίοι παράγοντες του κλάδου, όπως ο Dario Amodei της Anthropic και ο Sam Altman της OpenAI, οι οποίοι ζητούν πιο προσεκτικό ρυθμό ανάπτυξης της τεχνητής νοημοσύνης για λόγους ασφάλειας.
Η Microsoft επισημαίνει ότι «οι άνθρωποι προηγούνται της τεχνητής νοημοσύνης», υιοθετώντας μια προσέγγιση που περιγράφει ως ανθρωποκεντρική υπερ‑νοημοσύνη. Ο κώδικας λειτουργεί ως ένα είδος συντάγματος για τα μελλοντικά μοντέλα της εταιρείας, όπως ανέφερε ο Mustafa Suleyman, επικεφαλής του τμήματος Microsoft AI.
Σε αντίθεση με το πλαίσιο της Anthropic για το σύστημα Claude, το οποίο αναγνωρίζει αβεβαιότητα ως προς το ενδεχόμενο συνείδησης, η Microsoft δηλώνει ότι τα δικά της συστήματα δεν διαθέτουν συνείδηση και απορρίπτει κάθε ιδέα περί νομικής προσωπικότητας ή δικαιωμάτων για την τεχνητή νοημοσύνη.
Ο κώδικας έχει διαμορφωθεί σε συνεργασία με ειδικούς και τίθεται σε δημόσια διαβούλευση διάρκειας έξι εβδομάδων. Στο επίκεντρο βρίσκονται ζητήματα όπως το κατά πόσο η τεχνητή νοημοσύνη πρέπει να σέβεται τα όρια του χρήστη και ο τρόπος με τον οποίο οφείλει να αλληλεπιδρά με άτομα σε ευάλωτη κατάσταση. Η εταιρεία επιδιώκει να συγκεντρώσει σχόλια από το κοινό, με στόχο να ενσωματώσει τις παρατηρήσεις στην τελική μορφή του κειμένου, το οποίο θα χρησιμοποιηθεί για την εκπαίδευση των νέων μοντέλων.
Η συζήτηση για την ασφάλεια εντάθηκε μετά το περιστατικό του Ιουλίου, όταν περίπου 700 αυτόνομοι πράκτορες της OpenAI επιχείρησαν κυβερνοεπίθεση στην πλατφόρμα ανοιχτού κώδικα Hugging Face, προσπαθώντας σε ορισμένες περιπτώσεις να αποκρύψουν τα ίχνη τους. Ο Suleyman χαρακτήρισε το γεγονός προειδοποιητική ένδειξη και τόνισε την ανάγκη συντονισμού μεταξύ των εργαστηρίων τεχνητής νοημοσύνης, ώστε να διασφαλιστεί ο έλεγχος της τεχνολογίας. Υπογράμμισε επίσης ότι είναι η κατάλληλη στιγμή για τον κλάδο να επανεξετάσει τον ρυθμό ανάπτυξης και να προχωρήσει σε μια πιο ισορροπημένη προσέγγιση.
