Αν η πρώτη μεγάλη πρόκληση της Τεχνητής Νοημοσύνης είναι η ισχύς και η δεύτερη η λογοδοσία, η τρίτη είναι ακόμη βαθύτερη. Πόσο από την ανθρώπινη κρίση είμαστε διατεθειμένοι να παραχωρήσουμε στις μηχανές;
Από τον δρα Αντώνη Στ. Στυλιανό*
Το ερώτημα δεν είναι θεωρητικό. Καθημερινά παραδίδουμε μικρά κομμάτια επιλογής σε αλγοριθμικά συστήματα. Τι θα διαβάσουμε. Ποια διαδρομή θα ακολουθήσουμε. Ποια ταινία θα δούμε. Ποια απάντηση θα δώσουμε σε ένα μήνυμα. Πώς θα γράψουμε ένα κείμενο.
Στις περισσότερες περιπτώσεις αυτό είναι εξαιρετικά χρήσιμο. Το όριο, όμως, αρχίζει να γίνεται δυσδιάκριτο όταν η υποβοήθηση μετατρέπεται σταδιακά σε υποκατάσταση. ∆εν έχει σημασία μόνο εάν μια μηχανή μπορεί να πάρει μια καλύτερη απόφαση. Σημασία έχει εάν υπάρχουν αποφάσεις τις οποίες οφείλει να συνεχίσει να παίρνει ο άνθρωπος, ακριβώς επειδή είναι άνθρωπος.
Εδώ η συζήτηση για την ηθική συναντά τη φιλοσοφία. Ο ωφελιμισμός θα μπορούσε να υποστηρίξει τη χρήση ενός συστήματος όταν παράγει συνολικά καλύτερα αποτελέσματα. Μια δεοντολογική προσέγγιση θα αντιτείνει ότι υπάρχουν δικαιώματα και όρια που δεν μπορούν να θυσιάζονται χάριν της συνολικής αποτελεσματικότητας. Η αρεταϊκή ηθική θα θέσει ένα διαφορετικό ερώτημα: τι είδους κοινωνία γινόμαστε μέσα από τις τεχνολογικές επιλογές μας;
Και εδώ βρίσκεται ίσως η πιο ενδιαφέρουσα διάσταση. Η ηθική της Τεχνητής Νοημοσύνης δεν αφορά μόνο τι κάνουν οι μηχανές σε εμάς. Αφορά και τι γινόμαστε εμείς χρησιμοποιώντας τις μηχανές. Εάν εκχωρούμε διαρκώς την κρίση, την αξιολόγηση, τη συγγραφή, τη δημιουργία, ακόμη και την ανθρώπινη επικοινωνία σε αυτοματοποιημένα συστήματα, το ερώτημα δεν είναι απλώς εάν αυτά θα γίνουν καλύτερα. Είναι εάν εμείς θα γίνουμε φτωχότεροι σε εκείνες ακριβώς τις ανθρώπινες ικανότητες που παραδίδουμε.
Γι’ αυτό η ανθρώπινη εποπτεία δεν πρέπει να αποτελεί διακοσμητική δικλίδα ασφαλείας. Η ίδια η UNESCO, μεταξύ άλλων, επιμένει ότι η τελική ανθρώπινη ευθύνη και λογοδοσία δεν πρέπει να εκτοπίζονται από τα συστήματα Τεχνητής Νοημοσύνης και ότι, κατά κανόνα, αποφάσεις ζωής και θανάτου δεν πρέπει να παραχωρούνται σε αυτά.
Το ζήτημα, επομένως, δεν είναι να οικοδομήσουμε έναν τεχνολογικό κόσμο στον οποίο ο άνθρωπος θα πατά περιστασιακά ένα κουμπί «έγκρισης». Είναι να διατηρήσουμε ουσιαστική ανθρώπινη κυριαρχία επί της απόφασης.
Αυτό απαιτεί παιδεία, θεσμούς και μια νέα κουλτούρα τεχνολογικής ευθύνης. Απαιτεί, επίσης, να αναγνωρίσουμε ότι η συμμόρφωση με έναν νόμο είναι μόνο η αρχή. Η ηθική ρωτά κάτι περισσότερο από το «επιτρέπεται;». Ρωτά «πρέπει;», «γιατί;», «για ποιον;» και «με ποιες συνέπειες;».
Η Τεχνητή Νοημοσύνη θα συνεχίσει να εξελίσσεται. Και πρέπει να εξελίσσεται. Το ζητούμενο, όμως, δεν είναι να δημιουργήσουμε μηχανές που θα μοιάζουν ολοένα περισσότερο με ανθρώπους.
Το δυσκολότερο στοίχημα είναι διαφορετικό, ήτοι να παραμείνουν οι άνθρωποι άνθρωποι σε έναν κόσμο ολοένα εξυπνότερων μηχανών. Γιατί το πραγματικό όριο της Τεχνητής Νοημοσύνης δεν πρέπει τελικά να το θέσει η τεχνολογία. Πρέπει να το θέσει ο άνθρωπος.
*Λέκτορας Νομικής στο Πανεπιστήμιο Λευκωσίας, LL.B Law (Bristol), Ph.D in Law – International Law and Human Rights (Kent), διευθυντής Μονάδας Νομικής Κλινικής Πανεπιστημίου Λευκωσίας
