Ποιός θα μας φυλάξει από τους αλγόριθμους;, του Γιώργου Πένταρη

Ή «Ποιος θα μας φυλάξει από τους φύλακες;» όπως έλεγε ο Ρωμαίος σατιρικός ποιητής Juvenalis, 1ος-2ος αι. μ.Χ. Τον τελευταίο καιρό όλο και πιο συχνά ακούμε τις λέξεις «αλγόριθμος» και «τεχνητή νοημοσύνη ή επί το επιστημονικότερον ΑΙ».
Αλλά πριν προχωρήσω στο θέμα μου θα ήθελα να κάνω μια μικρή παρένθεση σχετικά με το ταξίδι του Πρωθυπουργού στο Ισραήλ, όπου υπέγραψε συμφωνίες για αμυντικές και επιχειρηματικές συνεργασίες. Το έχουμε γράψει εδώ και ένα χρόνο στον «ΠΑΛΜΟ» ότι ήταν αναγκαία αυτού του είδους η συνεργασία και ευχόμαστε οι συμφωνίες να υλοποιηθούν το συντομότερο και να επεκταθούν περαιτέρω.

Τώρα στο θέμα μας. Η λέξη αλγόριθμος είναι Αραβική και πολύ απλά σημαίνει μια καλά ορισμένη μέθοδο ή διαδικασία που, σε πεπερασμένο αριθμό βημάτων, δίνει λύση σε ένα πρόβλημα. Ο πρώτος γνωστός αλγόριθμος που πληροί τα κριτήρια αλγορίθμων είναι ο γνωστός μας αλγόριθμος του Ευκλείδη (όχι του Τσακαλώτου), αλλά του αρχαίου Έλληνα μαθηματικού που βρίσκει τον μέγιστο κοινό διαιρέτη δύο αριθμών. Από την εποχή του Ευκλείδη έχει τρέξει πολύ νερό στο αυλάκι και σήμερα οι αλγόριθμοι είναι δίπλα μας, κάνουν πολλά και διάφορα για εμάς – με ή χωρίς την θέλησή μας.
Το ερώτημα, λοιπόν, που τίθεται είναι πώς ως άτομα, ομάδες ατόμων ή κοινωνίες θα προστατευόμαστε από τους αλγορίθμους ώστε να μην παραβιάζονται τα ατομικά μας δικαιώματα και να μην χρησιμοποιούνται οι ατομικές μας πληροφορίες για διαχείριση των επιθυμιών μας ή της συμπεριφοράς μας.

Οι αλγόριθμοι Τεχνητής Νοημοσύνης είναι πολύ χρήσιμοι και βοηθάνε πάρα πολύ την τεχνολογία και την επιστήμη στην λήψη αποφάσεων. Θα σας φέρω δύο παραδείγματα: Πάει κάποιος να βγάλει μια ακτινογραφία θώρακος και την κοιτάζει ένας γιατρός που ναι μεν έχει εμπειρία, αλλά είναι ανθρωπίνως αδύνατον να γνωρίζει τα πάντα γύρω από μια υποψία καρκίνου. Ενδεχομένως λοιπόν να παραβλέψει το πρόβλημα ή εκεί που δεν υπάρχει πρόβλημα να θεωρήσει ότι υπάρχει και να αρχίσει η ταλαιπωρία του ασθενούς. Ο αλγόριθμος τεχνητής νοημοσύνης έχει εκπαιδευτεί σχεδόν από δισεκατομμύρια ανάλογα περιστατικά σε παγκόσμιο επίπεδο και μπορεί ευκολότερα και συντομότερα να βγάλει μια διάγνωση. Θα μου πείτε τώρα θα εμπιστευτούμε την μηχανή; Όχι, αλλά θα είναι οδηγός για τον γιατρό για τα περαιτέρω. Σε 20 χρόνια βέβαια θα γίνεται ότι λέει ο αλγόριθμος.

Το δεύτερο παράδειγμα τώρα. Πάει μια κυρία στη γιατρό για ορμονικά και η γιατρός της κάνει μια εξέταση για μέτρηση λίπους. Ανεβαίνει η κυρία πάνω σε ενός είδους ζυγαριά χωρίς κάλτσες και η γιατρός με το κινητό της τηλέφωνο συνδέεται με μια εφαρμογή και με την «ζυγαριά» και βγάζει αποτελέσματα. Το αποτέλεσμα από την ζυγαριά πάει στην εφαρμογή η οποία βρίσκεται σε κάτι πολύ μεγάλα computers, που τα λέμε cloud (σύννεφο), τα οποία δεν ξέρουμε πού είναι και μετά έρχονται στην γιατρό και στην κυρία, ας πούμε, Τιτίκα με email. Η κυρία Τιτίκα διαγιγνώσκεται με λίπος και η γιατρός της δίνει οδηγίες. Πριν φτάσει σπίτι της, το email της κατακλύζεται από διαφημιστικά μηνύματα για προγράμματα αδυνατίσματος και παραφάρμακα. Εδώ έχουμε μια παραβίαση ατομικών δικαιωμάτων με την χρήση ενός αλγορίθμου. Παραδείγματα υπάρχουν χιλιάδες από διακρίσεις ατόμων με βάση την καταγωγή ή το χρώμα τους, από τον τόπο που κατοικούν, από διάφορες μικροπαραβάσεις των νόμων, από διατροφικές συνήθειες και πάρα πολλά άλλα.

Διαπιστώνουμε λοιπόν ότι οι αλγόριθμοι, παρ’ ότι είναι κατασκευασμένοι από ανθρώπους μπορούν να παίρνουν αυτόνομα αποφάσεις, αλλά πάντα μέσα σε όρια που τους έχουν τεθεί από τους κατασκευαστές. Αυτή τη στιγμή σε παγκόσμιο επίπεδο κανείς δεν γνωρίζει πώς λειτουργούν οι αλγόριθμοι που επηρεάζουν την ζωή μας. Έχετε σκεφτεί πώς χρησιμοποιούνται οι πληροφορίες που δίνουμε με αφέλεια στο Facebook ή στο Twitter; Οι αλγόριθμοι έχουν αρχίσει να επηρεάζουν κάθε πτυχή της ζωής μας και χρησιμοποιούνται, ιδίως μετά τον κορωνοϊό κατά κόρον από ιδιώτες, επιχειρήσεις, τράπεζες, κρατικές υπηρεσίες και κυβερνήσεις.
Επειδή λοιπόν η επιρροή των αλγορίθμων μέσω του Ίντερνετ εκτείνεται σε παγκόσμιο επίπεδο, είναι ανάγκη να υπάρξει ενός είδους ρυθμιστική αρχή που θα αξιολογεί τον κοινωνικό αντίκτυπο των αποφάσεων που λαμβάνονται με την χρήση τους. Εδώ θα ήθελα να αναφέρω ένα σχετικό παράδειγμα κοινωνικού αντικτύπου από την Αυστραλία. Ο αλγόριθμος τεχνητής νοημοσύνης έλεγε με απλά λόγια ότι κάποιος που παίρνει για ένα μήνα ένα ποσό π.χ. 20 χιλιάδες δολάρια σημαίνει ότι τα έπαιρνε για όλο τον χρόνο και έπρεπε να πληρώσει τον αναλογούντα φόρο. Επειδή πολλοί πολίτες δούλευαν περιστασιακά επιβαρύνθηκαν άδικα και κατόπιν προσφυγών η κυβέρνηση της Αυστραλίας αναγκάστηκε να επιστρέφει 720 εκατομμύρια δολάρια.
Αυτή τη στιγμή δεν γνωρίζουμε ως κοινωνία, σε παγκόσμιο επίπεδο, πως θα εισάγουμε ρυθμιστικούς κανόνες για την λειτουργία των αλγορίθμων, επειδή η εφαρμογή τους σε κοινωνικά προβλήματα προϋποθέτουν πολλούς κοινωνικούς συμβιβασμούς, οι οποίοι εξυπηρετούν κάποιες κοινωνικές ομάδες, ενώ αδικούν άλλες. Λόγω αυτής της δυσκολίας δεν μπορεί να υπάρξει ένα εκ των άνω σώμα ελέγχου των αλγορίθμων, διότι και αυτό θα είναι εκτός κοινωνίας και θα εξελιχθεί σε μέγα κριτή, πράγμα ασύμβατο με τα δημοκρατικά ιδεώδη. Χρειάζεται λοιπόν ένας διαφορετικός τρόπος αντιμετώπισης του ζητήματος.
Για να επιλυθούν και αντιμετωπιστούν οι κοινωνικοί συμβιβασμοί είναι ανάγκη να ακούγονται πολλές και διαφορετικές φωνές. Μπορεί να φαίνεται η ιδέα ρηξικέλευθη, αλλά οι πολίτες πρέπει να έχουν λόγο στο πώς θα μπαίνουν κανονιστικοί κανόνες στην λειτουργία των αλγορίθμων. Ο δημόσιος λόγος ή η διακυβέρνηση των πολιτών είναι αποτελεσματική σήμερα με την χρήση του Ίντερνετ και έχει αποδειχτεί η αποτελεσματικότητά της μέσα από κοινωνικές έρευνες. Για παράδειγμα έχει αποδειχτεί ότι μια ποικίλη ομάδα πολιτών μπορεί να παίρνει σωστές αποφάσεις. Σημειώνεται ότι αυτό έχει αποδειχτεί και με μαθηματικά πειράματα. Ακόμη έχει αποδειχτεί ότι οι πολίτες μπορούν να πάρουν δύσκολες αποφάσεις για θέματα όπως η κλιματική αλλαγή ή ακόμη να διαμορφώσουν τον συνταγματικό χάρτη μιας χώρας.
Αν πάμε 2,5 χιλιετίες πίσω στην αρχαία Αθήνα, θα δούμε ότι η κοινωνία των πολιτών ήταν σε πλήρη δράση και με πολύ αποτελεσματικότητα. Μιλώ για την Βουλή των Πεντακοσίων στην Αθηναϊκή Δημοκρατία που έπαιρνε αποφάσεις για όλα τα ζητήματα του κράτους από την κήρυξη πολέμου μέχρι τις κρατικές χορηγίες για τα θέατρα κτλ. Η Βουλή των Πεντακοσίων εξελέγετο με τρεις απλούς κανόνες. Από 50 άτομα από κάθε μια από τις 10 φυλές, δεν μπορούσαν να εκλεγούν για δύο συνεχόμενα χρόνια και δεν μπορούσαν να εκλεγούν πάνω από δύο φορές. Αυτή η απλή μέθοδος δημιουργούσε ένα σώμα σοφό στις αποφάσεις, αλλά και διέδιδε την εμπειρία τους στις δέκα φυλές με αποτέλεσμα την καλύτερη οργάνωση των κοινωνιών τους.
Κάτι ανάλογο είναι και σήμερα το ζητούμενο με την λεγόμενη κοινωνία των πολιτών. Θα πρέπει οι πολίτες να ενημερώνονται με μελέτες για τον κοινωνικό αντίκτυπο των αλγορίθμων, με τα αποτελέσματα της αυτοαξιολόγησης των υπηρεσιών και τα αποτελέσματα εσωτερικών ελέγχων των διαφόρων νομικών προσώπων που δημιουργούν και χρησιμοποιούν αλγορίθμους.
Τα συμβούλια της κοινωνίας των πολιτών θα είναι μια δίκαιη και αποτελεσματική απάντηση στο ερώτημα στο πώς θα επιλύονται οι κοινωνικές αντιθέσεις/συγκρούσεις που δημιουργούνται από τους αλγορίθμους. Τα συμβούλια των πολιτών θα μπορούν να επεκτείνουν το εύρος των πιθανών λύσεων στα προβλήματα που δημιουργούν οι αλγόριθμοι με ενίσχυση της δημοκρατικής λογοδοσίας και ενθάρρυνση της συμμετοχής και ενημέρωσης των πολιτών.
Η παγκόσμια διάβρωση των δημοκρατικών ιδεωδών ανά τον κόσμο μας καλεί να βρούμε νέες ιδέες για το πώς θα υλοποιηθεί η κοινωνία των πολιτών. Είναι καιρός να σκεφτούμε δημιουργικούς δημοκρατικούς θεσμούς που θα αντιμετωπίσουν τα σημερινά μεγάλα κοινωνικά προβλήματα.
Η Αθηναϊκή Δημοκρατία μας υπενθυμίζει ότι έχουμε παραχωρήσει την διακυβέρνησή μας εδώ και 300 χρόνια πρώτα στους βασιλιάδες και μετά στους ειδικούς, οι οποίοι αρχίζουν να δίνουν την θέση τους στις μηχανές. Πιστεύω ότι η κοινωνία θα πρέπει να δει πολύ σοβαρά το ζήτημα γιατί αντικαθίσταται για πρώτη φορά στην ανθρώπινη ιστορία όχι η εργατική δύναμη, αλλά το μυαλό του ανθρώπου.