Της Αθηνάς Κοντογιάννη, Επίκουρης Καθηγήτριας Νομικής, Ευρωπαϊκό Πανεπιστήμιο Κύπρου
Διανύουμε μια περίοδο κατά την οποία η τεχνητή νοημοσύνη και οι κίνδυνοι που μπορούν να προέλθουν από αυτή για το κράτος δικαίου, τη δημοκρατία και τα ανθρώπινα δικαιώματα αποτελούν κεντρικό θέμα διαλόγου στην επιστημονική κοινότητα, στην πολιτική, αλλά και στην κοινωνία γενικότερα. Με αφορμή τη συμβολή μου στο συλλογικό τόμο «Τεχνητή Νοημοσύνη, ανθρώπινα δικαιώματα, δημοκρατία και κράτος δικαίου», των εκδόσεων «Νομική Βιβλιοθήκη», υπό την επιμέλεια του Ευρ. Στυλιανίδη, Αν. Καθηγητή του Συνταγματικού Δικαίου και Βουλευτή Ροδόπης, και με τη συνεργασία 41 ακαδημαϊκών και διακεκριμένων επιστημόνων με βαθιά γνώση του αντικειμένου, τον οποίο έχουμε την τιμή να προλογίζει ο Πρόεδρος της Κοινοβουλευτικής Συνέλευσης του Συμβουλίου της Ευρώπης κ. Θ. Ρουσόπουλος, θα ήθελα να διατυπώσω ορισμένες σκέψεις, εκκινώντας από την επίδραση της ΤΝ στο δικαίωμα της ίσης μεταχείρισης που με απασχόλησε στον ανωτέρω τόμο, και θέτοντας ορισμένα θέματα για προβληματισμό και συζήτηση.
Σήμερα κανείς δεν μπορεί να αρνηθεί ότι οι εφαρμογές της ΤΝ συμβάλλουν στην καταπολέμηση των προκαταλήψεων και της άνισης μεταχείρισης, και, γενικότερα, στη βελτίωση της καθημερινότητας και της ποιότητας ζωής των πολιτών, προσφέροντας, π.χ. τόσο στην ιατρική επιστήμη, όσο και στην παραγωγή προϊόντων και υπηρεσιών ασύλληπτες δυνατότητες επιτευγμάτων. Δεν μπορεί, δηλαδή, να αμφισβητηθεί η θεαματική τους συμβολή στην προστασία των ανθρωπίνων δικαιωμάτων, όπως της ζωής, της υγείας, της ιδιοκτησίας κ.λπ.
Ειδικά, π.χ. σε ό,τι αφορά την ίση μεταχείριση, η αρχική αντίληψη ήταν ότι ο αλγόριθμος είναι «ουδέτερος» και, ως εκ τούτου, εξ ορισμού δίκαιος και συμπεριληπτικός, άρα, μπορούσε να αναδειχθεί, σε κάθε περίπτωση, σε πολύτιμο εργαλείο για την προώθηση της ίσης μεταχείρισης σε όλους τους τομείς της λήψης των αποφάσεων (στη νομοθετική παραγωγή, στη λειτουργία του Κοινοβουλίου, στη δημόσια διοίκηση, στη δικαιοσύνη, στις επιχειρήσεις κλπ.). Πολύ γρήγορα αντιληφθήκαμε την απλοϊκότητα αυτής της άποψης: Βρεθήκαμε αντιμέτωποι με περιστατικά, στα οποία η ΤΝ έκανε μαζική αναπαραγωγή στερεοτύπων και προκαταλήψεων, λειτουργώντας υπό συνθήκες αδιαφάνειας, ανάλογα με τα συμφέροντα και τις επιδιώξεις είτε όσων τη σχεδίασαν είτε όσων αντλούσαν οφέλη από την αυθαίρετη χρήση της. Διαπιστώσαμε την κατασκευή και μαζική και στοχευμένη διακίνηση fake news, τη δυνατότητα χειραγώγησης πολιτών μέσω συστημάτων ΤΝ που ελέγχουν και επιλέγουν ποιες πληροφορίες θα είναι προσβάσιμες και σε ποιους πολίτες, ποιες θα «θαφτούν» στον κυκεώνα των άπειρων δεδομένων και ποιες θα διαδοθούν ευρέως διαμορφώνοντας τις αποφάσεις μας ή, ακόμη, τη μαζική χειραγώγηση των καταναλωτών μέσω στοχευμένων προφίλ από ψηφιακές πλατφόρμες. Αυτές οι πρακτικές, αποκάλυψαν το τίμημα της ανεξέλεγκτης χρήσης της ΤΝ, η οποία, υπό προϋποθέσεις, δύναται να αυτονομηθεί και να υποκαταστήσει την ανθρώπινη απόφαση, να προσβάλλει την προσωπική ελευθερία και, τελικά, να υποσκάπτει τα θεμέλια της δημοκρατίας και του κράτους δικαίου.
Σε αυτή τη νέα αχαρτογράφητη πραγματικότητα όλοι μιλούν για την ανάγκη λήψης μέτρων, συχνά χωρίς να είναι σε θέση να τα προσδιορίσουν πρακτικά, και με τεχνολογικά δεδομένα που εξελίσσονται αδιάκοπα, προβάλλει επιτακτικό το ερώτημα, ποιο είναι το νομικό πλαίσιο που θα εφαρμοστεί για την προστασία του ανθρώπου.
Μια πρώτη απάντηση είναι ότι η ΤΝ δεν διαμορφώθηκε εν μέσω θεσμικού κενού. Ρυθμίσεις για τα ανθρώπινα δικαιώματα έχουν θεσπισθεί εδώ και δεκαετίες, τόσο σε επίπεδο Συντάγματος και εθνικής νομοθεσίας, όσο και σε επίπεδο διεθνούς και ευρωπαϊκού δικαίου και συμβάσεων (η Ευρωπαϊκή Σύμβαση για τα Δικαιώματα του Ανθρώπου, ο Χάρτης των Θεμελιωδών Δικαιωμάτων της Ε.Ε., το Διεθνές Σύμφωνο για τα Ατομικά και Πολιτικά Δικαιώματα κ.λπ.) και μάλιστα με αυξημένη τυπική ισχύ. Υπάρχει, επίσης, ο Γενικός Κανονισμός για την Προστασία των Προσωπικών Δεδομένων. Ωστόσο – και ορθώς – δεν μείναμε εκεί. Η Ευρωπαϊκή Ένωση ενίσχυσε τη γραμμή άμυνας για τα ανθρώπινα δικαιώματα, πρωτοπορώντας παγκοσμίως, με ειδικούς, νομικά δεσμευτικούς, κανόνες που περιλαμβάνονται α) στη Σύμβαση Πλαίσιο του Συμβουλίου της Ευρώπης της 5ης.9.2024 για την Τεχνητή Νοημοσύνη, και β) στον Κανονισμό 2024/1689. Στόχος της ήταν και είναι όχι μόνο να ρυθμίσει, αλλά και να ελέγξει και να εποπτεύσει την ΤΝ, ισορροπώντας ανάμεσα στην προστασία των θεμελιωδών ανθρωπίνων δικαιωμάτων και την ανταγωνιστική ανάπτυξη της καινοτομίας. Οι κανόνες αυτοί καταλαμβάνουν όλα τα συστήματα ΤΝ που διατίθενται ή λειτουργούν εντός της Ε.Ε., ανεξάρτητα από που παρήχθησαν.
Το εύλογο ερώτημα που τίθεται στη συνέχεια είναι τί εισφέρει στην πράξη το νέο θεσμικό πλαίσιο. Η βασική παραδοχή των νέων κανόνων είναι ότι η ΤΝ αποτελεί εργαλείο που υπηρετεί τον άνθρωπο και την αυτονομία του. Επίσης, ρυθμίζονται η δημιουργία, η λειτουργία και η διάθεση των συστημάτων ΤΝ, βάσει της δυνητικής επικινδυνότητάς τους για τα ανθρώπινα δικαιώματα, η οποία πρέπει να προκύπτει από ειδική και εμπεριστατωμένη τεκμηρίωση. Για την αποσαφήνιση των ανωτέρω κινδύνων και των διαβαθμίσεών τους εκδόθηκαν από την Ευρωπαϊκή Επιτροπή Κατευθυντήριες Γραμμές. Στο πλαίσιο αυτό διακρίνονται τέσσερα διαφορετικά επίπεδα κινδύνου: α) Ο μη αποδεκτός κίνδυνος, β) ο υψηλός κίνδυνος, π.χ. συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την πρόσληψη ή την απόλυση προσωπικού, με βάση τη συμπεριφορά του ατόμου ή τα προσωπικά του γνωρίσματα ή χαρακτηριστικά, γ) ο περιορισμένος κίνδυνος που αντιμετωπίζεται με καθιέρωση υποχρεώσεων διαφάνειας και δ) ο ελάχιστος κίνδυνος, που αντιμετωπίζεται με κώδικες δεοντολογίας.
Τα συστήματα ΤΝ που εντάσσονται στην κατηγορία μη αποδεκτού κινδύνου απαγορεύονται πλήρως, π.χ. συστήματα που χειραγωγούν απευθυνόμενα στο υποσυνείδητο του προσώπου στρεβλώνοντας τη συμπεριφορά του και ζημιώνοντάς τον ή συστήματα πρόβλεψης της πιθανότητας εκτέλεσης αξιόποινης πράξης από το πρόσωπο βάσει κατάρτισης προφίλ ή συστήματα αναγνώρισης συναισθημάτων στον χώρο εργασίας. Υπάρχουν, όμως, και εξαιρέσεις, ιδίως για λόγους εθνικής ασφάλειας και για στρατιωτικούς σκοπούς επί εφαρμογής ορισμένου τύπου συστημάτων βιομετρικής ταυτοποίησης. Τα συστήματα υψηλού κινδύνου πρέπει να συμμορφώνονται με αυξημένες απαιτήσεις, ανάλογες του κινδύνου, μεταξύ των οποίων η καθιέρωση υποχρέωσης προηγούμενης εκπόνησης μελέτης αντικτύπου από τη χρήση τους, η τήρηση μητρώου καταγραφής της, η υποχρέωση ενημέρωσης του χρήστη για την εφαρμογή συστημάτων ΤΝ που αλληλεπιδρούν μαζί του και η υιοθέτηση μεθόδων μετριασμού του κινδύνου. Επίσης, τα συστήματα ΤΝ υψηλού κινδύνου πρέπει να σχεδιάζονται και να αναπτύσσονται κατά τρόπο που να διασφαλίζει ότι η λειτουργία τους είναι επαρκώς διαφανής, άρα ελέγξιμη. Παραβίαση των διατάξεων της Πράξης συνεπάγεται την επιβολή αυστηρών διοικητικών κυρώσεων.
Αυτές είναι μερικές μόνο από τις νέες ρυθμίσεις για τη θεσμική θωράκιση των ανθρωπίνων δικαιωμάτων από τους αλγοριθμικούς κινδύνους. Η παράθεση και η αξιολόγησή τους, υπερβαίνει, βέβαια, τα όρια του παρόντος και η επάρκειά τους θα κριθεί στο διάστημα που θα ακολουθήσει, ιδίως σε ό,τι αφορά τις εγγενείς δυσκολίες κατάταξης στις ανωτέρω κατηγορίες δυνητικών κινδύνων, αλλά και τη διαρκή τεχνολογική εξέλιξη κάθε αξιολογούμενης πηγής κινδύνου. Ανεξάρτητα από όλα αυτά, θεωρώ ότι, στην παρούσα φάση όπου η ανθρωπότητα ήδη εξαρτάται σε σημαντικό βαθμό από τα συστήματα ΤΝ, και που ο διεθνής ανταγωνισμός γύρω από την ταχύτητα ανάπτυξης της ΤΝ έχει κορυφωθεί, το στοίχημα είναι να διασφαλισθεί στην πράξη, πρωτίστως η ανθρώπινη εποπτεία και, εν συνεχεία, η εφαρμογή της διαφάνειας στη λειτουργία τους, γιατί αυτή αποτελεί το «κλειδί» για τον ουσιαστικό έλεγχο και τη λογοδοσία.
* H φωτογραφία παραχωρήθηκε από την Αθηνά Κοντογιάννη