Στις 14 Ιουνίου του 2023, το Ευρωπαϊκό κοινοβούλιο ενέκρινε σχέδιο νόμου (το Artificial Intelligence Act - AIA) που μας προϊδεάζει για τον τρόπο που θα κανοναρχείται η τεχνητή νοημοσύνη (ΤΝ). Το ΑΙΑ στοχεύει στη διασφάλιση αφενός των θεμελιωδών δικαιωμάτων των πολιτών και αφετέρου της ηθικής ανάπτυξης της ΤΝ στην Ευρωπαϊκή Ένωση (ΕΕ), ελπίζοντας ότι θα επηρεάσει και τις εξελίξεις πέρα από τα σύνορά της. Η ευρεία πλειοψηφία με την οποία ψηφίστηκε το ΑΙΑ αντικατοπτρίζει τις προειδοποιήσεις μιας μεγάλης μερίδας ερευνητών από διάφορα επιστημονικά πεδία που ζητούν να μπουν δικλείδες ασφάλειας στην εφαρμογή της λεγόμενης ισχυρής ΤΝ.[1] Αν και η τελική μορφή του ΑΙΑ θα προκύψει από συνομιλίες με το Ευρωπαϊκό Συμβούλιο και την Ευρωπαϊκή Επιτροπή, η ψήφισή του αποτελεί αφ’ εαυτού μία «προειδοποίηση» για την ερευνητική κοινότητα της ΤΝ ότι επίκεινται σημαντικές αλλαγές στον τρόπο διακυβέρνησης της έρευνας και, ακόμα περισσότερο, των εφαρμογών της ΤΝ.
Το ΑΙΑ εγείρει όχι λίγες προκλήσεις, κυρίως εξαιτίας της ευρείας διαφοροποίησης των εφαρμογών της ΤΝ που καλείται να κανοναρχήσει, οι οποίες χαρακτηρίζονται από σύνθετες κατηγορίες ρίσκου, καθώς και από τεχνικά πρότυπα που είναι υπό εξέλιξη· με άλλα λόγια, το ΑΙΑ στοχεύει έναν κινούμενο στόχο. Οι επικριτές του ΑΙΑ εγείρουν την «κλασική» ένσταση, δηλαδή ότι η συμμόρφωση στον νόμο θα βάλει εμπόδια στην καινοτομία, ιδιαιτέρως στις νεοφυείς επιχειρήσεις, ενώ οι υποστηρικτές του ΑΙΑ υποστηρίζουν ο νόμος προωθεί και εμβαθύνει μία αξιόπιστη ΤΝ ή οποία θα τροφοδοτήσει την καινοτομία. Συνεπώς, βρισκόμαστε στο καθόλου καινοφανές δίλλημα του ελέγχου την επιστημονικής προόδου και καινοτομίας.
Το ΑΙΑ έχει ιδιαίτερη σημασία για τους ερευνητές που εργάζονται με συστήματα ΤΝ υψηλού κινδύνου σε οργανισμούς, όπως νοσοκομεία και χρηματοπιστωτικά ιδρύματα. Οι προγραμματιστές τέτοιων συστημάτων θα έχουν την ευθύνη για τη χρήση αμερόληπτων δεδομένων εισόδου, έτσι ώστε και οι αποφάσεις των συστημάτων ΤΝ να είναι αναλόγως αμερόληπτες. Για παράδειγμα, μια ομάδα ιατρικών ερευνητών που αναπτύσσει ένα σύστημα ΤΝ στο πλαίσιο της εξατομικευμένης ιατρικής θα πρέπει να διασφαλίζει ότι τα δεδομένα εκπαίδευσης των αλγορίθμων είναι απαλλαγμένα από φυλετικές, κοινωνικές ή θρησκευτικές προκαταλήψεις.
Οι νέοι κανόνες που προβλέπονται από το ΑΙΑ θεσπίζουν υποχρεώσεις για τους σχεδιαστές, παρόχους και χρήστες εφαρμογών ΤΝ που κατηγοριοποιούνται αναλόγως με το επίπεδο ρίσκου που θεωρείται ότι οι εφαρμογές αυτές δημιουργούν, όπως φαίνεται παρακάτω.
Εφαρμογές μη αποδεκτού ρίσκου
Εδώ ανήκουν τα συστήματα ΤΝ που θεωρείται ότι αποτελούν απειλή για τους ανθρώπους και πρέπει να καταργηθούν. Περιλαμβάνουν τις εξής εφαρμογές:
- Χειραγώγησης συμπεριφοράς ανθρώπων εν γένει ή συγκεκριμένων ευάλωτων ομάδων, για παράδειγμα, παιχνίδια με φωνητική ενεργοποίηση που ενθαρρύνουν την επικίνδυνη συμπεριφορά των παιδιών
- Ταξινόμησης ανθρώπων με βάση τη συμπεριφορά, την κοινωνικοοικονομική κατάσταση ή τα προσωπικά χαρακτηριστικά
- Εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο, όπως η αναγνώριση προσώπου.
Ενδέχεται να επιτραπούν ορισμένες εξαιρέσεις, όπως στα συστήματα βιομετρικής αναγνώρισης από απόσταση, τα οποία θα επιτρέπονται για τη δίωξη σοβαρών εγκλημάτων και μόνο κατόπιν έγκρισης από δικαστήριο.
Εφαρμογές υψηλού ρίσκου
Εδώ ανήκουν τα συστήματα ΤΝ που επηρεάζουν αρνητικά την ασφάλεια ή τα θεμελιώδη ανθρώπινα δικαιώματα. Περιλαμβάνουν τις εξής κατηγορίες: (α) Συστήματα ΤΝ που χρησιμοποιούνται σε παιχνίδια, την αεροπορία, τα αυτοκίνητα, τις ιατρικές συσκευές και τους ανελκυστήρες και (β) συστήματα ΤΝ που εμπίπτουν σε οκτώ συγκεκριμένους τομείς, τα οποία θα πρέπει να καταχωρούνται σε μια βάση δεδομένων της ΕΕ:
- Βιομετρική ταυτοποίηση και κατηγοριοποίηση φυσικών προσώπων
- Διαχείριση και λειτουργία κρίσιμων υποδομών
- Εκπαίδευση και επαγγελματική κατάρτιση
- Απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση
- Πρόσβαση σε παρόχους βασικών δημόσιων και ιδιωτικών υπηρεσιών
- Επιβολή του νόμου
- Διαχείριση της μετανάστευσης, πολιτικού ασύλου και συνοριακών ελέγχων
- Βοήθεια στην ερμηνεία και εφαρμογή του νόμου.
Όλα τα συστήματα ΤΝ υψηλού κινδύνου θα αξιολογούνται πριν από τη διάθεσή τους στην αγορά, καθώς και καθ' όλη τη διάρκεια του κύκλου ζωής τους.
Εφαρμογές γενεσιουργού (generative) TN
Η γενεσιουργός ΤΝ, όπως το ChatGPT (ΠΡΙΣΜΑ, Τεύχος 149, σελ. 7), θα πρέπει να συμμορφώνεται με τις ακόλουθες απαιτήσεις:
- Αποκάλυψη ότι το περιεχόμενο δημιουργήθηκε από σύστημα ΤΝ
- Διασφάλιση ότι αποτρέπεται η παραγωγή παράνομου υλικού
- Δημοσίευση των δεδομένων που χρησιμοποιήθηκαν από το σύστημα ΤΝ, στην περίπτωση που αυτά αποτελούν πνευματική ιδιοκτησία τρίτων.
Εφαρμογές περιορισμένου ρίσκου
Τα συστήματα αυτά θα πρέπει να συμμορφώνονται με τις ελάχιστες απαιτήσεις διαφάνειας που θα επιτρέπουν στους χρήστες να λαμβάνουν τεκμηριωμένες αποφάσεις, δίνοντας την δυνατότητα στον χρήστη να αποφασίσει εάν επιθυμεί να συνεχίσει να τις χρησιμοποιεί και, φυσικά, την πληροφορία του πότε αλληλεπιδρούν με το σύστημα ΤΝ. Αυτό περιλαμβάνει εφαρμογές που παράγουν ή επεξεργάζονται στατικές και κινούμενες εικόνες, όπως οι εφαρμογές deepfakes.[2]
Οι επιπτώσεις του AIA αναμένεται να είναι ανάλογες με εκείνες του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR)· υπάρχει περίπτωση, δηλαδή, να αναδιαμορφώσουν τις ερευνητικές πρακτικές και εφαρμογές της ΤΝ σε διεθνές επίπεδο. Επίσης, είναι ένα κάλεσμα αφύπνισης προς στην επιστημονική και τεχνολογική κοινότητα, υπογραμμίζοντας τη σημασία της ενσωμάτωσης μιας ηθικής και υπεύθυνης ΤΝ στο βασικό πρόγραμμα σπουδών των σχετικών πανεπιστημιακών τμημάτων.
Όπως κάθε νέα τεχνολογία, έτσι και η ΤΝ, δεν έρχεται ούτε για να καλυτερέψει ούτε για να επιδεινώσει την ζωή των κοινωνιών. Ο αντίκτυπός της θα εξαρτηθεί από τις πολιτικές αποφάσεις που θα ληφθούν στη διαδικασία μετατροπής της σε ένα ευρέως χρησιμοποιούμενο προϊόν. Συνεπώς, ας μην έχουμε το νου μας μόνο στους καινούριους επιστημολογικής και τεχνολογικής φύσης, αλλά και στους παμπάλαιους πολιτικής φύσης προβληματισμούς.
Παναγιώτης Κάβουρας
[1] Είναι εκείνες οι εφαρμογές ΤΝ που εξομοιώνουν ή προσομοιώνουν την ανθρώπινη ευφυΐα. Ο όρος ισχυρή ΤΝ χρησιμοποιείται για να αποδώσει την διαφορά της από συστήματα ΤΝ που επιλύουν ρεαλιστικά υπολογιστικά προβλήματα οποιουδήποτε τύπου, τα οποία περιγράφονται από τον όρο ασθενής ΤΝ.
[2] Οι εφαρμογές deepfakes χρησιμοποιούν τεχνικές Μηχανικής Μάθησης και ΤΝ, για να αλλοιώσουν ή να δημιουργήσουν κινούμενες ή στατικές εικόνες που έχουν την ικανότητα να εξαπατούν εξαιτίας της υψηλής ποιότητας του παραγόμενων εικόνων.
