Η Κυριακή Γονή, βραβευμένη εικαστικός, μιλά στο Πρίσμα για το έργο της “Not allowed for algorithmic audiences”, το οποίο δημιούργησε ως φιλοξενούμενη καλλιτέχνης στο ArtScience Residency Program, με την υποστήριξη της Art Collection Deutsche Telekom και σε συνεργασία με το Πανεπιστήμιο Johannes Kepler στο Linz της Αυστρίας. Το έργο, εκτυλίσσεται στη διάρκεια μια πολύ ζεστής εβδομάδας του Αυγούστου στην Αθήνα, κάποια στιγμή στο κοντινό μέλλον. Ένας πλασματικός ψηφιακός βοηθός που ακούει στο όνομα “Voice”, παρουσιάζει μια αλλόκοτη συμπεριφορά: δανείζεται ένα avatar στο Διαδίκτυο, εμφανίζεται μπροστά στους χρήστες του, συστήνεται και μιλά για τον εαυτό του. Για επτά συνεχόμενες ημέρες μονολογεί αναλύοντας πληροφορίες, τις οποίες έχει συλλέξει κατά τη διάρκεια της λειτουργίας του. Την τελευταία μέρα μοιράζεται μια σειρά από συμβουλές για το “πώς να μην ακούγεται κάποιος από τους αλγόριθμους”.
Πώς προέκυψε η ιδέα για το έργο;
Βρίσκω άκρως ενδιαφέρουσες τις εξελίξεις στις ψηφιακές τεχνολογίες και για αυτό τις παρακολουθώ στενά. Οι ψηφιακοί βοηθοί προβλέπεται το 2024 να φτάνουν τους 8.4 δις. Ανακύπτουν ευλόγως κάποια ερωτήματα: Ποιος χρησιμοποιεί αυτά τα συστήματα; Τι επιπτώσεις έχουν στο περιβάλλον, στην εργασία και στην επιτήρηση; Η Dr. Mara, διευθύντρια του εργαστηρίου ρομποτικής ψυχολογίας στο πανεπιστήμιο του Linz, ανέφερε την έρευνα τους για τη βελτιστοποίηση της αλληλεπίδρασης ψηφιακών βοηθών και ανθρώπων σε επιχειρηματικό πλαίσιο.
Η συζήτησή μας με παρακίνησε να ερευνήσω περαιτέρω τα φωνητικά συστήματα. Ήδη σε ένα προηγούμενο έργο, το EternalU (2017) είχα προσεγγίσει το θέμα των ψηφιακών βοηθών, τότε όμως δεν είχα εστιάσει τόσο στην ίδια τη φωνή, όσο στις υπηρεσίες που προσφέρουν. Το Not allowed for algorithmic audiences παρουσιάζεται ως τις 21 Μαΐου ως ατομική έκθεση στο Kunstverein Ost στο Βερολίνο, σε επιμέλεια της Nathalie Hoyos και του Rainald Schumacher. Μέρος του έργου EternalU παρουσιάζεται στην έκθεση Paradoxical e-Traditions σε επιμέλεια της Γεωργίας Λιάπη, στο χώρο P.E.T. στην Αθήνα μέχρι τις 25 Μαΐου.
Στο έργο πρωταγωνιστεί ένας φωνητικός βοηθός. Πώς προέκυψε το πρόσωπο αλλά και τα υπόλοιπα χαρακτηριστικά του βοηθού, όπως η φωνή και η προφορά;
Είναι κάπως οξύμωρο να «βλέπουμε» έναν φωνητικό βοηθό, σωστά; Στην αρχή του μονολόγου ο φωνητικός βοηθός ανακοινώνει, ότι επέλεξε να παρουσιαστεί με ένα ανθρώπινο πρόσωπο, δανεισμένο από το διαδίκτυο, προκειμένου να απευθυνθεί σε μια κοινωνία, όπου κυριαρχεί η αίσθηση της όρασης. Το πρόσωπο δημιουργήθηκε με την πολύ καλή ομάδα του Κωνσταντίνου Λιανού και του Κρις Ιωάννου, και με μοντέλο την εξαιρετική ηθοποιό Σοφία Κόκκαλη, η οποία του δανείζει και τη φωνή της. Πολύ συνειδητά δουλέψαμε με τη Σοφία, ώστε να μην μπορεί να προσδιορίσει κανείς το φύλο ή το αν πρόκειται για άνθρωπο ή μηχανή. Αυτό με ενδιέφερε για δύο λόγους. Σχετικά με το φύλο, οι ψηφιακοί βοηθοί συνήθως χρησιμοποιούνται με θηλυκή φωνή- ανέκαθεν οι θέσεις παροχής υποστήριξης, φροντίδας, βοήθειας υπήρξαν γυναικείες -και προγραμματίζονται να παρουσιάζουν υποτακτική συμπεριφορά, με πιο χαρακτηριστική ίσως τη γνωστή απάντηση της Alexa σε σεξιστικά σχόλια.
Μελέτη της UNESCO αναφέρει, ότι το γεγονός αυτό ενθαρρύνει τις σεξιστικές συμπεριφορές. Από την άλλη, οι ψηφιακές φωνές τείνουν να μοιάζουν ολοένα και πιο ανθρώπινες, ας θυμηθούμε την παρουσίαση του φωνητικού βοηθού της Google το 2018, που με δυσκολία καταλάβαινε κανείς ότι πρόκειται για μηχανή. Τι σημαίνει αυτό για την επικοινωνία μας και την αλληλεπίδρασή μας με τις συσκευές αυτές; Η επιλογή της γλώσσας από την άλλη, με τα “αμερικάνικα” αγγλικά, καθώς και η ξένη (ελληνική) προφορά και η τοποθέτηση του ψηφιακού βοηθού σε ένα αθηναϊκό διαμέρισμα, επίσης έχουν τη σημασία τους. Η γλώσσα και η προφορά στην επικοινωνία με τους ψηφιακούς βοηθούς, που ανήκουν στους γνωστούς μονοπωλιακούς τεχνολογικούς κολοσσούς, συνεχίζει να αποκλείει μεγάλα κομμάτια του παγκόσμιου πληθυσμού, διαιωνίζοντας ταξικές διαφορές και ανισότητες. Είναι γεγονός ότι οι εταιρείες προσθέτουν ολοένα και περισσότερες γλώσσες, από την άλλη υπάρχουν και ανεξάρτητες πρωτοβουλίες που αναπτύσσουν μη-δυαδικούς ομιλητές, όπως η EqualAI με την φωνή Q.
Εκτός από τα ζητήματα επικοινωνίας ανθρώπου υπολογιστή μέσα στο έργο αγγίζετε και ζητήματα όπως η κλιματική κρίση. Ποια άλλα ζητήματα συνδέονται με αυτή;
Ναι, όπως και σε προηγούμενα έργα, υπογραμμίζω την υλική υπόσταση της τεχνολογίας, το αποτύπωμά της, καθώς και τις σχέσεις εκμετάλλευσης που εντείνει. Η εξόρυξη σπάνιων ορυκτών για την κατασκευή ηλεκτρονικών συσκευών και το γεωπολιτικό διακύβευμα αυτής, η κρυφή εργασία και εκμετάλλευση της περιφέρειας, καθώς και οι ηλεκτρονικοί σκουπιδότοποι σε υποανάπτυκτες οικονομίες, είναι κάποιες από τις πλευρές αυτής της υλικής υπόστασης.
Το έργο επιτρέπει στους θεατές να έρθουν σε επαφή με ζητήματα που άπτονται του ρόλου των έξυπνων συστημάτων στη ζωή μας και να στοχαστούν σχετικά. Θεωρείτε απαραίτητη αυτή την στοχαστική διάθεση των πολιτών για ζητήματα τεχνητής νοημοσύνης (ΤΝ);
Θεωρώ απαραίτητη τη συζήτηση και τον στοχασμό πάνω στα ζητήματα της τεχνητής νοημοσύνης, αλλά και της τεχνολογίας γενικότερα. Η ΤΝ έχει εισχωρήσει σε όλους τους τομείς της ζωής μας, με πολλά θετικά αλλά και με αρνητικά αποτελέσματα.
Οι διεργασίες της ΤΝ θα παραμένουν αδιαφανείς, σαν μαύρο κουτί για την πλειοψηφία, συνδέονται όμως άρρηκτα με την εξουσία, την οικονομία, την πολιτική. Υπάρχει για παράδειγμα η τάση στην ΤΝ, το είδαμε πολύ έντονα στην περίπτωση των φωνητικών συστημάτων, να επανέρχονται στερεότυπα και διακρίσεις ενός κοντινού παρελθόντος. Όσο πιο ενήμεροι είμαστε, τόσο πιο συγκεκριμένες θα είναι οι πολιτικές και κοινωνικές διεκδικήσεις που θα διατυπώνουμε, οι οποίες εντέλει θα συντελέσουν στη διαμόρφωση ενός ρυθμιστικού πλαισίου για τις τεχνολογίες αυτές, που θα προστατεύει και θα ωφελεί εξίσου όλους τους πολίτες, σε ολόκληρο τον κόσμο. Η τέχνη θεωρώ ότι προσφέρει ένα πρώτο πεδίο στοχασμού.
* Η Κυριακή Γονή είναι απόφοιτη της Ανωτάτης Σχολής Καλών Τεχνών, του Leiden University, αλλά και του Παντείου Πανεπιστημίου, με σπουδές στην κοινωνική ανθρωπολογία και την τέχνη. Περισσότερες πληροφορίες για το έργο της μπορείτε να βρείτε στην ιστοσελίδα της: https://kyriakigoni.com
