Από μια δίκη στο Λος Άντζελες, μάλλον αναπάντεχα κι ενώ η επικαιρότητα «τρέχει» αλλού, φαίνεται ότι εγκαινιάζεται, με χαμηλούς τόνους σίγουρα και διόλου θεαματικά, μια καίρια μετατόπιση στο ψηφιακό οικοσύστημα της εποχής.
Η διαδικασία στο Ανώτατο Δικαστήριο της Καλιφόρνια, στην κομητεία του Λος Άντζελες, άρχισε τον περασμένο μήνα.
Το σώμα των ενόρκων, αποτελούμενο από επτά γυναίκες και πέντε άνδρες, χρειάστηκε περισσότερο από μία εβδομάδα συσκέψεων για να καταλήξει στην ετυμηγορία του που ήταν η εξής: Οι εταιρίες Meta και Google, μέσω των πλατφορμών τους, Instagram και YouTube, έβλαψαν μια νεαρή χρήστρια εξαιτίας των χαρακτηριστικών σχεδιασμού των πλατφορμών τους προκαλώντας της εθισμό και οδηγώντας την σε ψυχική διαταραχή. Μεταξύ των «ένοχων» χαρακτηριστικών περιλαμβάνεται το ατελείωτο «σκρολάρισμα» και οι συνεχείς αλγοριθμικές συστάσεις.
Στην ενάγουσα, μια 20χρονη γυναίκα της οποίας έγινε γνωστό μόνο το μικρό όνομα- Kaley- επιδικάστηκε αποζημίωση 6 εκατομμυρίων δολαρίων. Την αγωγή κατέθεσαν η ίδια μαζί με τη μητέρα της. Η Kaley περιέγραψε στο δικαστήριο την εμπειρία της με την ψυχαναγκαστική χρήση των κοινωνικών μέσων ήδη από την παιδική ηλικία της, που όπως είπε, την οδήγησε στο άγχος, την κατάθλιψη και την «σωματική δυσμορφία».
Ισχυρός αντίκτυπος
Προφανώς η πρωτόδικη ετυμηγορία μπορεί να ανατραπεί, ή να «απορροφηθεί» από την ροή των αλλεπάλληλων εφέσεων που αναμένεται να ακολουθήσουν. Ωστόσο, ο αντίκτυπός της είναι δύσκολο να αγνοηθεί. Επρόκειτο για μια δίκη-οδηγό (bellwether case). Μια αντιπροσωπευτική υπόθεση επιλέχθηκε και εκδικάστηκε πρώτη από μια μεγαλύτερη ομάδα παρόμοιων αγωγών. Οι δίκες bellwether λειτουργούν ως δείκτης για την εκδίκαση άλλων παρόμοιων υποθέσεων παρέχοντας το δεδικασμένο που βοηθά στην πρόβλεψη των αποτελεσμάτων, στον καθορισμό των αποζημιώσεων και στην ενθάρρυνση των εξωδικαστικών διακανονισμών. Σημειώνεται ότι χιλιάδες παρόμοιες αγωγές έχουν κατατεθεί από οικογένειες, σχολικές διευθύνσεις και γενικούς εισαγγελείς πολιτειών κατά των τεχνολογικών γιγάντων που διαχειρίζονται τις δημοφιλείς πλατφόρμες κοινωνικής δικτύωσης.
Η απόφαση είναι σημαντική για έναν ακόμη λόγο. Για πρώτη φορά ένα δικαστήριο έκανε δεκτό το νομικό επιχείρημα που αγγίζει τον πυρήνα του επιχειρηματικού μοντέλου της Silicon Valley: Ότι δηλαδή οι βλαπτικές συνέπειες των μέσων κοινωνικής δικτύωσης δεν έγκειται μόνο στο περιεχόμενο που φιλοξενούν αλλά και στην αρχιτεκτονική της προσέλκυσης της προσοχής που έχουν δημιουργήσει. Εν κατακλείδι, έγινε δεκτή η νέα νομική θεωρία σύμφωνα με την οποία οι ιστότοποι ή οι εφαρμογές κοινωνικής δικτύωσης μπορούν να προκαλέσουν σωματικές βλάβες.
Δυνητικά η απόφαση θα μπορούσε να αναδιαμορφώσει όχι μόνο το οικοσύστημα των μέσων κοινωνικής δικτύωσης αλλά και τα νομικά και οικονομικά θεμέλια των σύγχρονων τεχνολογικών γιγάντων.
Ένα βήμα παραπέρα…
Για πολύ καιρό, οι εταιρείες τεχνολογίας στις ΗΠΑ βασίζονταν σε μια ισχυρή νομική ασπίδα. Το άρθρο 230 του Νόμου περί Ευπρέπειας στις Επικοινωνίες το οποίο προστατεύει σε μεγάλο βαθμό τις πλατφόρμες από νομική ευθύνη για το περιεχόμενο που δημιουργείται από χρήστες τους. Για πολλούς ειδικούς, αυτή η άτυπη «ασυλία» βοήθησε στην άνοδο του σύγχρονου Διαδικτύου επιτρέποντας στις εταιρείες των μέσων κοινωνικής δικτύωσης να αναπτυχθούν γρήγορα χωρίς να αντιμετωπίζονται ως παραδοσιακοί εκδότες που έχουν ευθύνη απέναντι στο νόμο για το περιεχόμενο που δημοσιεύουν.
Αλλά η υπόθεση της Kaley στο Λος Άντζελες προχώρησε ένα βήμα παραπέρα. Αντί το κατηγορητήριο να επικεντρωθεί στο επιβλαβές περιεχόμενο, στόχευσε το σχεδιασμό του αλγόριθμου. Η νομική ομάδα της 20χρονης υποστήριξε ότι λειτουργίες των πλατφορμών όπως το ατέρμονο scrolling, τα βίντεο αυτόματης αναπαραγωγής και οι αλγοριθμικές συστάσεις δεν είναι ουδέτερα εργαλεία αλλά «σκόπιμοι μηχανισμοί» που σχεδιάστηκαν για να μεγιστοποιούν την εμπλοκή των χρηστών, ειδικά μεταξύ των νέων. Εσωτερικές μαρτυρίες και ανάλυση ειδικών υπέδειξαν ότι αυτά τα συστήματα βελτιστοποιήθηκαν για να διατηρούν τους χρήστες συνδεδεμένους για όσο το δυνατόν περισσότερο χρόνο ανεξάρτητα από τις όποιες συνέπειες μπορεί να έχει αυτό πνευματικά και ψυχικά.
Αποδεχόμενο αυτό το επιχείρημα, το Ανώτατο Δικαστήριο άνοιξε το δρόμο στο να αντιμετωπιστεί η διάκριση μεταξύ φιλοξενίας περιεχομένου και σχεδιασμού συμπεριφοράς του αλγόριθμου, ως το κρίσιμο στοιχείο σε σχέση με την αντιμετώπιση των χρηστών από τις πλατφόρμες. Στο εξής, οι διαχειριστές θα μπορούν να θεωρηθούν υπεύθυνοι όχι μόνο για το τι δημοσιεύουν οι χρήστες, αλλά και για το πώς οι χρήστες ωθούνται σε αυτές τις δημοσιεύσεις και το πως προσκολλώνται στις πλατφόρμες.
Όπως χαρακτηριστικά δήλωσε στο BBC η δρ. Μαίρη Φρανκς, καθηγήτρια Νομικής στο Πανεπιστήμιο Τζορτζ Ουάσιγκτον, η ετυμηγορία του Ανώτατου Δικαστηρίου της Καλιφόρνια στέλνει μήνυμα πως «η εποχή της ατιμωρησίας έχει τελειώσει».
Δύσκολες επιλογές
Η προσφυγή της 20χρονης Kaley έφερε για άλλη μια φορά στο κέντρο της προσοχής την απλή αλλά άβολη αλήθεια ότι η αλληλεπίδραση αποτελεί την κινητήρια δύναμη των μεγάλων τεχνολογικών εταιρειών. Οι πλατφόρμες φέρνουν έσοδα στους διαχειριστές τους κυρίως μέσω της διαφήμισης. Όσο περισσότερο μένουν οι χρήστες στις πλατφόρμες, τόσο περισσότερα δεδομένα συλλέγονται γι’ αυτούς και τόσο ακριβέστερα γίνεται στη συνέχεια η στόχευση των διαφημίσεων. Η τάση για ατελείωτο scrolling ή οι εξατομικευμένες προτάσεις δεν είναι μια αναπόφευκτη ρουτίνα που δημιουργεί η χρήση, είναι βασικά στοιχεία του συστήματος.
Αν τα δικαστήρια αρχίσουν να αντιμετωπίζουν αυτά τα χαρακτηριστικά σχεδιασμού ως νομικά επικίνδυνα, οι εταιρείες τεχνολογίας ενδέχεται να βρεθούν ενώπιον μιας δύσκολης επιλογής: Ή να επανασχεδιάσουν τα προϊόντα τους ή να τα υπερασπιστούν με τεράστιο κόστος.
Καμία από τις δύο επιλογές δεν είναι εύκολη. Η αφαίρεση των στοιχείων που κρατάνε τους χρήστες στις πλατφόρμες θα μπορούσε να αλλάξει ριζικά τα χαρακτηριστικά τους και τη γενικότερη εμπειρία χρήσης. Χωρίς την αυτόματη αναπαραγωγή, τις αλγοριθμικές ροές ή τη τάση του scrolling, τα μέσα κοινωνικής δικτύωσης μπορεί να γίνουν λιγότερο καθηλωτικά αλλά και λιγότερο κερδοφόρα. Τα ίδια εκείνα χαρακτηριστικά που τα οδήγησαν στην ανάπτυξη θα μπορούσαν τώρα να τα «αποσυνδέσουν» από τη μάζα των χρηστών.
Από την άλλη πλευρά, η διατήρηση του τρέχοντος status quo διακινδυνεύει να οδηγήσει σε μακροχρόνιες και επιζήμιες δικαστικές διαμάχες. Όπως σημείωσε ένας νομικός εμπειρογνώμονας, οι πιθανές ζημιές από χιλιάδες αγωγές που ίσως ασκηθούν στο μέλλον θα μπορούσαν να φτάσουν τις εκατοντάδες δισεκατομμύρια δολάρια, ένα ποσό όχι ευκαταφρόνητο ακόμη και για την ανθούσα Silicon Valley.
Αλλά ίσως η πιο απώτερη επίπτωση της υπόθεσης Kaley βρίσκεται εκτός των μέσων κοινωνικής δικτύωσης. Αν τα δικαστήρια αποδεχθούν ότι οι επιλογές σχεδιασμού των αλγορίθμων μπορούν να υπόκεινται σε νομική ευθύνη, η ίδια λογική θα μπορούσε να επεκταθεί και σε άλλες τεχνολογίες, από τις πλατφόρμες βιντεοπαιχνιδιών ως τα συστήματα Τεχνητής Νοημοσύνης. Οποιοδήποτε προϊόν ή υπηρεσία έχει σχεδιαστεί με τρόπο που επηρεάζει- ή θα μπορούσε να θεωρηθεί ότι επηρεάζει- τη συμπεριφορά του χρήστη του, θα ήταν θεωρητικά «υποψήφιο» για να υποβληθεί σε παρόμοιο έλεγχο. Υπό αυτή την έννοια, η υπόθεση Kaley δεν αφορά μόνο το Instagram ή το YouTube, αφορά το μέλλον της τεχνολογίας της «παρακινητικής πειθούς», λένε οι ειδικοί. Επί δεκαετίες η Silicon Valley πανηγύριζε για την ικανότητά της να προσελκύει με τα επιτεύγματά της την προσοχή του κοινού. Τώρα, αυτή ικανότητά της μπορεί να γίνει η αχίλλειος πτέρνα της.
