Ακολουθήστε την «ΑΥΓΗ»
Ο επιλεγμένος κατάλογος δεν υπάρχει πλέον.

Νόρμαν: Η "ψυχοπαθής" διάσταση της τεχνητής νοημοσύνης

Είναι ο Νόρμαν, ο πρώτος "ψυχοπαθής" αλγόριθμος τεχνητής νοημοσύνης στον κόσμο. Πήρε τ’ όνομά του από έναν "ομότιμό" του, τον Νόρμαν Μπέιτς δολοφόνο στην εμβληματική ταινία του Χίτσκοκ "Ψυχώ".

Όχι, ο μηχανικός Νόρμαν δεν είναι κι αυτός ήρωας σε κάποιο χολιγουντιανό θρίλερ επιστημονικής - μελλοντολογικής φαντασίας. Είναι το πρώτο "δείγμα" ψυχοπαθούς τεχνητής νοημοσύνης που ανέπτυξαν Αμερικανοί ερευνητές του Τεχνολογικού Ινστιτούτου της Μασαχουσέτης με σκοπό να μας δείξουν με απλό και κατανοητό τρόπο το πώς δημιουργούνται οι αλγόριθμοι μηχανικής μάθησης, αλλά και να μας προϊδεάσουν για τους κινδύνους που εγκυμονούν οι όποιες "παρεκτροπές" τους.

Ο Νόρμαν είναι μια περιπτωσιολογική μελέτη για τις συνέπειες της κακόβουλης χρήσης της τεχνητής νοημοσύνης, όταν δηλαδή "προκατειλημμένα" δεδομένα χρησιμοποιούνται για την ανάπτυξη αλγορίθμων μηχανικής μάθησης. Οι τρεις δημιουργοί του, οι Πινάρ Γιαναρντάγκ, Μανουέλ Σέμπριαν και Ιγιάντ Ραουάν, προειδοποιούν: "Τα δεδομένα που χρησιμοποιείς για να διδάξεις έναν αλγόριθμο μηχανικής μάθησης μπορούν να επηρεάσουν καθοριστικά τη συμπεριφορά του". "Έτσι, όταν μιλάμε για αλγορίθμους ΤΝ, που είναι προκατειλημμένοι ή άδικοι, ο ένοχος συχνά δεν είναι ο ίδιος ο αλγόριθμος, αλλά τα προκατειλημμένα δεδομένα που χρησιμοποιήθηκαν για την εκπαίδευσή του" σημειώνουν οι ερευνητές.

Τεχνο-ψυχοπάθεια

Ο Norman "τράφηκε" μόνον με σύντομες περιγραφές εικόνων "ανθρώπων που πεθαίνουν", οι οποίες αντλήθηκαν από τη διαδικτυακή πλατφόρμα Reddit. Ως γνωστόν, η αλματώδης πρόοδος της ΤΝ τα τελευταία χρόνια έχει τις βάσεις της στην ανάπτυξη αλγορίθμων μηχανικής μάθησης που τροφοδοτούνται από τα αχανή αποθέματα δεδομένων του Διαδικτύου. Εν κατακλείδι η ΤΝ χρωστά την εξέλιξή της στο Διαδίκτυο.

Στη συνέχεια οι ερευνητές "έδειξαν" στον Νόρμαν εικόνες κηλίδων μελανιού όπως γίνεται στο γνωστό ψυχολογικό τέστ Rorschach, ώστε να προσδιορίσουν τι "είδε" ο "εγκέφαλός" του και να συγκρίνουν τις απαντήσεις του με εκείνες των "παραδοσιακά" εκπαιδευμένων αλγορίθμων ΤΝ.

Τα αποτελέσματα ήταν τουλάχιστον τρομακτικά: Εκεί που η "φυσιολογική" ΤΝ έβλεπε "δύο άτομα να στέκονται το ένα δίπλα στο άλλο", ο Νόρμαν είδε "έναν άνθρωπο να πηδά στο κενό από ένα ανοιχτό παράθυρο"! Και όταν ο Νόρμαν διέκρινε "έναν άνδρα που πυροβολήθηκε και δολοφονήθηκε από τη γυναίκα του που ούρλιαζε", ο "νορμάλ" αλγόριθμος ΤΝ είδε απλά "έναν άνθρωπο που κρατάει μιαν ομπρέλα"...

Στον ιστότοπο norman-ai.mit.edu υπάρχουν δέκα παραδείγματα κηλίδων μελανιού που συνοδεύονται από απαντήσεις και από τα δύο συστήματα, με τον Νόρμαν να επιφυλάσσει πάντα τη μακάβρια απάντηση. Ο ιστότοπος επιτρέπει στους χρήστες να "δείξουν" στον Norman τις δικές τους κηλίδες μελανιού και να συγκρίνουν τις απαντήσεις του ώστε "να τον βοηθήσουν να διορθωθεί".

Παλαιότερη παρόμοια έρευνα από το Πανεπιστήμιο του Μπαθ στην Βρετανία είχε καταλήξει στο συμπέρασμα ότι η ΤΝ έχει τη δυνατότητα να ενισχύει τις υπάρχουσες κοινωνικές ή φυλετικές προκαταλήψεις επειδή, αντίθετα με τους ανθρώπους, οι αλγόριθμοι δεν "μπορούν" να αντιδράσουν συνειδητά στις μεροληψίες τις οποίες μαθαίνουν.

Οι επιστήμονες έχουν ήδη προειδοποιήσει ότι το φάσμα των προκαταλήψεων μπορεί να διευρυνθεί με νέους και απρόβλεπτους τρόπους καθώς ένας αυξανόμενος αριθμός αποφάσεων που επηρεάζουν την καθημερινότητά μας θα εκχωρείται μελλοντικά στα ρομπότ. Κι αν, όπως διατείνονται ορισμένοι, το επόμενο βήμα για την τεχνολογία θα περιλαμβάνει μηχανές με ανθρώπινες ικανότητες, όπως αντίληψη και κοινή λογική, τότε τα πράγματα μπορεί στ’ αλήθεια να γίνουν δυσοίωνα και απρόβλεπτα.

Προκαταλήψεις

Είναι γνωστό ότι συστήματα ΤΝ "εμφανίζουν" προκαταλήψεις φύλου και φυλής καθώς μαζί με τη γνωστική πληροφορία οι αλγόριθμοι μηχανικής μάθησης τείνουν να συλλέγουν στερεότυπα και προκαταλήψεις για το "διαφορετικό" ή το "αντίθετο", τα οποία έχουν περάσει και "ενσωματωθεί" στο καθημερινό λεξιλόγιο.

Οι σχετικές έρευνες έχουν επίσης δείξει ότι μύχιες προκαταλήψεις που αποτελούν κοινό εύρημα των ψυχολογικών τεστ υιοθετούνται εύκολα από τους αλγόριθμους μηχανικής μάθησης. Για παράδειγμα οι λέξεις "θηλυκό" και "γυναίκα" συνδέονται στενότερα με τις τέχνες, τις ανθρωπιστικές επιστήμες και το σπίτι, ενώ αντίθετα οι έννοιες "αρσενικό" και "άνδρας" βρίσκονται πιο κοντά στα μαθηματικά και τα επαγγέλματα που σχετίζονται με τις μηχανές.

Συστήματα ΤΝ είναι επίσης πιο πιθανό να συσχετίσουν αμερικανο-ευρωπαϊκά ονόματα με ευχάριστες λέξεις όπως "δώρο" και "ευτυχισμένος", ενώ τα αφροαμερικανικά συνδέονται συχνότερα με δυσάρεστες λέξεις. Τα συγκεκριμένα ευρήματα δείχνουν πως οι αλγόριθμοι μηχανικής μάθησης έχουν αποκτήσει τις ίδιες ανθρώπινες μεροληψίες που τείνουν να συνδέουν τις ευχάριστες λέξεις με τη λευκή φυλή!

Σημειώνεται ότι η κυβέρνηση του πρώην Προέδρου Μπάρακ Ομπάμα είχε δημοσιοποιήσει το 2016 λεπτομερή έκθεση της για τις συνέπειες της ΤΝ σε όλο το φάσμα των ανθρώπινων δραστηριοτήτων καλώντας κολέγια και πανεπιστήμια να καταστήσουν τους κανόνες ηθικής δεοντολογίας μέρος των προγραμμάτων σπουδών για την τεχνητή νοημοσύνη και την πληροφορική.

Στο ίδιο μήκος κύματος το Πανεπιστήμιο του Στάνφορντ είχε προτείνει τη σύνταξη έκθεσης για τις κοινωνικές επιπτώσεις της ΤΝ κάθε πέντε χρόνια έως το τέλος του αιώνα. Στη σχετική αναφορά του με τίτλο "Τεχνητή νοημοσύνη και ζωή το 2030" οι ερευνητές υποστηρίζουν ότι θα είναι αδύνατον να υπάρξει ένα ρυθμιστικό πλαίσιο για την ΤΝ καθώς δεν υπάρχει σαφής ορισμός της και οι κίνδυνοι που συνεπάγεται η χρήση της είναι πολύ διαφορετικοί για κάθε τομέα.

 

Δείτε όλα τα σχόλια

Κύριο άρθρο

Η πρωτοβουλία στα χέρια της κυβέρνησης

Η κυβέρνηση, που για τρεισήμισι χρόνια πορεύτηκε με δεμένα τα χέρια, τώρα έχει έναν καθαρό δρόμο μπροστά της. Η προώθηση ώριμων προοδευτικών μεταρρυθμίσεων και ένα σχέδιο εξωστρεφούς δράσης θα ενισχύουν ακόμα περισσότερο τη δυναμική της.

Δειτε ολοκληρο το αρθρο