Nicholas Wright
Η συζήτηση για τις επιπτώσεις της τεχνητής νοημοσύνης (artificial intelligence, AI) κυριαρχείται από δύο θέματα. Το πρώτο είναι ο φόβος ενός μοναδικού περιστατικού, ένα γεγονός στο οποίο μια τεχνητή νοημοσύνη υπερβαίνει την ανθρώπινη νοημοσύνη και ξεφεύγει από τον ανθρώπινο έλεγχο, με πιθανώς καταστροφικές συνέπειες. Το άλλο είναι η ανησυχία ότι μια νέα βιομηχανική επανάσταση θα επιτρέψει στις μηχανές να διαταράξουν και να αντικαταστήσουν τους ανθρώπους σε κάθε -ή σχεδόν σε κάθε- τομέα της κοινωνίας, από τις μεταφορές έως τον στρατό και μέχρι την υγειονομική περίθαλψη.
Υπάρχει επίσης ένας τρίτος τρόπος με τον οποίο η τεχνητή νοημοσύνη υπόσχεται να αναδιαμορφώσει τον κόσμο. Με το να επιτρέπει στις κυβερνήσεις να παρακολουθούν, να κατανοούν και να ελέγχουν τους πολίτες τους πολύ πιο στενά από ποτέ άλλοτε, η τεχνητή νοημοσύνη θα προσφέρει στις αυταρχικές χώρες μια εύλογη εναλλακτική στη φιλελεύθερη δημοκρατία, την πρώτη μετά το τέλος του Ψυχρού Πολέμου. Αυτό θα πυροδοτήσει έναν ανανεωμένο διεθνή ανταγωνισμό μεταξύ των κοινωνικών συστημάτων.
Για δεκαετίες, οι περισσότεροι πολιτικοί θεωρητικοί πίστευαν ότι η φιλελεύθερη δημοκρατία προσφέρει τον μόνο δρόμο για βιώσιμη οικονομική επιτυχία. Είτε οι κυβερνήσεις θα μπορούσαν να καταστείλουν τους λαούς τους και να παραμείνουν φτωχοί, είτε να τους απελευθερώσουν και να καρπωθούν τα οικονομικά οφέλη. Ορισμένες καταπιεστικές χώρες κατάφεραν να αναπτύξουν τις οικονομίες τους για ένα διάστημα, αλλά μακροπρόθεσμα ο αυταρχισμός σήμαινε πάντα στασιμότητα. Η AI υπόσχεται να ανατρέψει αυτή τη διχοτόμηση. Προσφέρει έναν εύλογο τρόπο στις μεγάλες, οικονομικά προηγμένες χώρες να κάνουν τους πολίτες τους πλούσιους, διατηρώντας παράλληλα τον έλεγχο επ’ αυτών.
Ορισμένες χώρες κινούνται ήδη προς αυτή την κατεύθυνση. Η Κίνα έχει αρχίσει να οικοδομεί ένα ψηφιακό αυταρχικό κράτος χρησιμοποιώντας εργαλεία επιτήρησης και μηχανικής μάθησης για τον έλεγχο των ανήσυχων πληθυσμών και δημιουργώντας αυτό που αποκαλεί «σύστημα κοινωνικής πίστωσης» (social credit system). Αρκετές ομοϊδεάτες χώρες έχουν αρχίσει να αγοράζουν ή να μιμούνται κινεζικά συστήματα. Ακριβώς όπως ο ανταγωνισμός μεταξύ φιλελεύθερων δημοκρατικών, φασιστικών και κομμουνιστικών κοινωνικών συστημάτων καθόρισε μεγάλο μέρος του εικοστού αιώνα, έτσι και ο αγώνας μεταξύ φιλελεύθερης δημοκρατίας και ψηφιακού αυταρχισμού πρόκειται να ορίσει τον εικοστό πρώτο.
Ψηφιακός αυταρχισμός
Οι νέες τεχνολογίες θα επιτρέψουν υψηλά επίπεδα κοινωνικού ελέγχου με λογικό κόστος. Οι κυβερνήσεις θα μπορούν να λογοκρίνουν επιλεκτικά θέματα και συμπεριφορές για να επιτρέπουν την ελεύθερη ροή πληροφοριών για οικονομικά παραγωγικές δραστηριότητες, περιορίζοντας παράλληλα τις πολιτικές συζητήσεις που μπορεί να βλάψουν το καθεστώς. Το λεγόμενο Great Firewall της Κίνας παρέχει μια πρώιμη επίδειξη αυτού του είδους επιλεκτικής λογοκρισίας.
Εκτός από την αναδρομική λογοκρισία της ομιλίας, η τεχνητή νοημοσύνη και τα μεγάλα δεδομένα (big data) θα επιτρέψουν τον προβλεπτικό έλεγχο των πιθανών διαφωνούντων. Αυτό θα μοιάζει με τη στόχευση καταναλωτών της Amazon ή της Google, αλλά θα είναι πολύ πιο αποτελεσματικό, καθώς οι αυταρχικές κυβερνήσεις θα μπορούν να αντλούν δεδομένα με τρόπους που δεν επιτρέπονται στις φιλελεύθερες δημοκρατίες. Η Amazon και η Google έχουν πρόσβαση μόνο σε δεδομένα από ορισμένους λογαριασμούς και συσκευές μια AI σχεδιασμένη για κοινωνικό έλεγχο θα αντλεί δεδομένα από πολλαπλές συσκευές με τις οποίες κάποιος αλληλεπιδρά κατά τη διάρκεια της καθημερινής του ζωής. Και ακόμη πιο σημαντικό, τα αυταρχικά καθεστώτα δεν θα έχουν κανέναν ενδοιασμό να συνδυάσουν τέτοια δεδομένα με πληροφορίες από φορολογικές δηλώσεις, ιατρικά αρχεία, ποινικά μητρώα, κλινικές σεξουαλικής υγείας, τραπεζικούς λογαριασμούς, γενετικές εξετάσεις, φυσικές πληροφορίες (όπως τοποθεσία, βιομετρικά στοιχεία και παρακολούθηση μέσω CCTV με χρήση λογισμικού αναγνώρισης προσώπου) και πληροφορίες που συλλέγονται από την οικογένεια και τους φίλους. Η AI είναι τόσο καλή όσο και τα δεδομένα στα οποία έχει πρόσβαση. Δυστυχώς, η ποσότητα και η ποιότητα των δεδομένων που διατίθενται στις κυβερνήσεις για κάθε πολίτη θα αποδειχθεί εξαιρετική για την εκπαίδευση συστημάτων τεχνητής νοημοσύνης.
Ακόμη και η απλή ύπαρξη αυτού του είδους προγνωστικού ελέγχου θα βοηθήσει τους αυταρχικούς. Η αυτολογοκρισία ήταν ίσως ο πιο σημαντικός πειθαρχικός μηχανισμός της Ανατολικογερμανικής Στάζι. Η AI θα κάνει την τακτική αυτή δραματικά πιο αποτελεσματική. Οι άνθρωποι θα γνωρίζουν ότι η πανταχού παρούσα παρακολούθηση των φυσικών και ψηφιακών δραστηριοτήτων τους θα χρησιμοποιηθεί για την πρόβλεψη ανεπιθύμητης συμπεριφοράς, ακόμη και για ενέργειες που απλώς τις σκέπτονται. Από τεχνική άποψη, τέτοιες προβλέψεις δεν διαφέρουν από τη χρήση συστημάτων τεχνητής νοημοσύνης για υγειονομική περίθαλψη με στόχο την πρόβλεψη ασθενειών σε φαινομενικά υγιείς ανθρώπους πριν εμφανιστούν τα συμπτώματά τους.
Προκειμένου να αποτραπεί το σύστημα από το να κάνει αρνητικές προβλέψεις, πολλοί άνθρωποι θα αρχίσουν να μιμούνται τις συμπεριφορές ενός «υπεύθυνου» μέλους της κοινωνίας. Αυτές μπορεί να είναι τόσο λεπτομερείς όσο το πόσο καιρό τα μάτια κάποιου κοιτάζουν διαφορετικά στοιχεία σε μια οθόνη τηλεφώνου. Αυτό θα βελτιώσει τον κοινωνικό έλεγχο όχι μόνο αναγκάζοντας τους ανθρώπους να ενεργούν με συγκεκριμένους τρόπους, αλλά και αλλάζοντας τον τρόπο που σκέφτονται. Ένα κεντρικό εύρημα στη γνωστική επιστήμη της επιρροής είναι ότι το να κάνεις τους ανθρώπους να εκτελούν συμπεριφορές μπορεί να αλλάξει τη στάση τους [6] και να οδηγήσει σε αυτο-ενισχυόμενες συνήθειες. Το να κάνεις τους ανθρώπους να αναπτύξουν μια θέση τούς κάνει πιο πιθανό να την υποστηρίξουν, μια τεχνική που χρησιμοποιούσαν οι Κινέζοι για τους αιχμαλώτους πολέμου των ΗΠΑ κατά τη διάρκεια του Πολέμου της Κορέας. Οι πωλητές γνωρίζουν ότι το να κάνεις έναν δυνητικό πελάτη να εκτελέσει μικρές συμπεριφορές μπορεί να αλλάξει τη στάση του σε μεταγενέστερα, μεγαλύτερα αιτήματα. Περισσότερα από 60 χρόνια εργασίας στο εργαστήριο και στο πεδίο έχουν δείξει την αξιοσημείωτη ικανότητα των ανθρώπων να εκλογικεύουν τις συμπεριφορές τους.
Εκτός από πιο αποτελεσματικό έλεγχο, η τεχνητή νοημοσύνη υπόσχεται επίσης καλύτερο κεντρικό οικονομικό σχεδιασμό. Όπως υποστηρίζει ο Jack Ma, ο ιδρυτής του κινεζικού τεχνολογικού τιτάνα Alibaba, έχοντας αρκετές πληροφορίες, οι κεντρικές Αρχές μπορούν να κατευθύνουν την οικονομία σχεδιάζοντας και προβλέποντας τις δυνάμεις της αγοράς. Αντί για αργά, άκαμπτα, ενιαία σχέδια για όλους, η τεχνητή νοημοσύνη υπόσχεται γρήγορες και λεπτομερείς απαντήσεις στις ανάγκες των πελατών.
Δεν υπάρχει καμία εγγύηση ότι αυτού του είδους ο ψηφιακός αυταρχισμός θα λειτουργήσει μακροπρόθεσμα, αλλά ίσως να μην το χρειάζεται, αρκεί να είναι ένα εύλογο μοντέλο στο οποίο μπορούν να στοχεύουν ορισμένες χώρες. Αυτό θα είναι αρκετό για να πυροδοτήσει έναν νέο ιδεολογικό ανταγωνισμό. Εάν οι κυβερνήσεις αρχίσουν να βλέπουν τον ψηφιακό αυταρχισμό ως μια βιώσιμη εναλλακτική λύση στη φιλελεύθερη δημοκρατία, δεν θα αισθανθούν πίεση για φιλελευθεροποίηση. Ακόμα κι αν το μοντέλο αποτύχει στο τέλος, οι προσπάθειες εφαρμογής του μπορεί να διαρκέσουν για μεγάλο χρονικό διάστημα. Τα κομμουνιστικά και φασιστικά μοντέλα κατέρρευσαν μόνο αφού απέτυχαν οι ενδελεχείς προσπάθειες εφαρμογής τους στον πραγματικό κόσμο.
Οι ψηφιακοί γίγαντες και οι απειλές
Οι ψηφιακοί γίγαντες βλάπτουν επίσης την ποικιλομορφία των μέσων ενημέρωσης και την υποστήριξη για περιεχόμενο δημόσιου ενδιαφέροντος, καθώς επίσης δημιουργούν και μια Άγρια Δύση στην πολιτική διαφήμιση. Όμως οι προηγούμενες ριζοσπαστικές νέες τεχνολογίες, όπως το ραδιόφωνο και η τηλεόραση, έθεταν παρόμοια προβλήματα και οι κοινωνίες ανταποκρίθηκαν στην πρόκληση. Στο τέλος, η ρύθμιση πιθανότατα θα καλύψει τη διαφορά με τους νέους ορισμούς «media» και «εκδότη» που δημιουργήθηκαν από το Διαδίκτυο. Ο Διευθύνων Σύμβουλος του Facebook, Mark Zuckerberg, αντιστάθηκε στην επισήμανση της πολιτικής διαφήμισης με τον ίδιο τρόπο που απαιτείται για την τηλεόραση, έως ότου η πολιτική πίεση τον ανάγκασε [να υποκύψει] πέρυσι. Οι φιλελεύθερες δημοκρατίες είναι απίθανο να κερδίσουν τον ψηφιακό αυταρχισμό. Πρόσφατες δημοσκοπήσεις υποδηλώνουν ότι ένα μειούμενο ποσοστό στις Δυτικές κοινωνίες θεωρεί τη δημοκρατία ως «ουσιώδη», αλλά αυτό απέχει πολύ από μια πραγματική αποδυνάμωση της Δυτικής δημοκρατίας.
Η εξωτερική αμφισβήτηση από έναν νέο αυταρχικό ανταγωνιστή ίσως να ενισχύσει τις φιλελεύθερες δημοκρατίες. Η ανθρώπινη τάση να πλαισιώνει τον ανταγωνισμό με όρους «εμείς έναντι αυτών» μπορεί να οδηγήσει τις Δυτικές χώρες να καθορίσουν τη στάση τους απέναντι στη λογοκρισία και την παρακολούθηση τουλάχιστον εν μέρει σε αντίθεση με τον νέο ανταγωνισμό. Οι περισσότεροι άνθρωποι βρίσκουν τις πρακτικές λεπτομέρειες της πολιτικής δεδομένων βαρετές και δίνουν λίγη προσοχή στους κινδύνους της παρακολούθησης. Αλλά όταν αυτά τα ζητήματα θεμελιώνουν ένα δυστοπικό καθεστώς στον πραγματικό κόσμο, δεν θα αποδειχθούν ούτε βαρετά ούτε αφηρημένα. Οι κυβερνήσεις και οι εταιρείες τεχνολογίας στις φιλελεύθερες δημοκρατίες θα πρέπει να εξηγήσουν το πώς διαφέρουν.
philenews.com
Ψηφιακός αυταρχισμός vs φιλελεύθερη δημοκρατία - Ορθόδοξος Τύπος (orthodoxostypos.gr)
