Ζούμε σε μια εποχή κυριαρχίας των Big Tech, η οποία περιγράφεται από την Shoshana Zuboff ως «καπιταλισμός της επιτήρησης». Πολλά πρέπει να αλλάξουν ώστε ο ψηφιακός κόσμος να σέβεται τα δικαιώματα των πολιτών, αντί να τροφοδοτεί μόνο τη συνεχώς διευρυνόμενη απληστία .
Η Ευρωπαϊκή Ένωση – όπως και άλλες ρυθμιστικές αρχές σε όλο τον κόσμο – προσπαθούν να αλλάξουν το status quo προτείνοντας μια σειρά νέων νόμων και κανόνων. Αυτές οι προσπάθειες, αφενός, προσπαθούν να μεταρρυθμίσουν τον τρόπο με τον οποίο οι διαδικτυακές πλατφόρμες μπορούν να λογοδοτούν για τις ενέργειές τους (η Digital Services Act) και, αφετέρου, να επιβάλλουν αυστηρότερους κανόνες σε πλατφόρμες που καταχρώνται τη θέση τους ως ψηφιακοί θυρωροί για να αποφύγουν τον ανταγωνισμό ( Νόμος για τις ψηφιακές αγορές).
Αυτοί οι κανόνες, το DSA και το DMA, θα είναι αρκετοί για να περιορίσουν την κυριαρχία των Big Tech;
Μια χούφτα εταιρείες
Καθώς στηριζόμαστε στην τεχνολογία για να ζήσουμε, να εργαστούμε, να σπουδάσουμε ή να εξασφαλίσουμε βασικές υπηρεσίες, η δύναμη μιας χούφτας εταιρειών αυξάνεται συνεχώς. Ενώ το Facebook μεσολαβεί στην κοινωνική ζωή και τα προσωπικά μηνύματα περισσότερων από τριών δισεκατομμυρίων ανθρώπων, η Google έχει αναλάβει τον έλεγχο των κινητών συσκευών, των εισερχομένων email και των ερωτημάτων αναζήτησης. Οι εταιρείες παράδοσης χρησιμοποιούν πλέον αλγόριθμους για να στέλνουν παραγγελίες στους οδηγούς τους-ή να τους απολύουν αυτόματα εάν η τεχνητή νοημοσύνη διαπιστώσει ότι υπολειτουργούν-και η Amazon όχι μόνο πουλά βιβλία, αλλά και συγκεντρώνει το μεγαλύτερο μέρος της παγκόσμιας ικανότητας υπολογιστικού νέφους.
Όταν η πανδημία χτύπησε, οι Big Tech ήταν έτοιμες να «βοηθήσουν» στην προετοιμασία εφαρμογών εντοπισμού Covid-19 και η Google προσπάθησε να κυριαρχήσει σε ακόμη περισσότερα δημόσια σχολικά συστήματα-όλα αυτά «δωρεάν». Ορισμένες εταιρείες, όπως η Amazon, είναι τόσο ισχυρές που δεν είναι μόνο μονοπώλια αλλά ασκούν «ψηφιακή φεουδαρχία»: όλοι και όλα ανήκουν ή εξαρτώνται από τον ίδιο κυρίαρχο τεχνολογίας.
Το επιχειρηματικό μοντέλο της επιτήρησης των κυρίαρχων εταιρειών τεχνολογίας βασίζεται στην εξαγωγή όσο το δυνατόν περισσότερων προσωπικών πληροφοριών και προφίλ για τη στόχευση ατόμων, εντός και εκτός σύνδεσης. Με την πάροδο του χρόνου, οι εταιρείες Big Tech δημιουργούν μια τρομακτικά λεπτομερή εικόνα για δισεκατομμύρια άτομα – και αυτή η γνώση μεταφράζεται άμεσα σε ισχύ.
Εξαγωγή προσωπικών δεδομένων
Αυτό επιτρέπει στις πλατφόρμες να διασφαλίζουν ότι οι χρήστες παραμένουν συνδεδεμένοι. Όσο περισσότερο τα μάτια είναι κολλημένα στην οθόνη, τόσο πιο εξατομικευμένες διαφημίσεις μπορούν να εμφανιστούν και τόσο περισσότερα προσωπικά δεδομένα μπορούν να εξαχθούν (και να συσσωρεύονται περισσότερα κέρδη).
Οι πλατφόρμες ονομάζουν αυτό «δέσμευση», αλλά στην πραγματικότητα, οι θεατές καταναλώνουν περισσότερες διαφημίσεις. Εταιρείες όπως το Facebook έχουν κίνητρο να διατηρούν κάποιες ανταγωνιστικές ομάδες χρηστών «εμπλεκόμενες». για να πολώνουν την κοινωνία με παραπληροφόρηση και άλλο περιεχόμενο που υπονομεύει τη δημοκρατία.
Αυτό συνοδεύεται από το κλείδωμα: ένα άτομο μπορεί να έχει εγγραφεί στο Facebook από ενδιαφέρον, αλλά αν φύγει θα χάσει όλες τις επαφές του εκεί. «Πρέπει να είμαι σε αυτήν την πλατφόρμα γιατί όλοι οι άλλοι είναι» είναι για τους οικονομολόγους ένα «network effect» – ένας ισχυρός μοχλός για μεγάλες πλατφόρμες για να εδραιώσουν την κυριαρχία τους.
Φτάσαμε σε αυτό το σημείο λόγω του νεοφιλελεύθερου κύματος που οδήγησε τους πολιτικούς και στις δύο πλευρές του Ατλαντικού να αποφασίσουν να μην ρυθμίσουν τις εταιρείες διαδικτύου – εταιρείες που σε ορισμένες περιπτώσεις ξεκίνησαν και αναπτύχθηκαν με σημαντική δημόσια χρηματοδότηση . Όμως, το ρεύμα έχει αλλάξει τελικά, καθώς πολίτες, μη κυβερνητικές οργανώσεις, ακαδημαϊκοί, διεθνείς οργανισμοί και φορείς χάραξης πολιτικής έχουν δει τις αδιαμφισβήτητες επιπτώσεις των μη ρυθμιζόμενων ιδιωτικών εταιρειών στα ανθρώπινα δικαιώματα και γίνονται όλο και πιο ενεργοί σε στο ζήτημα. Ακόμη και οι εθνικές και διεθνείς διοικήσεις – ειδικά η ΕΕ – βλέπουν ότι πρέπει να σταματήσει αυτή η τρέλα.
Τρεις λύσεις
Το European Digital Rights (EDRi) προτείνει τρεις τύπους λύσεων, οι οποίες θα βελτιώσουν δραστικά το περιβάλλον της ψηφιακής πλατφόρμας προς όφελος όλων.
Καθιέρωση ισχυρής ρύθμισης και εφαρμογής για τη σταδιακή κατάργηση του επιχειρηματικού μοντέλου που βασίζεται στην παρακολούθηση : από τον συνασπισμό Tracking Free Ads στο Ευρωπαϊκό Κοινοβούλιο και τις διαφημίσεις Stop Stalker έως την παγκόσμια Ban Surveillance Advertising και τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων , υπάρχει μια ευρεία κατανόηση που στοχεύει στο διαδίκτυο η διαφήμιση πρέπει να προστατεύει την ιδιωτική ζωή και να είναι ανθρωποκεντρική. Δεν πρέπει να επιτρέπει στις εταιρείες τεχνολογίας να χειραγωγούν τη δημόσια συζήτηση – ή να επιτρέπουν σε άλλους να το κάνουν. Ο στόχος είναι να αντιμετωπιστούν οι συστημικές πηγές ενός επιχειρηματικού μοντέλου που προωθεί την κυκλοφορία επιβλαβούς και πολωτικού περιεχομένου και παραπληροφόρησης.
1. Προεπιλεγμένη προστασία από τη δημιουργία προφίλ
Σήμερα αναλύεται τεράστιος όγκος δεδομένων που αφήνουν οι χρήστες κατά την πλοήγησή τους στις διαφορετικές υπηρεσίες διαδικτυακών πλατφορμών και ιστότοπων που ενσωματώνουν τους ιχνηλάτες τους προκειμένου να καταλήξουν σε προβλέψεις σχετικά με τα χαρακτηριστικά που οι χρήστες δεν έχουν αποκαλύψει ρητά (λεγόμενα συμπερασματικά δεδομένα). Αυτά τα χαρακτηριστικά μπορεί να είναι εξαιρετικά προσωπικά και ευαίσθητα, π.χ. μπορεί να σχετίζονται με τη σωματική και ψυχική υγεία των χρηστών, τους εθισμούς, τους παράγοντες άγχους ή φόβου, την οικονομική κατάσταση, σημαντικά γεγονότα στη ζωή (εγκυμοσύνη, διαζύγιο), φυλές ή πολιτικές τάσεις.
Η απαγόρευση της χρήσης ευαίσθητων δεδομένων ή άλλων προστατευόμενων χαρακτηριστικών φαίνεται να είναι μια απλή λύση. Αλλά θα είναι αναποτελεσματικό, επειδή ο τρόπος με τον οποίο λειτουργούν οι αλγόριθμοι μηχανικής μάθησης τους επιτρέπει να βρίσκουν τα λεγόμενα δεδομένα διακομιστή μεσολάβησης: δεδομένα που σχετίζονται στενά με ευαίσθητα χαρακτηριστικά. Για παράδειγμα, ο αριθμός των ωρών που περνούν καθημερινά σε μια πλατφόρμα μπορεί να αποτελεί αναγνωριστικό για την ηλικία ή την κατάσταση απασχόλησης και το σύνολο των σελίδων που μου αρέσουν μπορεί να είναι αναγνωριστικό για το φύλο, τον σεξουαλικό προσανατολισμό ή την πολιτική γνώμη. Ένας αλγόριθμος μπορεί να αναγνωρίζει τα άτομα ως παρόμοια και να τα αντιμετωπίζει ως τέτοια, χωρίς να τα χαρακτηρίζει ως «αρσενικά» και «θηλυκά» ή «φιλελεύθερα» και «συντηρητικά». Ακόμα κι αν εντοπίσουμε γνωστά αναγνωριστικά και τα απαγορεύσουμε, ο αλγόριθμος θα βρει σύντομα νέους συσχετισμούς: Το Markup έδειξε ότι ακόμη και αν αφαιρεθούν αμφιλεγόμενες κατηγορίες, οι αλγόριθμοι του Facebook βρίσκουν γρήγορα νέα αναγνωριστικά (ή συσχετισμούς) που φέρνουν το ίδιο αποτέλεσμα, π.χ. στοχεύουν άτομα με βάση τη φυλή χωρίς ποτέ να προσδιορίσουν μια συγκεκριμένη πληροφορία (π.χ. ταχυδρομικός κώδικας) που συσχετίζεται με αυτό το χαρακτηριστικό. Αυτό είναι που έχουν σχεδιαστεί για να κάνουν οι αλγόριθμοι και είναι ακριβώς από πού πηγάζει η κυριαρχία του Facebook και της Google στη διαφημιστική αγορά.
Ωστόσο, αυτά τα προβλήματα μπορούν να αποφευχθούν, εάν η στόχευση μπορεί να βασίζεται μόνο σε δεδομένα που παρέχονται ρητά από τους χρήστες και ελέγχονται εύκολα. Αυτός είναι ο λόγος για τον οποίο υποστηρίζουμε την πλήρη απαγόρευση της χρήσης συμπερασμάτων για τη στόχευση διαφημίσεων ή την επιμέλεια περιεχομένου. Αντ ‘αυτού, οι χρήστες θα μπορούσαν – αν το επιθυμούσαν – να παρέχουν απευθείας πληροφορίες σχετικά με αυτούς που επιθυμούν να χρησιμοποιηθούν για εξατομίκευση (π.χ. ένα σύνολο σελίδων που άρεσαν ή συγκεκριμένα θέματα που τους ενδιαφέρουν).
Ταυτόχρονα, οι χρήστες θα πρέπει να είναι σε θέση να μην κάνουν τίποτα και να εξακολουθούν να προστατεύονται. Αυτός είναι ο λόγος για τον οποίο η προεπιλεγμένη επιλογή θα πρέπει να οριστεί στο «χωρίς προσωπικά δεδομένα» και οι εταιρείες δεν θα πρέπει να είναι σε θέση να ωθούν τους χρήστες – με τη χρήση σκοτεινών προτύπων – να παρέχουν οποιαδήποτε πληροφορία σχετικά με αυτούς.
2. Αλγοριθμική λογοδοσία
Οι αλγόριθμοι που χρησιμοποιούν οι πλατφόρμες για την προβολή διαφημίσεων ή τη σύσταση και την κατάταξη περιεχομένου θα πρέπει να υπόκεινται σε αξιολογήσεις ως προς το ενδεχόμενο να προκαλέσουν βλάβη σε θεμελιώδη δικαιώματα, συμπεριλαμβανομένης της ιδιωτικής ζωής ή της ελευθερίας της έκφρασης. Επειδή οι εταιρείες θα έχουν την τάση να δίνουν προτεραιότητα στα επιχειρηματικά τους συμφέροντα, οι αυτοαξιολογήσεις πρέπει να υποβάλλονται για ανεξάρτητο έλεγχο και έγκριση από τη ρυθμιστική αρχή που θα πρέπει να έχει την εξουσία να επιβάλει συγκεκριμένα μέτρα άμβλυνσης, συμπεριλαμβανομένων αλλαγών συγκεκριμένων παραμέτρων ή σημάτων στα οποία βασίζεται ο αλγόριθμος. Οι αξιολογήσεις πρέπει επίσης να είναι διαθέσιμες για έλεγχο από ερευνητές δημοσίου συμφέροντος, οργανώσεις της κοινωνίας των πολιτών και δημοσιογράφους.
Προκειμένου το εποπτικό όργανο να αξιολογήσει με ακρίβεια τις ζημίες και οι ερευνητές, οι Οργανώσεις της Κοινωνίας των Πολιτών και οι δημοσιογράφοι να μπορούν να εντοπίσουν καταχρήσεις, οι κυρίαρχες πλατφόρμες θα πρέπει να τους παρέχουν πρόσβαση σε δεδομένα και μοντέλα που χρησιμοποιούνται από αλγοριθμικά συστήματα, συμπεριλαμβανομένης της πρόσβασης σε όλα τα δεδομένα στα οποία βασίζονται, βελτιστοποιούν το σύστημα και την δυνατότητα εκτέλεσης δοκιμών. Σήμερα η πρόσβαση στα δεδομένα βασίζεται στην καλή θέληση των κυρίαρχων πλατφορμών που επιτρέπουν την έρευνα εφόσον δεν θέτει σε κίνδυνο τα επιχειρηματικά τους συμφέροντα: διαφορετικά, αφαιρούν γρήγορα την πρόσβαση και στην περίπτωση του Facebook – ακόμη και μηνύουν ερευνητές που σκάβουν λίγο πολύ, της αρεσκείας της πλατφόρμας.
3. Ενδυνάμωση των χρηστών και ανοικοδόμηση του διαδικτυακού οικοσυστήματος
Η πραγματική ενδυνάμωση των χρηστών δεν μπορεί να συμβεί χωρίς να δημιουργηθούν οι προϋποθέσεις για ουσιαστική επιλογή και η ανάπτυξη εναλλακτικών λύσεων που βασίζονται σε διαφορετική επιχειρηματική λογική. Αυτός είναι ο λόγος για τον οποίο η ΕΕ πρέπει να απαιτήσει τις μεγαλύτερες πλατφόρμες, που έχουν τη μεγαλύτερη δύναμη στην ψηφιακή δημόσια σφαίρα μας, να διασφαλίσουν ότι οι χρήστες μπορούν να επιλέγουν εναλλακτικά συστήματα, που παρέχονται από τρίτους, είτε πρόκειται για εταιρείες είτε για μη κερδοσκοπικούς οργανισμούς. Θα μπορούσαμε να φανταστούμε ένα σύστημα προτάσεων που αντί να ενισχύει το συγκινησιακό περιεχόμενο που έχει σχεδιαστεί για να προσελκύει την προσοχή, το οποίο είναι το βασικό αγαθό στον καπιταλισμό επιτήρησης, έχει σχεδιαστεί για να δίνει προτεραιότητα σε πιο πολύτιμο περιεχόμενο. Αυτή η λύση, τεχνικά βασισμένη στη διαλειτουργικότητα, ανοίγει το δρόμο για την ανάπτυξη ευρωπαϊκών εναλλακτικών λύσεων για την Big Tech. Στο όχι και τόσο μακρινό μέλλον, θα μπορούσαμε να φανταστούμε μια ολοκαίνουργια αγορά στην οποία νέες λύσεις,που αναπτύχθηκε για παράδειγμα από μια πολωνική νεοσύστατη εταιρεία ή από έναν οργανισμό πολυμέσων, θα προσπαθούσε να κερδίσει την εμπιστοσύνη των χρηστών.
Βασισμένος σε αυτούς τους τρεις πυλώνες, οι οργανώσεις ψηφιακών δικαιωμάτων συνέταξαν τροπολογίες στην αρχική έκδοση της DSA, ελπίζοντας να πείσουν τους ευρωβουλευτές από την επιτροπή IMCO να υποβάλουν προτάσεις σε αυτή τη γραμμή. Οι προσπάθειές μας υπεράσπισης ήταν σε μεγάλο βαθμό επιτυχημένες.
Συντριπτική υποστήριξη του κοινού
H DSA και η DMA θα μπορούσαν να γίνουν δύο ακρογωνιαίοι λίθοι ενός ριζικά αλλαγμένου περιβάλλοντος για το πώς οι πολίτες χρησιμοποιούν την τεχνολογία και επηρεάζονται από αυτήν. Προσθέτοντας μια ισχυρότερη επιβολή του Γενικού Κανονισμού για την Προστασία Δεδομένων (GDPR), ενός ισχυρού ePrivacy Regulation και τον προβλεπόμενο Νόμο για την Τεχνητή Νοημοσύνη , ο αντίκτυπος στη ρύθμιση των ψηφιακών τεχνολογιών θα μπορούσε να είναι σημαντικός.
Η αλλαγή είναι προ των πυλών, το κοινό στηρίζει αυτές τις πρωτοβουλίες κατά συντριπτική πλειοψηφία και οι υπεύθυνοι χάραξης πολιτικής αρχίζουν να καταλαβαίνουν γιατί είναι επίσης απαραίτητο.
Πηγή άρθρου: https://edri.org/