Υπάρχει ένας τεράστιος όγκος αποδεικτικών στοιχείων για τις βλαβερές συνέπειες των αλγορίθμων που χρησιμοποιούνται από τις μεγάλες διαδικτυακές πλατφόρμες για την επιλογή των παραληπτών των στοχευμένων τους διαφημίσεων και την οργάνωση, κατάταξη και επιμέλεια του περιεχομένου που ανεβάζουν οι χρήστες τους. Διαπιστώθηκε ότι οι αλγόριθμοι που προβάλλουν διαφημίσεις κάνουν διακρίσεις σε βάρος περιθωριοποιημένων ομάδων , ακόμη και όταν ο διαφημιζόμενος δεν το είχε σκοπό. Συστήματα προτεινόμενων δημοσιεύσεων προωθούν διχαστικό και συγκινητικό περιεχόμενο, οδηγώντας στη διάβρωση του δημόσιου διαλόγου, ενώ και μια πρόσφατη μελέτη από το Mozilla κατέγραψε τις εμπειρίες των χρηστών σχετικά με το φαινόμενο «rabbit hole»: με συστάσεις όλο και πιο ακραίου περιεχομένου.
Η Google και το Facebook συχνά χαρακτηρίζουν αυτά τα ζητήματα ως ακούσιες συνέπειες των κατά τα άλλα δίκαιων και χρήσιμων συστημάτων εξατομίκευσης και υπόσχονται να το «κάνουν καλύτερα» στο μέλλον. Αλλά αυτές οι παρεμβάσεις εξωραϊσμού δεν έχουν τη δυνατότητα να αντιμετωπίσουν τον ίδιο τον πυρήνα του προβλήματος: τη βλαβερή λογική αυτών των συστημάτων που προκύπτει από τα εμπορικά συμφέροντα των πλατφορμών. Καθώς εταιρείες όπως η Google, το Facebook, το Twitter ή το Tik Tok κερδίζουν κυρίως από τη στοχευμένη διαφήμιση, ο κύριος επιχειρηματικός τους στόχος είναι σχετικά απλός: να προβάλλουν όσες διαφημίσεις μπορούν να χειριστούν οι άνθρωποι χωρίς να τους αποθαρρύνουν από τη χρήση της πλατφόρμας. Πρέπει να τραβήξουν και να διατηρήσουν την προσοχή των χρηστών προκειμένου να μεγιστοποιήσουν τον χρόνο που περνούν στην πλατφόρμα, επειδή περισσότερος χρόνος ισούται με περισσότερα δεδομένα που αφήνονται πίσω και περισσότερες εμφανίσεις διαφημίσεων.Αυτοί οι στόχοι είναι βαθιά ενσωματωμένοι στο σχεδιασμό των αλγοριθμικών συστημάτων που χρησιμοποιούνται και οδηγούν από μόνοι τους σε ατομικές και κοινωνικές βλάβες.
Τα ευρωπαϊκά θεσμικά όργανα θα πρέπει να δημιουργήσουν συνθήκες για να αυξήσουν την ικανότητα των χρηστών να λαμβάνουν καλά ενημερωμένες αποφάσεις και να τους κάνουν λιγότερο ευάλωτους σε μια σειρά χειριστικών και επιβλαβών συμπερασμάτων. Ένας τρόπος για το σκοπό αυτό είναι η ενίσχυση της διαφάνειας και της λογοδοσίας των αλγορίθμων που χρησιμοποιούνται από τις κυρίαρχες πλατφόρμες και η αύξηση του ελέγχου των χρηστών στις πληροφορίες που μοιράζονται και έχουν πρόσβαση στο διαδίκτυο.
Εν τω μεταξύ, οι συνηθισμένες συζητήσεις για το DSA, τόσο στις Βρυξέλλες όσο και στην Πολωνία, άφησαν σε μεγάλο βαθμό να περάσει αυτή η πτυχή, εστιάζοντας μάλλον στον τρόπο αντιμετώπισης παράνομου ή επιβλαβούς περιεχομένου που δημοσιεύεται από χρήστες. Η συζήτηση σχετικά με το πώς η ίδια η υποδομή των πλατφορμών συμβάλλει στα προβλήματα που βλέπουμε, πώς η μεγιστοποίηση της προσοχής και η εξαγωγή δεδομένων οδηγούν τον τρόπο με τον οποίο σχηματίζονται τα προφίλ των χρηστών και η επιμέλεια του περιεχομένου, περιορίζεται σε έναν μικρό αριθμό προοδευτικών ευρωβουλευτών και οργανισμών ψηφιακών δικαιωμάτων.
Αφετηρία: μια ασφαλής πρόταση από την Ευρωπαϊκή Επιτροπή
Το προσχέδιο της DSA που παρουσίασε η Επιτροπή τον Δεκέμβριο του 2020 ήταν μια χαμένη ευκαιρία για την αντιμετώπιση των προβλημάτων της μηχανής αλγοριθμικής επιρροής, εστιάζοντας στην παροχή νομικού υπόβαθρου για ήδη υπάρχουσες πρακτικές και εργαλεία (όπως βιβλιοθήκες διαφημίσεων ή πλαίσια διαλόγου “γιατί το βλέπω αυτό?”). Η Επιτροπή δεν εισήγαγε κανένα όριο στη διεισδυτική καταγραφή προφίλ χρηστών ή στα δεδομένα που ενδέχεται να χρησιμοποιηθούν για τη στόχευση διαφημίσεων και τη σύσταση περιεχομένου. Η διαφάνεια της διαφήμισης επικεντρώθηκε στον ρόλο του διαφημιζόμενου, αντί να επεκταθεί στον εξίσου κρίσιμο ρόλο της ίδιας της πλατφόρμας που βελτιστοποιεί την προβολή διαφημίσεων (ή, με λιγότερο τεχνικούς όρους, επιλέγει τους τελικούς αποδέκτες της διαφήμισης που όχι μόνο πληρούν απλώς τα κριτήρια στόχευσης, αλλά είναι επίσης πιο πιθανό από άλλα να αντιδράσουν στη διαφήμιση με τον τρόπο που επιθυμεί ο διαφημιζόμενος). Παρόλο που η έκδοση της Επιτροπής για την DSA θα επέτρεπε στους χρήστες να εξαιρεθούν από τη δημιουργία προφίλ για συστήματα προτάσεων, δεν απαγόρευσε στις πλατφόρμες να χρησιμοποιούν σκοτεινά μοτίβα για να τους ωθήσουν να το κάνουν. Παρόλο που δημιούργησε ένα πολλά υποσχόμενο καθεστώς εκτίμησης κινδύνου, δεν έδωσε στους χρήστες την υπηρεσία να αμφισβητήσουν την ίδια τη λογική των αλγορίθμων που χρησιμοποιούνται στο σύστημα προτεινόμενων.
Προς καλύτερη προστασία των θεμελιωδών δικαιωμάτων
Οι οργανισμοί ψηφιακών δικαιωμάτων υποστηρίζουν μια καλύτερη ρύθμιση των αλγορίθμων διακυβέρνησης περιεχομένου που μπορούν να συνοψιστούν σε τρεις απαιτήσεις: προστασία από προεπιλογή, αύξηση της λογοδοσίας της πλατφόρμας και παροχή σημαντικής ενδυνάμωσης των χρηστών.
1. Προεπιλεγμένη προστασία από τη δημιουργία προφίλ
Σήμερα αναλύεται τεράστιος όγκος δεδομένων που αφήνουν οι χρήστες κατά την πλοήγησή τους στις διαφορετικές υπηρεσίες διαδικτυακών πλατφορμών και ιστότοπων που ενσωματώνουν τους ιχνηλάτες τους προκειμένου να καταλήξουν σε προβλέψεις σχετικά με τα χαρακτηριστικά που οι χρήστες δεν έχουν αποκαλύψει ρητά (λεγόμενα συμπερασματικά δεδομένα). Αυτά τα χαρακτηριστικά μπορεί να είναι εξαιρετικά προσωπικά και ευαίσθητα, π.χ. μπορεί να σχετίζονται με τη σωματική και ψυχική υγεία των χρηστών, τους εθισμούς, τους παράγοντες άγχους ή φόβου, την οικονομική κατάσταση, σημαντικά γεγονότα στη ζωή (εγκυμοσύνη, διαζύγιο), φυλές ή πολιτικές τάσεις.
Η απαγόρευση της χρήσης ευαίσθητων δεδομένων ή άλλων προστατευόμενων χαρακτηριστικών φαίνεται να είναι μια απλή λύση. Αλλά θα είναι αναποτελεσματικό, επειδή ο τρόπος με τον οποίο λειτουργούν οι αλγόριθμοι μηχανικής μάθησης τους επιτρέπει να βρίσκουν τα λεγόμενα δεδομένα διακομιστή μεσολάβησης: δεδομένα που σχετίζονται στενά με ευαίσθητα χαρακτηριστικά. Για παράδειγμα, ο αριθμός των ωρών που περνούν καθημερινά σε μια πλατφόρμα μπορεί να αποτελεί αναγνωριστικό για την ηλικία ή την κατάσταση απασχόλησης και το σύνολο των σελίδων που μου αρέσουν μπορεί να είναι αναγνωριστικό για το φύλο, τον σεξουαλικό προσανατολισμό ή την πολιτική γνώμη. Ένας αλγόριθμος μπορεί να αναγνωρίζει τα άτομα ως παρόμοια και να τα αντιμετωπίζει ως τέτοια, χωρίς να τα χαρακτηρίζει ως “αρσενικά” και “θηλυκά” ή “φιλελεύθερα” και “συντηρητικά”. Ακόμα κι αν εντοπίσουμε γνωστά αναγνωριστικά και τα απαγορεύσουμε, ο αλγόριθμος θα βρει σύντομα νέους συσχετισμούς: Το Markup έδειξε ότι ακόμη και αν αφαιρεθούν αμφιλεγόμενες κατηγορίες, οι αλγόριθμοι του Facebook βρίσκουν γρήγορα νέα αναγνωριστικά (ή συσχετισμούς) που φέρνουν το ίδιο αποτέλεσμα, π.χ. στοχεύουν άτομα με βάση τη φυλή χωρίς ποτέ να προσδιορίσουν μια συγκεκριμένη πληροφορία (π.χ. ταχυδρομικός κώδικας) που συσχετίζεται με αυτό το χαρακτηριστικό. Αυτό είναι που έχουν σχεδιαστεί για να κάνουν οι αλγόριθμοι και είναι ακριβώς από πού πηγάζει η κυριαρχία του Facebook και της Google στη διαφημιστική αγορά.
Ωστόσο, αυτά τα προβλήματα μπορούν να αποφευχθούν, εάν η στόχευση μπορεί να βασίζεται μόνο σε δεδομένα που παρέχονται ρητά από τους χρήστες και ελέγχονται εύκολα. Αυτός είναι ο λόγος για τον οποίο υποστηρίζουμε την πλήρη απαγόρευση της χρήσης συμπερασμάτων για τη στόχευση διαφημίσεων ή την επιμέλεια περιεχομένου. Αντ ‘αυτού, οι χρήστες θα μπορούσαν – αν το επιθυμούσαν – να παρέχουν απευθείας πληροφορίες σχετικά με αυτούς που επιθυμούν να χρησιμοποιηθούν για εξατομίκευση (π.χ. ένα σύνολο σελίδων που άρεσαν ή συγκεκριμένα θέματα που τους ενδιαφέρουν).
Ταυτόχρονα, οι χρήστες θα πρέπει να είναι σε θέση να μην κάνουν τίποτα και να εξακολουθούν να προστατεύονται. Αυτός είναι ο λόγος για τον οποίο η προεπιλεγμένη επιλογή θα πρέπει να οριστεί στο “χωρίς προσωπικά δεδομένα” και οι εταιρείες δεν θα πρέπει να είναι σε θέση να ωθούν τους χρήστες – με τη χρήση σκοτεινών προτύπων – να παρέχουν οποιαδήποτε πληροφορία σχετικά με αυτούς.
2. Αλγοριθμική λογοδοσία
Οι αλγόριθμοι που χρησιμοποιούν οι πλατφόρμες για την προβολή διαφημίσεων ή τη σύσταση και την κατάταξη περιεχομένου θα πρέπει να υπόκεινται σε αξιολογήσεις ως προς το ενδεχόμενο να προκαλέσουν βλάβη σε θεμελιώδη δικαιώματα, συμπεριλαμβανομένης της ιδιωτικής ζωής ή της ελευθερίας της έκφρασης. Επειδή οι εταιρείες θα έχουν την τάση να δίνουν προτεραιότητα στα επιχειρηματικά τους συμφέροντα, οι αυτοαξιολογήσεις πρέπει να υποβάλλονται για ανεξάρτητο έλεγχο και έγκριση από τη ρυθμιστική αρχή που θα πρέπει να έχει την εξουσία να επιβάλει συγκεκριμένα μέτρα άμβλυνσης, συμπεριλαμβανομένων αλλαγών συγκεκριμένων παραμέτρων ή σημάτων στα οποία βασίζεται ο αλγόριθμος. Οι αξιολογήσεις πρέπει επίσης να είναι διαθέσιμες για έλεγχο από ερευνητές δημοσίου συμφέροντος, οργανώσεις της κοινωνίας των πολιτών και δημοσιογράφους.
Προκειμένου το εποπτικό όργανο να αξιολογήσει με ακρίβεια τις ζημίες και οι ερευνητές, οι Οργανώσεις της Κοινωνίας των Πολιτών και οι δημοσιογράφοι να μπορούν να εντοπίσουν καταχρήσεις, οι κυρίαρχες πλατφόρμες θα πρέπει να τους παρέχουν πρόσβαση σε δεδομένα και μοντέλα που χρησιμοποιούνται από αλγοριθμικά συστήματα, συμπεριλαμβανομένης της πρόσβασης σε όλα τα δεδομένα στα οποία βασίζονται, βελτιστοποιούν το σύστημα και την δυνατότητα εκτέλεσης δοκιμών. Σήμερα η πρόσβαση στα δεδομένα βασίζεται στην καλή θέληση των κυρίαρχων πλατφορμών που επιτρέπουν την έρευνα εφόσον δεν θέτει σε κίνδυνο τα επιχειρηματικά τους συμφέροντα: διαφορετικά, αφαιρούν γρήγορα την πρόσβαση και στην περίπτωση του Facebook – ακόμη και μηνύουν ερευνητές που σκάβουν λίγο πολύ, της αρεσκείας της πλατφόρμας.
3. Ενδυνάμωση των χρηστών και ανοικοδόμηση του διαδικτυακού οικοσυστήματος
Η πραγματική ενδυνάμωση των χρηστών δεν μπορεί να συμβεί χωρίς να δημιουργηθούν οι προϋποθέσεις για ουσιαστική επιλογή και η ανάπτυξη εναλλακτικών λύσεων που βασίζονται σε διαφορετική επιχειρηματική λογική. Αυτός είναι ο λόγος για τον οποίο η ΕΕ πρέπει να απαιτήσει τις μεγαλύτερες πλατφόρμες, που έχουν τη μεγαλύτερη δύναμη στην ψηφιακή δημόσια σφαίρα μας, να διασφαλίσουν ότι οι χρήστες μπορούν να επιλέγουν εναλλακτικά συστήματα, που παρέχονται από τρίτους, είτε πρόκειται για εταιρείες είτε για μη κερδοσκοπικούς οργανισμούς. Θα μπορούσαμε να φανταστούμε ένα σύστημα προτάσεων που αντί να ενισχύει το συγκινησιακό περιεχόμενο που έχει σχεδιαστεί για να προσελκύει την προσοχή, το οποίο είναι το βασικό αγαθό στον καπιταλισμό επιτήρησης, έχει σχεδιαστεί για να δίνει προτεραιότητα σε πιο πολύτιμο περιεχόμενο. Αυτή η λύση, τεχνικά βασισμένη στη διαλειτουργικότητα, ανοίγει το δρόμο για την ανάπτυξη ευρωπαϊκών εναλλακτικών λύσεων για την Big Tech. Στο όχι και τόσο μακρινό μέλλον, θα μπορούσαμε να φανταστούμε μια ολοκαίνουργια αγορά στην οποία νέες λύσεις,που αναπτύχθηκε για παράδειγμα από μια πολωνική νεοσύστατη εταιρεία ή από έναν οργανισμό πολυμέσων, θα προσπαθούσε να κερδίσει την εμπιστοσύνη των χρηστών.
Βασισμένος σε αυτούς τους τρεις πυλώνες, οι οργανώσεις ψηφιακών δικαιωμάτων συνέταξαν τροπολογίες στην αρχική έκδοση της DSA, ελπίζοντας να πείσουν τους ευρωβουλευτές από την επιτροπή IMCO να υποβάλουν προτάσεις σε αυτή τη γραμμή. Οι προσπάθειές μας υπεράσπισης ήταν σε μεγάλο βαθμό επιτυχημένες.
Προοδευτικές τροπολογίες στο Ευρωπαϊκό Κοινοβούλιο
Τον Ιούλιο η επιτροπή IMCO δημοσίευσε 1313 σελίδες με πάνω από 2200 τροπολογίες που υποβλήθηκαν από τα μέλη της επιτροπής. Υπάρχουν κάποιες προτάσεις που αποδυναμώνουν περαιτέρω το σχέδιο νόμου της Επιτροπής, αλλά το πιο σημαντικό υπάρχουν επίσης τολμηρές ιδέες που αποσκοπούν στην ανοικοδόμηση του διαδικτυακού χώρου όπως τον γνωρίζουμε
Μερικά παραδείγματα προοδευτικών τροπολογιών που υποστηρίζουμε:
- Απαγόρευση της συμπεριφορικής διαφήμισης. Το στηρίζουμε, αλλά αναγνωρίζουμε ότι μπορεί να είναι δύσκολο να εξασφαλιστεί πολιτική πλειοψηφία για αυτήν την ιδέα. Μια συμβιβαστική επιλογή θα μπορούσε να περιλαμβάνει την ιδέα του να επιτραπεί η εξατομίκευση σε διαφημίσεις μόνο με βάση τα δεδομένα που παρέχονται από τους χρήστες (βλέπε σημείο 1 των αιτημάτων μας), περιορίζοντας έτσι την πιο επιβλαβής έκδοση της διαφήμισης που βασίζεται στα δεδομένα, ενώ δεν απαγορεύεται η μη παρεμβατική εξατομίκευση.
- Απαγόρευση σκοτεινών μοτίβων. Μια εξαιρετικά σημαντική πρόταση που θα περιορίσει αποτελεσματικά τις χειραγωγικές πρακτικές των διαδικτυακών πλατφορμών που στρεβλώνουν την πραγματική επιλογή και υποβαθμίζουν το νόημα της συγκατάθεσης.
- Διαφάνεια της διαδικασίας βελτιστοποίησης. Μία από τις τροπολογίες παρέχει μια κρίσιμη διαφοροποίηση μεταξύ στόχευσης διαφημίσεων (που ελέγχεται από τη διαφήμιση) και προβολής διαφημίσεων (που ελέγχεται από την πλατφόρμα) και επιβάλλει διαφάνεια και των δύο.
- Ενισχυμένη διαφάνεια αλγορίθμων. Ορισμένες τροποποιήσεις στοχεύουν στο να κάνουν την αλγοριθμική διαφάνεια πραγματικότητα, διευκρινίζοντας ότι οι πλατφόρμες πρέπει να αποκαλύπτουν τον στόχο βελτιστοποίησης του αλγορίθμου και τα κριτήρια στα οποία βασίζεται το σύστημα μαζί με μια ένδειξη της σημασίας που έχουν στην επίτευξη του αποτελέσματος.
- Απενεργοποίηση δημιουργίας προφίλ σε συστήματα προτάσεων από προεπιλογή . Όπως εξηγήθηκε παραπάνω, αυτή η πρόταση έχει τη δυνατότητα να ανασυγκροτήσει πραγματικά το οικοσύστημα, απομακρύνοντας τα συστήματα ελεγχόμενων από πλατφόρμα βελτιστοποιημένα για εμπλοκή, σε αυξημένη αντιπροσώπευση χρηστών.
- Ένα ισχυρό καθεστώς εκτίμησης κινδύνου που διορθώνει τις αδυναμίες της αυτοαξιολόγησης από διαδικτυακές πλατφόρμες και εξουσιοδοτεί τις ρυθμιστικές αρχές και την κοινωνία των πολιτών να τις λογοδοτούν αποτελεσματικά.
Στο καλύτερο σενάριο, η ψηφιακή δημόσια σφαίρα του μέλλοντος θα μπορούσε να είναι ένας ασφαλής, μη παρεμβατικός χώρος, όπου προστατεύονται τα θεμελιώδη δικαιώματα των ανθρώπων και όπου όσοι επιθυμούν να διαμορφώσουν τη δική τους εμπειρία θα έχουν τα εργαλεία για να το κάνουν, ενώ εκείνοι που θα προτιμούσαν βασίζονται στην πλατφόρμα, θα προστατεύονταν από προεπιλογή από διαφορετικές βλάβες που μπορεί να προκαλέσουν μη υπολογίσιμοι αλγόριθμοι.
Στο χειρότερο σενάριο, θα βιώσουμε μια περαιτέρω επιδείνωση των υπαρχόντων προβλημάτων: μαζικές παραβιάσεις της ιδιωτικής ζωής, διακρίσεις, εκμετάλλευση τρωτών σημείων, διάβρωση του δημόσιου διαλόγου, χρήση διαφημιστικών μηχανημάτων πλατφορμών για τη διευκόλυνση της πολιτικής χειραγώγησης ,
Πιθανότατα, το τελικό αποτέλεσμα στο Ευρωπαϊκό Κοινοβούλιο θα είναι ένας συμβιβασμός μεταξύ των δύο. Το πώς θα λάβει αυτός ο συμβιβασμός, θα αποφασιστεί το φθινόπωρο, με την ψηφοφορία στην επιτροπή IMCO να έχει προγραμματιστεί για τις 8 Νοεμβρίου και στη συνέχεια την ολομέλεια τον Δεκέμβριο
Πηγή άρθρου: https://edri.org/