ΕΛ/ΛΑΚ | creativecommons.gr | mycontent.ellak.gr |
freedom

Μια βάση δεδομένων να τα κυβερνά όλα: Το αόρατο καρτέλ περιεχομένου που υπονομεύει την ελευθερία της έκφρασης στο διαδίκτυο

Κάθε χρόνο, εκατομμύρια εικόνες, βίντεο και αναρτήσεις που φέρεται ότι περιέχουν τρομοκρατικό ή βίαιο εξτρεμιστικό περιεχόμενο αφαιρούνται από πλατφόρμες κοινωνικών μέσων όπως το YouTube, το Facebook ή το Twitter. Μια βασική δύναμη πίσω από αυτές τις καταργήσεις είναι το Global Internet Forum to Counter Terrorism (GIFCT), μια πρωτοβουλία της βιομηχανίας που επιδιώκει να «αποτρέψει τους τρομοκράτες και τους βίαιους εξτρεμιστές από την εκμετάλλευση ψηφιακών πλατφορμών». Δυστυχώς, το GIFCT έχει τη δυνατότητα να έχει τεράστιο (και δυσανάλογο) αρνητικό αντίκτυπο στην ελευθερία της έκφρασης ορισμένων κοινοτήτων.

Οι πλατφόρμες κοινωνικών μέσων εδώ και πολύ καιρό αντιμετωπίζουν το πρόβλημα του εξτρεμιστικού ή βίαιου περιεχομένου στις πλατφόρμες τους. Οι πλατφόρμες ενδέχεται να έχουν εγγενές συμφέρον να προσφέρουν στους χρήστες τους ένα διαδικτυακό περιβάλλον απαλλαγμένο από δυσάρεστο περιεχόμενο, γι ‘αυτό οι όροι υπηρεσίας των περισσότερων πλατφορμών κοινωνικών μέσων περιέχουν μια ποικιλία απαγορεύσεων και όρων. Κατά την τελευταία δεκαετία, ωστόσο, οι πλατφόρμες κοινωνικών μέσων ενημέρωσης δέχθηκαν επίσης αυξανόμενη πίεση από κυβερνήσεις σε όλο τον κόσμο να ανταποκριθούν σε βίαιο και εξτρεμιστικό περιεχόμενο στις πλατφόρμες τους. Με αφορμή τις τρομοκρατικές επιθέσεις στο Παρίσι και τις Βρυξέλλες το 2015 και το 2016, αντίστοιχα, και καθοδηγούμενες από την κοντόφθαλμη πεποίθηση ότι η λογοκρισία είναι ένα αποτελεσματικό εργαλείο κατά του εξτρεμισμού, οι κυβερνήσεις έχουν στραφεί στην εποπτεία του περιεχομένου ως μέσο για τη διόρθωση της διεθνούς τρομοκρατίας.

Η εμπορική εποπτεία περιεχομένου είναι η διαδικασία μέσω της οποίας οι πλατφόρμες — πιο συγκεκριμένα, άνθρωποι ή, πολύ συχνά, μηχανές — λαμβάνουν αποφάσεις σχετικά με το περιεχόμενο που μπορεί και δεν μπορεί να βρίσκεται στους ιστότοπούς του, βάσει των δικών τους Όρων Παροχής Υπηρεσιών, “κοινοτικών προτύπων” ή άλλων κανόνων.

Κατά τη διάρκεια της πανδημίας του κορονοϊού, οι εταιρείες κοινωνικών μέσων ήταν λιγότερο ικανές να χρησιμοποιούν ανθρώπους για έλεγχο περιεχομένου και αντ ‘αυτού βασίζονται όλο και περισσότερο σε αλγόριθμους μηχανικής εκμάθησης για να εποπτεύουν το περιεχόμενο καθώς και να το επισημαίνουν.

Αυτοί οι αλγόριθμοι, που είναι πραγματικά μόνο ένα σύνολο οδηγιών για να κάνουν κάτι, τροφοδοτούνται με ένα αρχικό σύνολο κανόνων και πολλά εκπαιδευτικά δεδομένα με την ελπίδα ότι θα μάθουν να αναγνωρίζουν παρόμοιο περιεχόμενο. Αλλά ο ανθρώπινος λόγος είναι ένα σύνθετο κοινωνικό φαινόμενο και εξαιρετικά  εξαρτώμενος από πλαίσια αναφοράς. Αναπόφευκτα, οι αλγόριθμοι εποπτείας περιεχομένου κάνουν λάθη. Αυτό που είναι χειρότερο, επειδή οι αλγόριθμοι μηχανικής μάθησης λειτουργούν συνήθως ως μαύρα κουτιά που δεν εξηγούν πώς έφτασαν σε μια απόφαση και καθώς οι εταιρείες γενικά δεν μοιράζονται ούτε τις βασικές υποθέσεις που στηρίζουν την τεχνολογία τους ή τα εκπαιδευτικά σύνολα δεδομένων τους, και τα τρίτα μέρη μπορούν να κάνουν λίγα για να αποφευχθούν αυτά τα λάθη.

Αυτό το πρόβλημα έγινε πιο έντονο με την εισαγωγή hashing databases για την παρακολούθηση και την αφαίρεση εξτρεμιστικού περιεχομένου. Τα hashes είναι ψηφιακά «δακτυλικά αποτυπώματα» περιεχομένου που χρησιμοποιούν οι εταιρείες για την αναγνώριση και την κατάργηση περιεχομένου από τις πλατφόρμες τους. Είναι ουσιαστικά μοναδικά και επιτρέπουν την εύκολη αναγνώριση συγκεκριμένου περιεχομένου. Όταν μια εικόνα αναγνωρίζεται ως «τρομοκρατικό περιεχόμενο», επισημαίνεται με κατακερματισμό και εισάγεται σε μια βάση δεδομένων, επιτρέποντας την εύκολη αναγνώριση τυχόν μελλοντικών μεταφορτώσεων της ίδιας εικόνας.

Αυτό ακριβώς σκοπεύει να κάνει η πρωτοβουλία GIFCT: Μοιρλαζει μια τεράστια βάση δεδομένων με φερόμενο «τρομοκρατικό» περιεχόμενο, που συνεισφέρθηκε εθελοντικά από εταιρείες, μεταξύ των μελών του συνασπισμού της. Η βάση δεδομένων συλλέγει «hashes» ή μοναδικά δακτυλικά αποτυπώματα, φερόμενου ως «τρομοκρατικού» ή εξτρεμιστικού και βίαιου περιεχομένου, αντί για το ίδιο το περιεχόμενο. Τα μέλη του GIFCT μπορούν στη συνέχεια να χρησιμοποιήσουν τη βάση δεδομένων για να ελέγξουν σε πραγματικό χρόνο εάν το περιεχόμενο που οι χρήστες θέλουν να ανεβάσουν ταιριάζει με υλικό στη βάση δεδομένων. Αν και αυτό φαίνεται σαν μια αποτελεσματική προσέγγιση στο δύσκολο καθήκον της σωστής αναγνώρισης και κατάργησης τρομοκρατικού περιεχομένου, αυτό σημαίνει επίσης ότι μπορεί να χρησιμοποιηθεί μία μόνο βάση δεδομένων για τον προσδιορισμό της επιτρεπόμενης ομιλίας και της κατάργησης – σε ολόκληρο το Διαδίκτυο.

Αμέτρητα παραδείγματα έχουν αποδείξει ότι είναι πολύ δύσκολο για τους ανθρώπους-αναθεωρητές  – και είναι αδύνατο για αλγόριθμους – να λαμβάνουν σταθερά τις ίδιες τις αποχρώσεις του ακτιβισμού, του αντίθετου λόγου και του εξτρεμιστικού περιεχομένου. Το αποτέλεσμα είναι ότι πολλές περιπτώσεις νόμιμου περιεχένου να κατηγοριοποιούνται ψευδώς ως τρομοκρατικό περιεχόμενο και να καταργούνται από τις πλατφόρμες κοινωνικών μέσων. Λόγω του πολλαπλασιασμού της βάσης δεδομένων GIFCT, οποιαδήποτε λανθασμένη ταξινόμηση ενός βίντεο, εικόνας ή ανάρτησης ως «τρομοκρατικού» περιεχομένου αντηχεί σε όλες τις πλατφόρμες κοινωνικών μέσων, υπονομεύοντας το δικαίωμα των χρηστών στην ελεύθερη έκφραση σε πολλές πλατφόρμες ταυτόχρονα.

Και αυτό, με τη σειρά του, μπορεί να έχει καταστροφικές επιπτώσεις στο Διαδίκτυο ως χώρο μνήμης και τεκμηρίωσης. Τα πλατιά συστήματα εποπτείας περιεχομένου μπορούν να οδηγήσουν στη διαγραφή ζωτικών πληροφοριών που δεν διατίθενται αλλού, όπως αποδεικτικά στοιχεία για παραβιάσεις των ανθρωπίνων δικαιωμάτων ή εγκλήματα πολέμου. Για παράδειγμα, το Syrian Archive, μια ΜΚΟ που είναι αφιερωμένη στη συλλογή, κοινή χρήση και αρχειοθέτηση αποδεικτικών στοιχείων για φρικαλεότητες που διαπράχθηκαν κατά τη διάρκεια του Συριακού πολέμου αναφέρει ότι εκατοντάδες χιλιάδες βίντεο πολεμικών ωμών αφαιρούνται από το YouTube ετησίως. Το Archive εκτιμά ότι η μείωση των ποσοστών για βίντεο που τεκμηριώνουν παραβιάσεις των ανθρωπίνων δικαιωμάτων της Συρίας είναι περίπου 13%, αριθμός που σχεδόν διπλασιάστηκε στο 20% μετά την κρίση του κορονoϊού. Όπως σημειώνεται, πολλές πλατφόρμες κοινωνικών μέσων, συμπεριλαμβανομένου του YouTube, χρησιμοποιούν αλγοριθμικά εργαλεία για εποπτεία περιεχομένου πιο έντονα από το συνηθισμένο, με αποτέλεσμα να υπάρχουν αυξημένες καταργήσεις. Εάν, ή όποτε, το YouTube συνεισφέρει hashes περιεχομένου που απεικονίζουν παραβιάσεις ανθρωπίνων δικαιωμάτων της Συρίας, και έχει επισημανθεί ως «τρομοκρατικό» περιεχόμενο από τους αλγόριθμους του YouTube στη βάση δεδομένων GIFCT, αυτό το περιεχόμενο θα μπορούσε να διαγραφεί για πάντα σε πολλές πλατφόρμες.

Το καρτέλ περιεχομένου GIFCT όχι μόνο κινδυνεύει να χάσει πολύτιμα έγγραφα για τα ανθρώπινα δικαιώματα, αλλά έχει επίσης δυσανάλογα αρνητικό αντίκτυπο σε ορισμένες κοινότητες. Ο ορισμός της «τρομοκρατίας» είναι μια εγγενώς πολιτική επιχείρηση, και σπάνια είναι η ίδια σε βάθος χρόνου και χώρου. Ελλείψει διεθνούς συμφωνίας σχετικά με το τι ακριβώς συνιστά τρομοκρατικό, ή ακόμη και βίαιο και εξτρεμιστικό, περιεχόμενο, οι εταιρείες εξετάζουν τη λίστα καθορισμένων τρομοκρατικών οργανώσεων των Ηνωμένων Εθνών ή τη λίστα των ξένων τρομοκρατικών οργανώσεων του Υπουργείου Εξωτερικών των ΗΠΑ. Όμως, αυτές οι λίστες αποτελούνται κυρίως από ισλαμικές οργανώσεις και είναι σε μεγάλο βαθμό τυφλές, για παράδειγμα, στις ακροδεξιές εξτρεμιστικές ομάδες. Αυτό σημαίνει ότι το βάρος των εσφαλμένων ταξινομήσεων του GIFCT βαρύνει δυσανάλογα τις μουσουλμανικές και αραβικές κοινότητες και υπογραμμίζει τη λεπτή γραμμή μεταξύ μιας αποτελεσματικής πρωτοβουλίας για την αντιμετώπιση του χειρότερου περιεχομένου στο διαδίκτυο και της σαρωτικής λογοκρισίας.

Μετά από τις επιθέσεις σε δύο τζαμιά στο Christchurch τον Μάρτιο του 2019, το GIFCT ήταν πιο εμφανές από ποτέ. Σε απάντηση των πυροβολισμών, κατά τη διάρκεια των οποίων σκοτώθηκαν 51 άτομα, ο Γάλλος πρόεδρος Εμμανουήλ Μακρόν και ο πρωθυπουργός της Νέας Ζηλανδίας Ζάκντα Άρντερν ξεκίνησαν το Christchurch Call. Αυτή η πρωτοβουλία, που στοχεύει στην εξάλειψη του βίαιου και εξτρεμιστικού περιεχομένου στο διαδίκτυο, προβλέπει εξέχοντα ρόλο για το GIFCT. Μετά από αυτήν την ανανεωμένη εστίαση στο GIFCT, η πρωτοβουλία ανακοίνωσε ότι θα εξελιχθεί σε έναν ανεξάρτητο οργανισμό, συμπεριλαμβανομένης μιας νέας Independent Advisory Committee (IAC)) που θα εκπροσωπεί τις φωνές της κοινωνίας των πολιτών, της κυβέρνησης και των διακυβερνητικών οντοτήτων.

Ωστόσο, το λειτουργικό συμβούλιο, όπου βρίσκεται η πραγματική ισχύς, παραμένει στα χέρια της βιομηχανίας. Και η Ανεξάρτητη Συμβουλευτική Επιτροπή έχει ήδη σοβαρά ελαττώματα, όπως έχει παρατηρήσει επανειλημμένα ένας συνασπισμός οργανώσεων πολιτικών ελευθεριών.

Για παράδειγμα, οι κυβερνήσεις που συμμετέχουν στο IAC είναι πιθανό να αξιοποιήσουν τη θέση τους για να επηρεάσουν τις πολιτικές εποπτείας περιεχομένου των εταιρειών και να διαμορφώσουν ορισμούς τρομοκρατικού περιεχομένου που ταιριάζουν στα συμφέροντά τους, μακριά από το κοινό και τα μάτια και επομένως στερούνται λογοδοσίας. Η συμπερίληψη κυβερνήσεων στο IAC θα μπορούσε επίσης να υπονομεύσει την ουσιαστική συμμετοχή των οργανώσεων της κοινωνίας των πολιτών, καθώς πολλές από αυτές εξαρτώνται οικονομικά από τις κυβερνήσεις ή ενδέχεται να αντιμετωπίσουν απειλές αντιποίνων για κριτική των κυβερνητικών αξιωματούχων σε αυτό το φόρουμ. Εφόσον η κοινωνία των πολιτών αντιμετωπίζεται ως συμπληρωματική, το GIFCT δεν θα είναι ποτέ ένα αποτελεσματικό φόρουμ πολλών ενδιαφερομένων. Τα ελαττώματα του GIFCT και οι καταστροφικές επιπτώσεις τους στην ελευθερία της έκφρασης, τα ανθρώπινα δικαιώματα και τη διατήρηση των αποδεικτικών στοιχείων για εγκλήματα πολέμου είναι γνωστά εδώ και χρόνια. Οι οργανώσεις των κοινωνιών των πολιτών προσπάθησαν να βοηθήσουν στη μεταρρύθμιση του οργανισμού, αλλά το GIFCT και ο νέος εκτελεστικός διευθυντής του παρέμειναν μη ανταποκρινόμενοι. Αυτό οδηγεί στο τελικό πρόβλημα με το IAC: κορυφαίες ΜΚΟ επιλέγουν να μην συμμετάσχουν καθόλου.

Πού αφήνει λοιπόν το GIFCT και τα εκατομμύρια των χρηστών του Διαδικτύου που επηρεάζουν οι πολιτικές του; Όχι σε καλό μέρος. Χωρίς ουσιαστική εκπροσώπηση και συμμετοχή της κοινωνίας των πολιτών, πλήρη διαφάνεια και αποτελεσματικούς μηχανισμούς λογοδοσίας, το GIFCT κινδυνεύει να γίνει ένα ακόμη φόρουμ υπό την ηγεσία της βιομηχανίας, το οποίο υπόσχεται πολλά, αλλά προσφέρει μόνο από την επιβολή κυρώσεων από κυβερνλησεις κάτω  από ένα «ανεξάρτητο»  μανδύα.

Πηγή άρθρου: https://www.eff.org

Leave a Comment