Η έρευνα της Διεθνούς Αμνηστίας περιγράφει λεπτομερώς πώς η αδιάκοπη επιδίωξη της προσοχής των νεαρών χρηστών από το TikTok κινδυνεύει να επιδεινώσει ανησυχίες για την ψυχική υγεία, όπως η κατάθλιψη, το άγχος και ο αυτοτραυματισμός.
Η Ροή «Για Σένα».
H έκθεση της Διεθνούς Αμνηστίας από τον Νοέμβριο του 2023 με τον τίτλο Driven into the Darkness: How TikTok Encourages Self-harm and Suicidal Ideation περιγράφει λεπτομερώς πώς η αδιάκοπη επιδίωξη της προσοχής των νεαρών χρηστών από το TikTok κινδυνεύει να επιδεινώσει ανησυχίες για την ψυχική υγεία, όπως η κατάθλιψη, το άγχος και ο αυτοτραυματισμός.
Η ροή “For You” του TikTok είναι μια εξαιρετικά εξατομικευμένη σελίδα αλγοριθμικά προτεινόμενου περιεχομένου, που έχει επιλεγεί για να αντικατοπτρίζει αυτό που το σύστημα έχει συμπεράνει ότι είναι τα ενδιαφέροντα ενός χρήστη.
Η τεχνική έρευνα διεξήχθη με τη χρήση περισσότερων από 30 αυτοματοποιημένων λογαριασμών που δημιουργήθηκαν για να αντιπροσωπεύουν παιδιά ηλικίας 13 ετών στην Κένυα και τις ΗΠΑ για τη μέτρηση των επιπτώσεων του συστήματος συστάσεων του TikTok στους νεαρούς χρήστες. Μια πρόσθετη μη αυτόματη προσομοίωση περιλάμβανε έναν λογαριασμό στην Κένυα, τις Φιλιππίνες και τις ΗΠΑ.
Η τεχνική έρευνα αποκάλυψε ότι μετά από 5-6 ώρες στην πλατφόρμα TikTok, σχεδόν 1 στα 2 βίντεο που προβλήθηκαν ήταν σχετιζόμενα με την ψυχική υγεία και δυνητικά επιβλαβή, περίπου 10 φορές τον όγκο που προβλήθηκε σε λογαριασμούς που δεν ενδιαφέρονται για την ψυχική υγεία.
Υπήρχε ένα ακόμη πιο γρήγορο φαινόμενο “rabbit hole” όταν οι ερευνητές ξαναπαρακολούθησαν χειροκίνητα βίντεο σχετικά με την ψυχική υγεία που πρότειναν σε ερευνητικούς λογαριασμούς που μιμούνταν 13χρονους χρήστες στην Κένυα, τις Φιλιππίνες και τις ΗΠΑ.
Μεταξύ 3 και 20 λεπτών από τη μη αυτόματη έρευνα, περισσότερα από τα μισά βίντεο στη ροή “Για σένα” σχετίζονταν με θέματα ψυχικής υγείας με πολλά προτεινόμενα βίντεο σε μία ώρα που ρομαντικοποιούν, εξομαλύνουν ή ενθαρρύνουν την αυτοκτονία.
Εθιστικό λόγω σχεδιασμού
Συζητήσεις ομάδων εστίασης, συνεντεύξεις και προσομοιώσεις παιδικών λογαριασμών στο TikTok στην Κένυα, τις Φιλιππίνες και τις ΗΠΑ, καθώς και υπάρχοντα στοιχεία από τα πεδία των κοινωνικών δικτύων, αποκαλύπτουν πώς ο σχεδιασμός της πλατφόρμας του TikTok ενθαρρύνει την ανθυγιεινή χρήση της εφαρμογής.
*Ο Luis, ένας 21χρονος προπτυχιακός φοιτητής στη Μανίλα, ο οποίος έχει διαγνωστεί με διπολική διαταραχή, είπε στη Διεθνή Αμνηστία για την εμπειρία του με τη ροή «For You» του TikTok.
«Είναι ένα rabbit hole γιατί ξεκινά με ένα μόνο βίντεο. Αν ένα βίντεο είναι σε θέση να τραβήξει την προσοχή σας, ακόμα κι αν δεν σας αρέσει, θα σας κολλήσει την επόμενη φορά που θα ανοίξετε το TikTok και επειδή σας φαίνεται οικείο, το παρακολουθείτε ξανά και μετά η συχνότητά του στη ροή σας αυξάνεται εκθετικά», είπε ο Luis.
*Ο Φράνσις, ένας 18χρονος φοιτητής στην επαρχία Μπατάνγκας, στις Φιλιππίνες, παρατήρησε: «Όταν παρακολουθώ ένα θλιβερό βίντεο με το οποίο μπορούσα να αναφερθώ, ξαφνικά όλη μου η σελίδα «Για σένα» είναι λυπημένη και βρίσκομαι στο «Sadtok». Επηρεάζει το πώς νιώθω».
Ένας άλλος συμμετέχων στην ομάδα εστίασης εξήγησε: «Το περιεχόμενο που βλέπω με κάνει να σκέφτομαι υπερβολικά [ακόμα] περισσότερο, όπως βίντεο στα οποία κάποιος είναι άρρωστος ή κάνει αυτοδιάγνωση. Επηρεάζει τη νοοτροπία μου και με κάνει να νιώθω ότι έχω τα ίδια συμπτώματα και επιδεινώνει το άγχος μου. Και δεν τα κοιτάζω καν (βίντεο), απλώς εμφανίζονται στη ροή μου».
*Η Joyce, μια 21χρονη γυναίκα στις Φιλιππίνες είπε: «Το διέγραψα [TikTok] για λίγο επειδή ήμουν πολύ εθισμένη σε αυτό… Θα περνούσα τόσες ώρες στο TikTok απλώς κάνοντας κύλιση στα βίντεο γιατί δεν μπορείς παρά να αναρωτιέσαι τι θα ανέβει στη συνέχεια όταν κάνεις κύλιση προς τα κάτω».
Τα παιδιά και οι νέοι που πήραν συνέντευξη στην Κένυα είπαν ότι ένιωσαν ότι η χρήση του TikTok επηρέασε τις σχολικές τους εργασίες, τον χρόνο κοινωνικής δικτύωσης με φίλους και τους οδήγησε να περιηγηθούν στις ροές τους αργά το βράδυ αντί να κοιμούνται αρκετά.
Αυτές οι μαρτυρίες επιβεβαιώθηκαν από διάφορους ψυχολόγους εφήβων που συμβουλεύτηκε η Διεθνής Αμνηστία ως μέρος της έρευνας.
Ενώ οι ατομικές απαντήσεις των νέων και οι παράγοντες που επηρεάζουν τη χρήση των μέσων κοινωνικής δικτύωσης μπορεί να διαφέρουν, όπως και άλλες πλατφόρμες μέσων κοινωνικής δικτύωσης, το TikTok έχει κάνει επιλογές σχεδίασης που αποσκοπούν στη μεγιστοποίηση του χρόνου που αφιερώνουν οι χρήστες στην πλατφόρμα.
«Η έρευνά μας δείχνει ότι το TikTok μπορεί να εκθέσει παιδιά και νέους σε σοβαρούς κινδύνους για την υγεία επιμένοντας στο τρέχον επιχειρηματικό του μοντέλο που στοχεύει περισσότερο στο να κρατά τα μάτια κολλημένα στην πλατφόρμα για το σεβασμό του δικαιώματος στην υγεία των παιδιών και των νέων», δήλωσε η Lisa Dittmer, Ερευνήτρια της Διεθνούς Αμνηστίας.
Ο Ιστός της επιτήρησης
Το “I feel Exposed”: Caught in TikTok’s Surveillance Web δείχνει πώς οι πρακτικές συλλογής δεδομένων του TikTok για κατάχρηση δικαιωμάτων στηρίζονται και υποστηρίζονται από τις επιβλαβείς πρακτικές αφοσίωσης των χρηστών.
Η έρευνα της Διεθνούς Αμνηστίας δείχνει ότι το ίδιο το επιχειρηματικό μοντέλο του TikTok είναι εγγενώς καταχρηστικό και έχει σαν στόχο να κρατά τους χρήστες γαντζωμένους στην πλατφόρμα, προκειμένου να συλλέγει συνεχώς περισσότερα δεδομένα για αυτούς. Στη συνέχεια, το TikTok χρησιμοποιεί αυτά τα δεδομένα για να δημιουργήσει προφίλ χρηστών και να αντλήσει συμπεράσματα σχετικά με αυτούς, κάτι που του επιτρέπει να ομαδοποιεί τους χρήστες σε ομάδες για να τους στοχεύει με εξαιρετικά εξατομικευμένο περιεχόμενο για να τους κρατά αφοσιωμένους. Αυτές οι ομάδες και κατηγορίες διατίθενται επίσης στους διαφημιστές, ώστε να μπορούν να στοχεύουν χρήστες με εξατομικευμένες διαφημίσεις.
Στο βαθμό που η TikTok έχει εφαρμόσει πολιτικές και πρακτικές για να διασφαλίσει μεγαλύτερο σεβασμό των δικαιωμάτων των παιδιών, διαφέρουν από περιοχή σε περιοχή, αφήνοντας τα παιδιά και τους νέους σε ορισμένα μέρη του κόσμου εκτεθειμένα σε συλλογή δεδομένων εκμετάλλευσης σε άλλα.
«Το TikTok στοχεύει χρήστες, συμπεριλαμβανομένων των παιδιών, με πιο επεμβατικές πρακτικές συλλογής δεδομένων σε μέρη του κόσμου όπου οι άνθρωποι έχουν λιγότερη προστασία για τα δεδομένα τους σύμφωνα με τους τοπικούς νόμους και κανονισμούς – που σημαίνει ότι τα παιδιά που ζουν σε χώρες με αδύναμη νομοθεσία, συμπεριλαμβανομένων πολλών χωρών της Παγκόσμιας Πλειοψηφίας, υπόκεινται στις χειρότερες καταχρήσεις του δικαιώματός τους στην ιδιωτική ζωή», δήλωσε η Lauren Armistead, Αναπληρώτρια Διευθύντρια του προγράμματος Amnesty Tech.
«Το TikTok πρέπει να σέβεται τα δικαιώματα όλων των νεότερων χρηστών του, όχι μόνο αυτών στην Ευρώπη, απαγορεύοντας κάθε στοχευμένη διαφήμιση που απευθύνεται σε άτομα κάτω των 18 ετών παγκοσμίως».
Το TikTok πρέπει επίσης να σταματήσει την υπερ-εξατομίκευση της ροής «Για εσάς» από προεπιλογή και, αντ’ αυτού, να επιτρέπει στους χρήστες να επιλέγουν ενεργά ποια ενδιαφέροντα διαμορφώνουν τις προτάσεις περιεχομένου τους βάσει της ενημερωμένης συγκατάθεσής τους και εάν θέλουν μια εξατομικευμένη ροή.
Ενώ η Διεθνής Αμνηστία καλεί την TikTok να λάβει αυτά τα επείγοντα βήματα προς ένα επιχειρηματικό μοντέλο που σέβεται τα δικαιώματα, απαιτείται επίσης δεσμευτικός κανονισμός για την προστασία και την εκπλήρωση των δικαιωμάτων των παιδιών και των νέων.
Ο καλύτερος τρόπος για την προστασία των παιδιών από την κατάχρηση των προσωπικών τους δεδομένων στο διαδίκτυο είναι οι κυβερνήσεις να απαγορεύσουν με νόμο κάθε στοχευμένη διαφήμιση που βασίζεται στην επεμβατική συλλογή προσωπικών δεδομένων.
Απαντώντας στα ευρήματά μας, το TikTok μάς υπέδειξε τις Οδηγίες κοινότητας του, οι οποίες καθορίζουν ποιοι τύποι περιεχομένου απαγορεύονται και επομένως, εάν αναφέρονται ή προσδιορίζονται με άλλο τρόπο, αφαιρούνται από την πλατφόρμα. Αυτές περιλαμβάνουν την απαγόρευση περιεχομένου που «εμφανίζει, προωθεί ή παρέχει οδηγίες για αυτοκτονία και αυτοτραυματισμό, και σχετικές προκλήσεις, τόλμη, παιχνίδια και συμφωνίες», «εμφάνιση ή προώθηση φάρσες αυτοκτονίας και αυτοτραυματισμού» και «κοινή χρήση σχεδίων αυτοκτονίας και αυτοτραυματισμού».
Η TikTok δήλωσε ότι βρίσκεται στη διαδικασία ανάπτυξης μιας «διαδικασίας δέουσας επιμέλειας για τα ανθρώπινα δικαιώματα σε ολόκληρη την εταιρεία, η οποία θα περιλαμβάνει τη διενέργεια περιοδικών αξιολογήσεων επιπτώσεων στα ανθρώπινα δικαιώματα». Η εταιρεία δεν παρείχε λεπτομέρειες σχετικά με το ποιοι συγκεκριμένοι κίνδυνοι τροφοδοσίας «For You» του TikTok ωθούν τα παιδιά και τους νέους σε επιβλαβείς κινδύνους περιεχομένου ψυχικής υγείας για τα ανθρώπινα δικαιώματα των παιδιών και των νέων χρηστών που έχει εντοπίσει. Το γεγονός ότι η TikTok δεν διαθέτει επί του παρόντος μια διαδικασία δέουσας επιμέλειας για τα ανθρώπινα δικαιώματα σε ολόκληρη την εταιρεία αποτελεί σαφή αποτυχία της ευθύνης της εταιρείας να σεβαστεί τα ανθρώπινα δικαιώματα.
Μπορείτε να βοηθήσετε να κάνετε τη διαφορά. Υπογράψτε την αναφορά της Διεθνούς Αμνηστίας και καλεί το TikTok να δώσει προτεραιότητα στην ψυχική υγεία και την ευημερία των νεαρών χρηστών του
Πηγή άρθρου: https://edri.org/