Κοινωνικός

Το Facebook δεν επισήμανε το περιεχόμενο μίσους στην Ινδία επειδή δεν είχε εργαλεία: Whistleblower

Οι ταξινομητές αναφέρονται στους αλγόριθμους ανίχνευσης ομιλίας μίσους του Facebook. Σύμφωνα με το Facebook, πρόσθεσε ταξινομητές ρητορικής μίσους στα Χίντι από τις αρχές του 2020 και εισήγαγε το Μπενγκάλι αργότερα εκείνο το έτος. Οι ταξινομητές για βία και υποκίνηση στα Χίντι και τα Μπενγκάλι κυκλοφόρησαν για πρώτη φορά στο διαδίκτυο στις αρχές του 2021.

facebook whistle blower frances haugenΗ πρώην επιστήμονας δεδομένων του Facebook, Frances Haugen. (AP)

Παρά το γεγονός ότι γνωρίζει ότι οι χρήστες, οι ομάδες και οι σελίδες RSS προωθούν αφηγήσεις που προκαλούν φόβο, αντιμουσουλμανικές αφηγήσεις, ο γίγαντας των μέσων κοινωνικής δικτύωσης Facebook δεν μπόρεσε να αναλάβει δράση ή να επισημάνει αυτό το περιεχόμενο, δεδομένης της έλλειψης ταξινομητών Χίντι και Μπενγκάλι, σύμφωνα με καταγγελία καταγγελίας που υποβλήθηκε πριν η ρυθμιστική αρχή κινητών αξιών των ΗΠΑ.



Η καταγγελία ότι οι γλωσσικές δυνατότητες του Facebook είναι ανεπαρκείς και οδηγούν σε παγκόσμια παραπληροφόρηση και εθνοτική βία είναι ένα από τα πολλά που επισημάνθηκαν από ο πληροφοριοδότης Φράνσις Χάουγκεν , πρώην υπάλληλος του Facebook, με την Επιτροπή Κεφαλαιαγοράς (SEC) ενάντια στις πρακτικές του Facebook.

Ανάγνωση|Κατασκευάζεται ψευδής αφήγηση γύρω από το Facebook: Ο Ζούκερμπεργκ σε κατάθεση πληροφοριοδοτών

Παραθέτοντας ένα αχρονολόγητο εσωτερικό έγγραφο του Facebook με τίτλο Adversarial Harmful Networks-India Case study, η καταγγελία που στάλθηκε στην SEC των ΗΠΑ από τη μη κερδοσκοπική νομική οργάνωση Whistleblower Aid εκ μέρους της Haugen σημειώνει, Υπήρξαν μια σειρά από απανθρωπιστικές αναρτήσεις (σε) Μουσουλμάνους… Η έλλειψη Οι ταξινομητές Ινδουιστών και Μπενγκάλι σημαίνουν ότι μεγάλο μέρος αυτού του περιεχομένου δεν επισημαίνεται ποτέ ή δεν γίνεται καμία ενέργεια, και δεν έχουμε ακόμη υποβάλει υποψηφιότητα για τον χαρακτηρισμό αυτής της ομάδας (RSS) λόγω πολιτικών ευαισθησιών.



Οι ταξινομητές αναφέρονται στους αλγόριθμους ανίχνευσης ομιλίας μίσους του Facebook. Σύμφωνα με το Facebook, πρόσθεσε ταξινομητές ρητορικής μίσους στα Χίντι από τις αρχές του 2020 και εισήγαγε το Μπενγκάλι αργότερα εκείνο το έτος. Οι ταξινομητές για βία και υποκίνηση στα Χίντι και τα Μπενγκάλι κυκλοφόρησαν για πρώτη φορά στο διαδίκτυο στις αρχές του 2021.



Διαβάστε επίσης|Η διακοπή του Facebook και του WhatsApp οδήγησε 70 εκατομμύρια χρήστες στο Telegram, λέει ο ιδρυτής Durov

Οκτώ έγγραφα που περιείχαν δεκάδες καταγγελίες από τον Χάουγκεν ανέβηκαν από το αμερικανικό δίκτυο ειδήσεων CBS News. Η Χάουγκεν αποκάλυψε την ταυτότητά της για πρώτη φορά τη Δευτέρα σε συνέντευξή της στο ειδησεογραφικό δίκτυο.

Απαντώντας σε ένα λεπτομερές ερωτηματολόγιο που έστειλε η Indian Express, εκπρόσωπος του Facebook είπε: Απαγορεύουμε τη ρητορική μίσους και το περιεχόμενο που υποκινεί τη βία. Με τα χρόνια, έχουμε επενδύσει σημαντικά στην τεχνολογία που εντοπίζει προληπτικά τη ρητορική μίσους, ακόμη και πριν μας το αναφέρουν οι άνθρωποι. Τώρα χρησιμοποιούμε αυτήν την τεχνολογία για τον προληπτικό εντοπισμό περιεχομένου παραβίασης στα Χίντι και τα Μπενγκάλι, μαζί με περισσότερες από 40 γλώσσες παγκοσμίως.

Η εταιρεία ισχυρίστηκε ότι από τις 15 Μαΐου 2021 έως τις 31 Αυγούστου 2021, έχει αφαιρέσει προληπτικά 8,77 lakh κομμάτια περιεχομένου ρητορικής μίσους στην Ινδία και έχει τριπλασιάσει τον αριθμό των ατόμων που εργάζονται σε θέματα ασφάλειας και ασφάλειας σε περισσότερα από 40.000, συμπεριλαμβανομένων περισσότερων από 15.000 ειδικούς αναθεωρητές περιεχομένου. Ως αποτέλεσμα, μειώσαμε την επικράτηση της ρητορικής μίσους παγκοσμίως - δηλαδή την ποσότητα του περιεχομένου που βλέπουν οι άνθρωποι - στο Facebook κατά σχεδόν 50 τοις εκατό τα τελευταία τρία τρίμηνα και τώρα έχει μειωθεί στο 0,05 τοις εκατό του συνόλου του περιεχομένου που προβάλλεται. Επιπλέον, έχουμε μια ομάδα αναθεωρητών περιεχομένου που καλύπτουν 20 ινδικές γλώσσες. Καθώς η ρητορική μίσους κατά των περιθωριοποιημένων ομάδων, συμπεριλαμβανομένων των μουσουλμάνων, συνεχίζει να αυξάνεται παγκοσμίως, συνεχίζουμε να σημειώνουμε πρόοδο στην επιβολή και δεσμευόμαστε να ενημερώσουμε τις πολιτικές μας καθώς η ρητορική μίσους εξελίσσεται στο διαδίκτυο, πρόσθεσε ο εκπρόσωπος.

Διαβάστε επίσης|Ο Whistleblower λέει ότι το Facebook πίεσε για υψηλότερα κέρδη, καβαλάρης έναντι της ασφάλειας

Το Facebook όχι μόνο ενημερώθηκε για τη φύση του περιεχομένου που δημοσιεύεται στην πλατφόρμα του, αλλά ανακάλυψε επίσης, μέσω άλλης μελέτης, τον αντίκτυπο των αναρτήσεων που μοιράζονται οι πολιτικοί. Στο εσωτερικό έγγραφο με τίτλο «Επιπτώσεις της κοινής παραπληροφόρησης πολιτικών», σημειώθηκε ότι παραδείγματα παραπληροφόρησης υψηλού κινδύνου που κοινοποιήθηκαν από πολιτικούς περιελάμβαναν την Ινδία, και αυτό οδήγησε σε κοινωνικό αντίκτυπο βίντεο εκτός πλαισίου που υποκινεί κατά του Πακιστάν και κατά των Μουσουλμάνων συναίσθημα.

Ένα συγκεκριμένο παράδειγμα για την Ινδία του τρόπου με τον οποίο οι αλγόριθμοι του Facebook προτείνουν περιεχόμενο και ομάδες σε άτομα προέρχεται από μια έρευνα που διεξήχθη από την εταιρεία στη Δυτική Βεγγάλη, όπου το 40 τοις εκατό των κορυφαίων χρηστών του δείγματος, με βάση τις εντυπώσεις που δημιουργήθηκαν στις αναρτήσεις πολιτών τους, βρέθηκε ότι να είναι ψεύτικο/αυθεντικό. Ο χρήστης με τις υψηλότερες προβολές θύρας προβολής (VPV) ή εμφανίσεις, που πρέπει να αξιολογηθεί ως μη αυθεντικό, είχε περισσότερους από 30 εκατομμύρια χρήστες που συγκεντρώθηκαν στο L28. Το L28 αναφέρεται από το Facebook ως ένας κάδος χρηστών ενεργών σε έναν δεδομένο μήνα.

Διαβάστε επίσης|«Τα προϊόντα του Facebook βλάπτουν τα παιδιά, το Stoke Division»: Κορυφαία αποσπάσματα από τη μαρτυρία της Frances Haugen

Μια άλλη καταγγελία υπογραμμίζει την έλλειψη ρύθμισης από το Facebook για πολλαπλούς λογαριασμούς ενός χρήστη, ή SUMA, ή διπλούς χρήστες, και αναφέρει εσωτερικά έγγραφα για να περιγράψει τη χρήση των SUMA στον διεθνή πολιτικό λόγο. Η καταγγελία ανέφερε: Μια εσωτερική παρουσίαση σημείωσε ότι ένας αξιωματούχος του κόμματος για το BJP της Ινδίας χρησιμοποίησε SUMA για να προωθήσει μηνύματα υπέρ των Χίντι.

Τα ερωτήματα που στάλθηκαν στο RSS και το BJP έμειναν αναπάντητα.

Οι καταγγελίες επισημαίνουν επίσης συγκεκριμένα πώς οι βαθιές αναδημοσιεύσεις οδηγούν σε παραπληροφόρηση και βία. Το βάθος αναδημοσίευσης έχει οριστεί ως ο αριθμός των αναπηδήσεων από την αρχική ανάρτηση στο Facebook στην αλυσίδα αναδημοσίευσης.

Η Ινδία κατατάσσεται μεταξύ των κορυφαίων χωρών από το Facebook όσον αφορά τις προτεραιότητες πολιτικής του. Από τον Ιανουάριο-Μάρτιο του 2020, η Ινδία, μαζί με τη Βραζιλία και τις ΗΠΑ, είναι μέρος των χωρών Tier 0, δείχνει η καταγγελία. Η βαθμίδα 1 περιλαμβάνει τη Γερμανία, την Ινδονησία, το Ιράν, το Ισραήλ και την Ιταλία.



Ένα εσωτερικό έγγραφο με τίτλο Civic Summit Q1 2020 σημείωσε ότι η σύνοψη παραπληροφόρησης, με στόχο την αφαίρεση, τη μείωση, την ενημέρωση/μέτρηση της παραπληροφόρησης σε εφαρμογές FB είχε παγκόσμια κατανομή προϋπολογισμού υπέρ των ΗΠΑ. Ανέφερε ότι το 87 τοις εκατό του προϋπολογισμού για αυτούς τους στόχους διατέθηκε στις ΗΠΑ, ενώ ο Υπόλοιπος Κόσμος (Ινδία, Γαλλία και Ιταλία) διατέθηκε το υπόλοιπο 13 τοις εκατό. Αυτό συμβαίνει παρά το γεγονός ότι οι ΗΠΑ και ο Καναδάς αποτελούν μόνο περίπου το 10 τοις εκατό των «ημερήσιων ενεργών χρηστών»…, προστίθεται στην καταγγελία.

Η Ινδία είναι μια από τις μεγαλύτερες αγορές για το Facebook όσον αφορά τους χρήστες με βάση χρηστών 410 εκατομμυρίων για το Facebook, 530 εκατομμύρια και 210 εκατομμύρια για το WhatsApp και το Instagram, αντίστοιχα, τις δύο υπηρεσίες που κατέχει.

Την Τρίτη, η Χάουγκεν εμφανίστηκε ενώπιον μιας Επιτροπής Γερουσίας των ΗΠΑ όπου κατέθεσε για την έλλειψη εποπτείας του Facebook για μια εταιρεία με τρομακτική επιρροή σε τόσους πολλούς ανθρώπους.

Σε μια ανάρτηση στο Facebook μετά την ακρόαση στη Γερουσία, ο Διευθύνων Σύμβουλος Mark Zuckerberg είπε: Το επιχείρημα ότι προωθούμε σκόπιμα περιεχόμενο που θυμώνει τους ανθρώπους με σκοπό το κέρδος είναι βαθιά παράλογο. Κερδίζουμε χρήματα από διαφημίσεις και οι διαφημιζόμενοι μάς λένε συνεχώς ότι δεν θέλουν οι διαφημίσεις τους δίπλα σε επιβλαβές ή θυμωμένο περιεχόμενο. Και δεν γνωρίζω καμία εταιρεία τεχνολογίας που σκοπεύει να κατασκευάσει προϊόντα που προκαλούν θυμό ή κατάθλιψη στους ανθρώπους. Τα ηθικά, επιχειρηματικά και προϊόντα κίνητρα δείχνουν όλα προς την αντίθετη κατεύθυνση.