Οι λανθασμένοι αλγόριθμοι του Instagram κατηγορούνται πως διευκολύνουν την εξάπλωση της παιδικής πορνογραφίας
Σύμφωνα με πρόσφατη έρευνα της Wall Street Journal (WSJ), που δημοσιεύθηκε στις 7 Ιουνίου, η χαλαρή επιτήρηση του Instagram και οι λάθος αλγόριθμοι «προτεινόμενων» επιτρέπουν τη διάδοση της παιδικής πορνογραφίας και διευκολύνουν μεγάλα δίκτυα παιδεραστών και σωματεμπορίας παιδιών. Η έρευνα έγινε από το Stanford University και το University of Massachusetts Amherst μαζί με τη Wall Street Journal.
Το σύστημα της συγκεκριμένης κοινωνικής πλατφόρμας καθοδηγεί την πρόσβαση σε ακατάλληλο περιεχόμενο με ανηλίκους, μέσα από τα hashtag αναζήτησης. Αν και αυτό δεν αποτελεί στόχο του Instagram, oι αλγόριθμοί του προωθούν το παράνομο περιεχόμενο, κατευθύνοντας τους χρήστες του σε λογαριασμούς με ακατάλληλο υλικό που διατίθεται προς πώληση. Συγκεκριμένοι κωδικοί, όπως κάποιο emoji-χάρτη με διφορούμενο νόημα ή σύμβολα «πίτσας» ή «τυρί», έχουν χρησιμοποιηθεί για να συγκαλύψουν παράνομη δραστηριότητα που σχετίζεται με την παιδική πορνογραφία. Καθώς οι χρήστες του Instagram εν αγνοία τους χρησιμοποιούν τα hashtags που συνδέονται με παιδόφιλους, μπαίνουν σε λογαριασμούς που διαφημίζουν και πωλούν υλικό παιδικής πορνογραφίας, συμπεριλαμβανομένων εικόνων, βίντεο και ιδιαιτέρων «συναντήσεων».
Η έρευνα της Wall Street Journal αποκάλυψε βασικές αδυναμίες της Meta (μητρικής εταιρείας του Instagram) στο να ελέγξει αποτελεσματικά περιεχόμενο που ξεκάθαρα αφορά παιδική πορνογραφία.
Ο Alex Stamos, επικεφαλής ασφαλείας της Meta (της μητρικής του Instagram) μέχρι και το 2018 και διευθυντής σήμερα του Stanford Internet Observatory (SIO), σημείωσε: «Το ότι μια ομάδα τριών ακαδημαϊκών κατάφερε με σχετικά περιορισμένη έρευνα να ανακαλύψει ένα τόσο εκτεταμένο δίκτυο, πρέπει να σημάνει συναγερμό στη Meta. Ελπίζω ότι η εταιρεία θα ενεργοποιήσει ανθρώπους για ερευνητές».
Σύμφωνα με την Wall Street Journal, οι ερευνητές δημιούργησαν λογαριασμούς «ελέγχου», όπου μόλις εντόπισαν τον πρώτο λογαριασμό δικτύου παιδεραστών, άρχισαν να λαμβάνουν προτάσεις από αγοραστές και πωλητές «περιεχόμενου σεξ με παιδιά». «Το να ακολουθήσουμε λίγες μόνο από αυτές τις προτάσεις, ήταν αρκετό για να πλημμυρίσει ο λογαριασμός ελέγχου με περιεχόμενο που χρησιμοποιεί σεξουαλικά τα παιδιά», ανέφερε η έκθεση.
Οι ερευνητές του Stanford Internet Observatory, SIO, εντόπισαν 405 διακινητές αυτού που περιγράφεται ως «αυτοπροωθούμενο πορνογραφικό υλικό με παιδιά», δηλαδή λογαριασμούς που υποτίθεται πως διαχειρίζονται και τροφοδοτούν τα ίδια τα παιδιά, ορισμένα εκ των οποίων ισχυρίζονται ότι είναι ακόμη και 12 ετών.
Μετά από αυτές τις ανησυχητικές αποκαλύψεις, η Meta αναγνώρισε ότι υπάρχουν ελλείψεις στο ζήτημα «ελέγχου περιεχομένου» και ενεργοποίησε εσωτερική ομάδα εργασίας με στόχο την καταπολέμηση του προβλήματος στο Instagram. «Η παιδική σεξουαλική εκμετάλλευση είναι ένα φρικτό έγκλημα», δήλωσε εκπρόσωπος της Meta στη Wall Street Journal, αναγνωρίζοντας τη σοβαρότητα της κατάστασης.
Τα τελευταία δύο χρόνια, η Meta ισχυρίζεται ότι εξάρθρωσε 27 δίκτυα παιδεραστών, ενώ ήδη ξεκίνησε να μπλοκάρει χιλιάδες hashtags που χρησιμοποιήθηκαν στο παρελθόν για τη διάδοση περιεχομένου που προωθεί την γενετήσια εκμετάλλευση των παιδιών μέσα από το Instagram.
Ωστόσο, το πρόβλημα παραμένει και απαιτεί περαιτέρω ρυθμιστικά μέτρα, με στόχο να σταματήσουν οι αλγόριθμοι του Instagram να προωθούν συνδέσμους των παιδεραστών και το παράνομο περιεχόμενό τους. Αυτό είναι αναγκαίο προκειμένου να περιοριστεί η ακούσια συμβολή της πλατφόρμας σε τέτοια αποτρόπαια εγκλήματα και να προστατευθούν τα παιδιά-θύματα.
Πηγές:
2. https://www.instagram.com/p/CtPyKEfPkpO/