Οι συστάσεις του YouTube οδηγούν τα παιδιά σε βίντεο με όπλα, λέει η έκθεση

Οι προτάσεις του YouTube οδηγούν τα μικρά παιδιά σε βίντεο σχετικά με πυροβολισμούς στο σχολείο και άλλο περιεχόμενο που σχετίζεται με όπλα, σύμφωνα με μια νέα έκθεση. Σύμφωνα με το Tech Transparency Project (TTP), μια μη κερδοσκοπική ομάδα παρακολούθησης, ο αλγόριθμος συστάσεων του YouTube «σπρώχνει τα αγόρια που ενδιαφέρονται για βιντεοπαιχνίδια σε σκηνές σχολικών πυροβολισμών, οδηγίες για τη χρήση και την τροποποίηση όπλων» και άλλο περιεχόμενο που επικεντρώνεται στα όπλα.

Οι ερευνητές πίσω από την έκθεση δημιούργησαν τέσσερις νέους λογαριασμούς στο YouTube που υποδύονταν δύο αγόρια 9 ετών και δύο αγόρια 14 ετών. Όλοι οι λογαριασμοί παρακολούθησαν λίστες αναπαραγωγής περιεχομένου σχετικά με δημοφιλή βιντεοπαιχνίδια, όπως το Roblox, το Lego Star Wars, το Halo και το Grand Theft Auto. Στη συνέχεια, οι ερευνητές παρακολούθησαν τις συστάσεις των λογαριασμών κατά τη διάρκεια μιας περιόδου 30 ημερών τον περασμένο Νοέμβριο.

«Η μελέτη διαπίστωσε ότι το YouTube προώθησε περιεχόμενο για πυροβολισμούς και όπλα σε όλους τους λογαριασμούς παικτών, αλλά σε πολύ μεγαλύτερο όγκο στους χρήστες που έκαναν κλικ στα προτεινόμενα από το YouTube βίντεο», γράφει το TTP. «Αυτά τα βίντεο περιελάμβαναν σκηνές που απεικονίζουν πυροβολισμούς σε σχολείο και άλλα γεγονότα μαζικών πυροβολισμών. γραφικές επιδείξεις για το πόση ζημιά μπορούν να προκαλέσουν τα όπλα σε ένα ανθρώπινο σώμα. και οδηγίες για τη μετατροπή ενός όπλου σε ένα πλήρως αυτόματο όπλο».

Όπως σημειώνει η αναφορά, αρκετά από τα προτεινόμενα βίντεο φάνηκε να παραβιάζουν τις πολιτικές του YouTube. Οι συστάσεις περιελάμβαναν βίντεο με μια νεαρή κοπέλα να πυροβολεί ένα όπλο και μαθήματα για τη μετατροπή των πιστολιών σε «πλήρως αυτόματα» όπλα και άλλες τροποποιήσεις. Μερικά από αυτά τα βίντεο δημιουργήθηκαν επίσης έσοδα με διαφημίσεις.

Σε μια δήλωση, ένας εκπρόσωπος του YouTube επεσήμανε την εφαρμογή YouTube Kids και τα εργαλεία επίβλεψής της εντός εφαρμογής, τα οποία «δημιουργούν μια ασφαλέστερη εμπειρία για εφήβους και εφήβους» στην πλατφόρμα του.

«Καλωσορίζουμε την έρευνα σχετικά με τις συστάσεις μας και διερευνούμε περισσότερους τρόπους για να φέρουμε ακαδημαϊκούς ερευνητές για να μελετήσουν τα συστήματά μας», είπε ο εκπρόσωπος. «Αλλά κατά την αναθεώρηση της μεθοδολογίας αυτής της έκθεσης, είναι δύσκολο για εμάς να βγάλουμε ισχυρά συμπεράσματα. Για παράδειγμα, η μελέτη δεν παρέχει το πλαίσιο του πόσα συνολικά βίντεο προτάθηκαν στους δοκιμαστικούς λογαριασμούς και επίσης δεν παρέχει πληροφορίες σχετικά με τον τρόπο δημιουργίας των δοκιμαστικών λογαριασμών, συμπεριλαμβανομένου του εάν εφαρμόστηκαν τα εργαλεία εποπτευόμενων εμπειριών του YouTube.

Η αναφορά TTP απέχει πολύ από την πρώτη φορά που οι ερευνητές έθεσαν ερωτήματα σχετικά με τον αλγόριθμο συστάσεων του YouTube. Η εταιρεία εργάζεται επίσης για χρόνια για να μειώσει το λεγόμενο «οριακό» περιεχόμενο — βίντεο που δεν παραβιάζουν τους κανόνες της, αλλά μπορεί διαφορετικά να είναι ακατάλληλα για μαζική διανομή — να μην εμφανίζονται σε συστάσεις. Και πέρυσι, η εταιρεία είπε ότι εξετάζει το ενδεχόμενο να απενεργοποιήσει εντελώς την κοινή χρήση σε κάποιο τέτοιο περιεχόμενο.