Το Discord απαγορεύει τους διακομιστές γνωριμιών για εφήβους και την κοινή χρήση CSAM που δημιουργείται από AI

Η Discord ενημέρωσε την πολιτική της για την προστασία των παιδιών και των εφήβων στην πλατφόρμα της μετά από αναφορές ότι αρπακτικά χρησιμοποιούν την εφαρμογή για να δημιουργήσουν και να διαδώσουν υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), καθώς και για να καλλωπίσουν νεαρούς εφήβους. Η πλατφόρμα πλέον απαγορεύει ρητά το φωτορεαλιστικό CSAM που δημιουργείται από AI. Όπως ανέφερε πρόσφατα η Washington Post, η άνοδος της γενετικής τεχνητής νοημοσύνης οδήγησε επίσης στην έκρηξη ρεαλιστικών εικόνων με σεξουαλικές απεικονίσεις παιδιών. Η δημοσίευση είχε δει συζητήσεις σχετικά με τη χρήση του Midjourney – μιας τεχνητής νοημοσύνης που δημιουργεί κείμενο σε εικόνα στο Discord – για τη δημιουργία ακατάλληλων εικόνων παιδιών.

Εκτός από την απαγόρευση του CSAM που δημιουργείται από την τεχνητή νοημοσύνη, το Discord πλέον απαγορεύει επίσης ρητά κάθε άλλο είδος περιεχομένου κειμένου ή πολυμέσων που κάνει σεξουαλικά παιδιά. Η πλατφόρμα έχει απαγορεύσει επίσης τους διακομιστές γνωριμιών για εφήβους και έχει δεσμευτεί να λάβει μέτρα κατά των χρηστών που εμπλέκονται σε αυτήν τη συμπεριφορά. Μια προηγούμενη έρευνα του NBC News βρήκε ότι οι διακομιστές Discord διαφημίζονταν ως διακομιστές γνωριμιών εφήβων με συμμετέχοντες που ζητούσαν γυμνές εικόνες από ανηλίκους.

Ενήλικες χρήστες είχαν ασκηθεί ποινική δίωξη στο παρελθόν για περιποίηση παιδιών στο Discord, ενώ υπάρχουν ακόμη και κυκλώματα εγκλημάτων που εκβιάζουν ανήλικους χρήστες να στείλουν σεξουαλικές εικόνες του εαυτού τους. Η πλήρης απαγόρευση των διακομιστών γνωριμιών για εφήβους θα μπορούσε να βοηθήσει στην άμβλυνση του προβλήματος. Η Discord έχει επίσης συμπεριλάβει μια γραμμή στην πολιτική της, η οποία δηλώνει ότι οι μεγαλύτεροι έφηβοι που διαπιστώνεται ότι περιποιούνται νεότερους εφήβους θα “εξεταστούν και θα ληφθούν μέτρα σύμφωνα με [its] Ανάρμοστη σεξουαλική συμπεριφορά με παιδιά και πολιτική καλλωπισμού.”

Εκτός από την ενημέρωση των κανόνων του, το Discord κυκλοφόρησε πρόσφατα ένα εργαλείο Family Center που μπορούν να χρησιμοποιήσουν οι γονείς για να παρακολουθούν τη δραστηριότητα των παιδιών τους στην υπηρεσία συνομιλίας. Ενώ οι γονείς δεν θα μπορούν να δουν το πραγματικό περιεχόμενο του μηνύματος των παιδιών τους, το εργαλείο συμμετοχής τους επιτρέπει να βλέπουν με ποιους είναι φίλοι τα παιδιά τους και με ποιους μιλούν στην πλατφόρμα. Η Discord ελπίζει ότι αυτά τα νέα μέτρα και εργαλεία μπορούν να βοηθήσουν να διατηρήσει τους ανήλικους χρήστες της ασφαλείς μαζί με τα παλιά μέτρα της, τα οποία περιλαμβάνουν προληπτική σάρωση εικόνων που έχουν ανέβει στην πλατφόρμα της χρησιμοποιώντας το PhotoDNA.