ΕΠΙΚΑΙΡΟΤΗΤΑ

Το Grok του Elon Musk είναι εργαλείο παιδόφιλων και σεξιστών που «γδύνουν» την Kate Middleton

Samir Hussein/WireImage

Tο Grok, το chatbot στην πλατφόρμα κοινωνικής δικτύωσης X του Elon Musk δημιουργεί σχεδόν γυμνές εικόνες όταν οι χρήστες ζητούν επεξεργασία σε φωτογραφίες. Η νέα λειτουργία του Grok που επιτρέπει την τροποποίηση εικόνων (μετατρέπει φωτογραφίες πραγματικών ανθρώπων σε ψεύτικες γυμνές εικόνες και βίντεο χωρίς την άδειά τους), χρησιμοποιήθηκε σε μαζική κλίμακα για τη δημιουργία εικόνων γυμνών γυναικών και παιδιών. Το Reuters έχει εντοπίσει αρκετές περιπτώσεις όπου το Grok δημιούργησε σεξουαλικές εικόνες παιδιών. Υπουργοί στη Γαλλία κατήγγειλαν το Χ σε εισαγγελείς και ρυθμιστικές αρχές επιμένοντας ότι η πλατφόρμα δεν κατάφερε να αποτρέψει την κακή χρήση του Grokετά την κυκλοφορία χιλιάδων προσωπικών deepfakes) μέσω της δημιουργίας και κυκλοφορίας άσεμνου περιεχομένου. Τα πανομοιότυπα αιτήματά στο ChatGPT και στο Gemini – που έχουν αυτές τις δικλείδες ασφαλείας – απορρίφθηκαν.

Τι πρέπει να ξέρεις για το σκάνδαλο deepfakes του Grok;

Το Grok αφαιρεί ρούχα από φωτογραφίες ανθρώπων χωρίς τη συγκατάθεσή τους, μετά την κυκλοφορία μιας λειτουργίας που επιτρέπει στους χρήστες του X να επεξεργάζονται άμεσα οποιαδήποτε εικόνα χρησιμοποιώντας το bot χωρίς να χρειάζονται την άδεια του αρχικού χρήστη

Είναι ήδη παράνομη η δημιουργία ή η κοινοποίηση μη συναινετικών προσωπικών εικόνων ή υλικού σεξουαλικής κακοποίησης παιδιών, συμπεριλαμβανομένων των σεξουαλικών deepfakes που δημιουργούνται με τεχνητή νοημοσύνη. Το Ίδρυμα Παρακολούθησης Διαδικτύου (Internet Watch Foundation/ IWF) με έδρα το Ηνωμένο Βασίλειο δήλωσε ότι οι χρήστες ενός φόρουμ στο dark web καυχιόντουσαν ότι χρησιμοποίησαν το Grok Imagine για να δημιουργήσουν σεξουαλικές και γυμνές εικόνες κοριτσιών ηλικίας μεταξύ 11 και 13 ετών. Μερικοί χρήστες έχουν απαιτήσει πιο ακραίο περιεχόμενο, ζητώντας από το chatbot να διακοσμήσει τα μπικίνι με σβάστικες ή με τροποποιήσεις σε φωτογραφίες γυναικών ώστε να φαίνονται θύματα κακοποίησης. Το chatbot έχει ανταποκριθεί στις προσδοκίες προσθέτοντας εγκαύματα από τσιγάρα, μώλωπες στο πρόσωπο και αίμα σε ορισμένες εικόνες γυναικών.

Το X έχει δηλώσει ότι λαμβάνει μέτρα κατά του παράνομου περιεχομένου, συμπεριλαμβανομένου του υλικού σεξουαλικής κακοποίησης παιδιών, «αφαιρώντας το, αναστέλλοντας οριστικά λογαριασμούς και συνεργαζόμενο με τις τοπικές κυβερνήσεις και τις αρχές επιβολής του νόμου, όπως απαιτείται».

Η eSafety Australia (η αρμόδια αρχή για την ασφάλεια στο διαδίκτυο της Αυστραλίας) επίσης αναφέρει ότι «έχει λάβει αρκετές αναφορές σχετικά με τη χρήση του Grok για τη δημιουργία σεξουαλικών εικόνων χωρίς συγκατάθεση» από τα τέλη του 2025. Η 43χρονη πριγκίπισσα της Ουαλίας, μια ηθοποιός του Stranger Things και μια δημοσιογράφος του BBC είναι μόνο μερικοί από τους στόχους στο Grok (με ψεύτικες γυμνές ή ελάχιστα ντυμένες φωτογραφίες τους). 

Ο Elon Musk δημοσίευσε επίσης μια απάντηση σε ένα ερώτημα σχετικά με τη «δημιουργία ακατάλληλων εικόνων» από το Grok. «Όποιος χρησιμοποιεί το Grok για να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες σαν να ανέβαζε παράνομο περιεχόμενο», έγραψε.

Τα προϊόντα τεχνητής νοημοσύνης του Elon Musk διαφημίζονται εμφανώς ως έντονα σεξουαλικοποιημένα. Αυτό είναι γεγονός.