Στο στόχαστρο της Κομισιόν η πλατφόρμα Χ του Ιλον Μασκ
Η Ευρωπαϊκή Επιτροπή ξεκίνησε έρευνα για το X του Ιλον Μασκ σχετικά με τη δημιουργία σεξουαλικά άσεμνων εικόνων και τη διάδοση πιθανού υλικού σεξουαλικής κακοποίησης παιδιών από το chatbot τεχνητής νοημοσύνης της πλατφόρμας Grok. Η επίσημη έρευνα, που ξεκίνησε χθες, επεκτείνει επίσης μια έρευνα για τα συστήματα συστάσεων του X, αλγορίθμους που βοηθούν τους χρήστες να ανακαλύπτουν νέο περιεχόμενο.
Το Grok έχει προκαλέσει διεθνή κατακραυγή επιτρέποντας στους χρήστες να γδύνουν ψηφιακά γυναίκες και παιδιά και να τους τοποθετούν σε προκλητικές πόζες. Η τεχνητή νοημοσύνη του Grok δημιούργησε περίπου 3 εκατομμύρια σεξουαλικές εικόνες σε λιγότερο από δύο εβδομάδες, συμπεριλαμβανομένων 23.000 που φαινόταν να απεικονίζουν παιδιά, σύμφωνα με ερευνητές του Κέντρου για την Καταπολέμηση του Ψηφιακού Μίσους.
Η Κομισιόν ανακοίνωσε ότι η έρευνα θα «διαπιστώσει εάν η εταιρεία αξιολόγησε και προσπάθησε να περιορίσει σωστά τους κινδύνους» που προκύπτουν από τις λειτουργίες του Grok στην ΕΕ, συμπεριλαμβανομένων των κινδύνων από την κοινή χρήση παράνομου περιεχομένου, όπως η δημιουργία παραποιημένων σεξουαλικά άσεμνων εικόνων και «περιεχόμενο που μπορεί να ισοδυναμεί» με υλικό σεξουαλικής κακοποίησης παιδιών. Η έρευνα ξεκίνησε βάσει του Νόμου περί Ψηφιακών Υπηρεσιών (DSA) της ΕΕ, ενός σχετικά νέου νομοθετήματος που αποσκοπεί στην προστασία των χρηστών του Διαδικτύου από ευρύ φάσμα βλαβών.
Ευρωπαίος αξιωματούχος δήλωσε ότι η Ευρωπαϊκή Επιτροπή δεν είχε πειστεί από τα περιοριστικά μέτρα που έλαβε η X για την αντιμετώπιση του προβλήματος. Μετά την αρχική κατακραυγή για τις παραποιημένες εικόνες, η εταιρεία περιόρισε αρχικά την πρόσβαση στο Grok μόνο σε συνδρομητές επί πληρωμή, αλλά αργότερα, υπό την πίεση των ευρωπαϊκών ρυθμιστικών Αρχών, ανακοίνωσε ότι εισήγαγε μέτρα για να εμποδίσει το Grok να επιτρέπει την επεξεργασία εικόνων πραγματικών ανθρώπων με αποκαλυπτικά ρούχα.
Αξιωματούχος της Κομισιόν δήλωσε ότι τα μέτρα δεν άρουν τις ευρύτερες ανησυχίες για το Grok. Η έρευνα εξετάζει τους συστημικούς κινδύνους της δημιουργίας παράνομου περιεχομένου, συμπεριλαμβανομένου περιεχομένου που απεικονίζει βία κατά των γυναικών και υλικό σεξουαλικής κακοποίησης παιδιών. Η X δεν είχε λάβει «αποτελεσματικά μέτρα περιορισμού για να μειώσει τον κίνδυνο στην πλατφόρμα της» ανέφερε.
Ανακοινώνοντας την έρευνα, η Χένα Βιρκούνεν, κορυφαία αξιωματούχος της επιτροπής για την τεχνολογική κυριαρχία, την ασφάλεια και τη δημοκρατία, τόνισε: «Οι μη συναινετικές σεξουαλικές αποκαλύψεις γυναικών και παιδιών αποτελούν μια βίαιη, απαράδεκτη μορφή υποβάθμισης. Με αυτή την έρευνα θα καθορίσουμε εάν η X έχει εκπληρώσει τις νομικές της υποχρεώσεις βάσει του νόμου DSA ή εάν αντιμετωπίζει τα δικαιώματα των ευρωπαίων πολιτών ως παράπλευρες απώλειες της υπηρεσίας της».