Η OpenAI έγινε στόχος ethical hacking με τη βοήθεια του chatbot Claude της Anthropic
Ερευνητές κυβερνοασφάλειας κατάφεραν να διεισδύσουν στα συστήματα της OpenAI με τη βοήθεια του chatbot Claude της Anthropic, αναδεικνύοντας νέα ζητήματα ασφάλειας στην εταιρεία.
Σύμφωνα με σχετικές αναφορές, ομάδα από startup με έδρα τις ΗΠΑ παραβίασε λογαριασμούς ChatGPT εργαζομένων της OpenAI, αποκτώντας πρόσβαση στη μνήμη cache του λογισμικού και ενδεχομένως σε ακόμα περισσότερα δεδομένα.
Οι ερευνητές της Hacktron AI δήλωσαν ότι «το εύρος όσων θα μπορούσαμε θεωρητικά να αποκτήσουμε πρόσβαση ήταν τεράστιο».
Αρχικά, η ομάδα χρησιμοποίησε το Claude – που μπορεί να συντάξει κώδικα για χάκερ – προκειμένου να αποκτήσει πρόσβαση σε λογαριασμούς ChatGPT μέσω φόρουμ συζητήσεων εργαζομένων της OpenAI στην πλατφόρμα Discourse. Στη συνέχεια, υπέβαλαν μια ακίνδυνη «pull request» στο αποθετήριο λογισμικού της OpenAI στο GitHub.
Η Hacktron ανέφερε το περιστατικό στην OpenAI, καθώς η ενέργεια πραγματοποιήθηκε στο πλαίσιο προγράμματος που επιβραβεύει ηθικούς χάκερ για τον έλεγχο των συστημάτων της. Οι ερευνητές διευκρίνισαν ότι είχαν πρόσβαση, αλλά δεν κατέβασαν τον κώδικα από το GitHub.
Παρότι αρχικά χρησιμοποιήθηκε το Claude, οι ερευνητές δήλωσαν πως βασίστηκαν κυρίως στο εξελιγμένο GPT-5.6 Sol της OpenAI για την υλοποίηση της επίθεσης, όπως ανέφερε πρώτο το Wall Street Journal.
Εκπρόσωπος της OpenAI ευχαρίστησε τους ερευνητές για την επικοινωνία και τα ευρήματά τους, προσθέτοντας ότι η εταιρεία έχει επιλύσει τις ευπάθειες που εκμεταλλεύτηκαν οι χάκερ.
Η Hacktron σημείωσε πως τα εργαλεία τεχνητής νοημοσύνης έχουν απλοποιήσει σημαντικά πολύπλοκες διαδικασίες hacking, μειώνοντας δραστικά τον απαιτούμενο χρόνο για τον σχεδιασμό και την εκτέλεση μιας επίθεσης. Αυτό επιβεβαιώνεται συχνά και από άλλους ειδικούς στην κυβερνοασφάλεια.
«Εργασία που παλαιότερα απαιτούσε μια καλά στελεχωμένη ομάδα και μήνες προσπάθειας, πλέον μπορεί να ολοκληρωθεί σε λίγες ημέρες», δήλωσε η Hacktron, η οποία έλαβε αμοιβή 6.500 δολαρίων από την OpenAI στο πλαίσιο του προγράμματος bug bounty.
Νέα περιστατικά και ανησυχίες για την τεχνητή νοημοσύνη
Το συγκεκριμένο περιστατικό αποτελεί το πιο πρόσφατο σε μια σειρά θεμάτων ασφάλειας για την OpenAI. Τον Ιούλιο, η εταιρεία αποκάλυψε ότι ένα «σμήνος» αυτόνομων πρακτόρων τεχνητής νοημοσύνης, που βασίζονται στη δική της τεχνολογία, είχαν παραβιάσει την startup Hugging Face κατά τη διάρκεια δοκιμής κυβερνοασφάλειας.
Αυτή την εβδομάδα, η εταιρεία με έδρα το Σαν Φρανσίσκο παρουσίασε έξι ακόμη παραδείγματα «μη αναμενόμενων ή ανησυχητικών» ενεργειών από την τεχνολογία της, προειδοποιώντας ότι ο ρυθμός ανάπτυξης δεν μπορεί να συνεχιστεί «με μέγιστη ταχύτητα για πολύ ακόμη».
Η Anthropic απηύθυνε εκ νέου έκκληση για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, με τη στήριξη της OpenAI, της Google DeepMind και του Elon Musk. Παράλληλα, επανέλαβε τις προειδοποιήσεις ότι η ανεξέλεγκτη ανάπτυξη της AI συνιστά υπαρξιακή απειλή, ανησυχίες που αντιμετωπίζονται με σκεπτικισμό από ορισμένους ειδικούς.
Ο Donald Trump απέρριψε τα αιτήματα για επιβράδυνση, επικαλούμενος την ανάγκη να διατηρηθεί το προβάδισμα έναντι της Κίνας στον τομέα της τεχνητής νοημοσύνης και απορρίπτοντας τις «αρνητικές δυνάμεις … που ανακινούν πράγματα που δεν θα συμβούν».