Συναγερμός για το AI της Anthropic: «Μπλόκο» στην κυκλοφορία του, φόβοι ότι μπορεί να «χακάρει» τραπεζικά συστήματα

Συναγερμός σήμανε στις ΗΠΑ για νέο μοντέλο τεχνητής νοημοσύνης (ΤΝ) της Anthropic. Ο υπουργός Οικονομικών της χώρας Σκοτ Μπέσεντ και ο πρόεδρος της Ομοσπονδιακής Τράπεζας, Τζερόμ Πάουελ, συγκάλεσαν επείγουσα συνάντηση με τους διευθύνοντες συμβούλους αμερικανικών τραπεζών αυτή την εβδομάδα, με σκοπό να προειδοποιήσουν τους επικεφαλής των χρηματοπιστωτικών ιδρυμάτων για τους κινδύνους που δημιουργεί στον κυβερνοχώρο το τελευταίο μοντέλο τεχνητής νοημοσύνης της Anthropic.

Η Anthropic λάνσαρε το νέο ισχυρό μοντέλο ΤΝ, το Mythos, νωρίτερα αυτή την εβδομάδα αλλά δεν προχώρησε σε ευρεία κυκλοφορία του επικαλούμενη ανησυχίες ότι αυτό θα μπορούσε να αποκαλύψει προηγουμένως άγνωστα τρωτά σημεία στον κυβερνοχώρο, μετέδιδε το Reuters.

Η εταιρεία ανακοίνωσε ότι το νέο μοντέλο είναι ικανό να εντοπίζει και να εκμεταλλεύεται αδυναμίες, σε “κάθε σημαντικό λειτουργικό σύστημα και κάθε σημαντικό πρόγραμμα περιήγησης ιστού”.

Την περασμένη εβδομάδα η Anthropic είχε ανακοινώσει ότι βρίσκεται σε συνεχείς συζητήσεις με αξιωματούχους της κυβέρνησης των ΗΠΑ σχετικά με τις “επιθετικές και αμυντικές δυνατότητες (του νέου μοντέλου ΤΝ) στον κυβερνοχώρο“.

Διεθνείς πηγές ανέφεραν ότι η Anthropic ενημέρωσε προληπτικά ανώτερους κυβερνητικούς αξιωματούχους των ΗΠΑ και βασικούς ενδιαφερόμενους φορείς του κλάδου σχετικά με τις δυνατότητες του Mythos, πριν αυτό το μοντέλο να κυκλοφορήσει επίσημα.

Η συνάντηση που διοργάνωσε το Υπουργείο Οικονομικών στην Ουάσινγκτον την Τρίτη, στην οποία αναφέρονταν σήμερα μεγάλα διεθνή ειδησεογραφικά πρακτορεία, είχε ως στόχο να διασφαλίσει ότι οι τράπεζες γνωρίζουν τους κινδύνους που θέτει το Mythos και άλλα παρόμοια μοντέλα και πως λαμβάνουν μέτρα για την υπεράσπιση των συστημάτων τους, ανέφεραν οι πηγές.

Οι ανησυχίες

Η κλήτευση των επικεφαλής αμερικανικών τραπεζών από τον ίδιο τον υπουργό Οικονομικών υπογραμμίζει τις ανησυχίες εντός της κυβέρνησης Τραμπ σχετικά με τις δυνατότητες του τελευταίου μοντέλου της Anthropic, λόγω της προηγμένης ικανότητάς του να ανιχνεύει τρωτά σημεία στον κυβερνοχώρο που θα μπορούσαν να εκμεταλλευτούν κακόβουλοι παράγοντες, σχολίαζαν οι Financial Times.

Στελέχη των τραπεζών προειδοποιούν εδώ και χρόνια για τους κινδύνους που αντιμετωπίζει το χρηματοπιστωτικό σύστημα στον κυβερνοχώρο. Στην ετήσια επιστολή του που δημοσιεύθηκε αυτή την εβδομάδα, ο επικεφαλής της JPMorgan Τζέιμι Ντάιμον έγραψε ότι οι κυβερνοεπιθέσεις «παραμένουν ένας από τους μεγαλύτερους κινδύνους μας» και πως «η Τεχνητή Νοημοσύνη σχεδόν σίγουρα θα επιδεινώσει αυτόν τον κίνδυνο» και θα απαιτούσε σημαντικές επενδύσεις για την άμυνα των τραπεζών.

Η Anthropic κυκλοφόρησε την Τρίτη το μοντέλο, με την ονομασία Claude Mythos Preview, σε επιλεγμένη ομάδα συνεργατών, συμπεριλαμβανομένων των Amazon, Apple και Microsoft, για να τους δώσει ένα «προβάδισμα στην ικανότητα να ασφαλίζουν τρωτά σημεία», αναφέρεται.

«Τα μοντέλα Τεχνητής Νοημοσύνης έχουν φτάσει σε ένα επίπεδο ικανότητας (ανάπτυξης υπολογιστικού) κώδικα όπου μπορούν να ξεπεράσουν τους πάντες, εκτός από τα πιο εξειδικευμένα άτομα, στην εύρεση και αξιοποίηση τρωτών σημείων λογισμικού», ανέφερε η Anthropic στην ανακοίνωση της κυκλοφορίας του νέου μοντέλο ΤΝ.

Η εταιρεία αποκάλυψε επίσης ότι το Mythos είχε ήδη εντοπίσει χιλιάδες σοβαρά τρωτά σημεία μερικά από τα οποία δεν είχαν εντοπιστεί εδώ και δεκαετίες.