Τεχνητή Νοημοσύνη: Ο εφιάλτης που έρχεται – Μπορεί να σχεδιάσει τον επόμενο φονικό ιό;
Η τεχνητή νοημοσύνη έχει ήδη μάθει να γράφει κείμενα, να δημιουργεί εικόνες, να προγραμματίζει και να επιταχύνει την ανακάλυψη νέων φαρμάκων. Τώρα, όμως, ένα πολύ πιο ευαίσθητο σύνορο αρχίζει να γίνεται ορατό: η δυνατότητα προηγμένων συστημάτων AI να χρησιμοποιηθούν στον σχεδιασμό βιολογικών οργανισμών και, δυνητικά, στην ανάπτυξη επικίνδυνων παθογόνων.
Μέχρι πρόσφατα, το ενδεχόμενο αποτελούσε κυρίως αντικείμενο θεωρητικών σεναρίων βιοασφάλειας. Οι τελευταίες εξελίξεις δείχνουν ότι το ερώτημα αποκτά πλέον πρακτική διάσταση, χωρίς αυτό να σημαίνει ότι η τεχνητή νοημοσύνη έχει ήδη δημιουργήσει έναν νέο πανδημικό ιό.
Το πρώτο σημαντικό καμπανάκι ήρθε από την επιστημονική έρευνα. Ερευνητές στις Ηνωμένες Πολιτείες χρησιμοποίησαν εργαλεία τεχνητής νοημοσύνης για να σχεδιάσουν γονιδιώματα βακτηριοφάγων – ιών δηλαδή που προσβάλλουν βακτήρια και όχι ανθρώπους. Το επιστημονικό ενδιαφέρον είναι τεράστιο. Τέτοιες τεχνολογίες θα μπορούσαν μελλοντικά να συμβάλουν στην αντιμετώπιση ανθεκτικών βακτηριακών λοιμώξεων και να ανοίξουν νέους δρόμους στη συνθετική βιολογία.
Η ίδια δυνατότητα, ωστόσο, δημιουργεί ένα προφανές δίλημμα. Ένα σύστημα που μπορεί να βοηθήσει έναν επιστήμονα να σχεδιάσει έναν ωφέλιμο βιολογικό οργανισμό ενδέχεται, όσο γίνεται ισχυρότερο, να μπορεί να χρησιμοποιηθεί και προς την αντίθετη κατεύθυνση.
Και εδώ βρίσκεται η ουσία του προβλήματος: η βιολογία είναι ένας από τους κατεξοχήν τομείς «διττής χρήσης». Η ίδια γνώση που μπορεί να αξιοποιηθεί για την ανάπτυξη ενός εμβολίου ή μιας θεραπείας μπορεί, υπό διαφορετικές συνθήκες, να αποκτήσει επικίνδυνη εφαρμογή.
Οι ανησυχίες ενισχύθηκαν τον Σεπτέμβριο από έκθεση της Anthropic, μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο. Η εταιρεία αποκάλυψε ότι είχε εντοπίσει και αντιμετωπίσει πραγματικές περιπτώσεις στις οποίες ερευνητές ή άλλοι χρήστες επιχειρούσαν να χρησιμοποιήσουν μοντέλα Claude σε εργασίες που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων.
Η Anthropic παρουσίασε πέντε τέτοιες περιπτώσεις. Ανάμεσά τους περιλαμβάνονταν έρευνες σχετικές με ιούς, τοξίνες και άλλους βιολογικούς παράγοντες, καθώς και προσπάθειες παράκαμψης των μηχανισμών ασφαλείας των μοντέλων.
Σε μία περίπτωση, η εταιρεία εντόπισε έρευνα σχετική με τον ιό chikungunya και πειράματα τροποποίησης χαρακτηριστικών του. Σε άλλη περίπτωση, ερευνητής χρησιμοποίησε το Claude στο πλαίσιο εργασίας πάνω σε ιδιαίτερα παθογόνο ιό της γρίπης των πτηνών και στην προσαρμογή του σε θηλαστικά. Άλλες υποθέσεις αφορούσαν υπολογιστική έρευνα πάνω σε τοξίνες και δηλητήρια.
Αυτό δεν αποδεικνύει ότι οι συγκεκριμένοι επιστήμονες σχεδίαζαν βιολογικά όπλα. Η ίδια η Anthropic το επισημαίνει ρητά και αποφεύγει να αποδώσει κακόβουλη πρόθεση στους ερευνητές. Αποδεικνύει όμως κάτι διαφορετικό και εξαιρετικά σημαντικό: προηγμένα μοντέλα AI χρησιμοποιούνται ήδη σε πραγματικά ερευνητικά προγράμματα που βρίσκονται στην ευαίσθητη περιοχή μεταξύ ωφέλιμης επιστήμης και δυνητικά επικίνδυνης εφαρμογής.
Ακριβώς αυτή η «γκρίζα ζώνη» κάνει το πρόβλημα ιδιαίτερα δύσκολο να αντιμετωπιστεί.
Ένα σύστημα ασφαλείας μπορεί σχετικά εύκολα να απορρίψει ένα απροκάλυπτο αίτημα για δημιουργία βιολογικού όπλου. Πολύ δυσκολότερα μπορεί να αξιολογήσει μια σειρά επιστημονικών ερωτήσεων οι οποίες, εξεταζόμενες ξεχωριστά, μοιάζουν απολύτως νόμιμες. Ένας ερευνητής μπορεί να ζητά πληροφορίες για γενετικές μεταλλάξεις, πρωτεΐνες, ανοσολογικές αντιδράσεις ή σχεδιασμό πειραμάτων χωρίς ποτέ να δηλώνει έναν επικίνδυνο τελικό στόχο.
Η Anthropic αναφέρει μάλιστα ότι ορισμένοι χρήστες επιχείρησαν να παρακάμψουν γεωγραφικούς περιορισμούς ή άλλα μέτρα προστασίας. Η εταιρεία προχώρησε στο κλείσιμο σχετικών λογαριασμών και χρησιμοποίησε τα περιστατικά για να ενισχύσει τα συστήματα ασφαλείας της.
Η εξέλιξη αλλάζει και τη συζήτηση γύρω από τη ρύθμιση της τεχνητής νοημοσύνης. Δεν πρόκειται πλέον μόνο για fake news, πνευματικά δικαιώματα, απώλεια θέσεων εργασίας ή κυβερνοεπιθέσεις. Τα ισχυρότερα μοντέλα αρχίζουν να αποκτούν δυνατότητες που αγγίζουν την πραγματική επιστημονική έρευνα.
Ο επικεφαλής της Anthropic, Dario Amodei, έχει ζητήσει πλέον να επιβραδυνθεί ελεγχόμενα η κούρσα ανάπτυξης των ισχυρότερων συστημάτων ώστε οι μηχανισμοί ασφαλείας να μπορέσουν να ακολουθήσουν την τεχνολογική πρόοδο. Μεταξύ των κινδύνων που αναφέρει βρίσκονται ρητά η χρήση της AI σε κυβερνοεπιθέσεις και η βιοτρομοκρατία. Παράλληλα, έχει θέσει στο τραπέζι την ανάγκη διεθνούς συνεννόησης και ελέγχων στα προηγμένα μοντέλα πριν από την ευρεία διάθεσή τους.
Το πρόβλημα έχει μια ακόμη διάσταση. Όσο πιο αποτελεσματικά γίνονται τα συστήματα τεχνητής νοημοσύνης στην επιστημονική έρευνα, τόσο μεγαλύτερα μπορεί να είναι και τα οφέλη τους. Η ίδια τεχνολογία που προκαλεί φόβους για βιολογική κατάχρηση μπορεί να επιταχύνει την ανάπτυξη εμβολίων, αντιβιοτικών και θεραπειών για ασθένειες που σήμερα είναι δύσκολο να αντιμετωπιστούν.
Το δίλημμα επομένως δεν είναι εάν πρέπει να σταματήσει η χρήση της AI στη βιολογία. Είναι πώς θα επιτραπεί η αξιοποίησή της χωρίς να προσφερθούν ταυτόχρονα ισχυρά επιστημονικά εργαλεία σε όσους θα μπορούσαν να τα χρησιμοποιήσουν καταστροφικά.
Και αυτό είναι ίσως το πραγματικό μήνυμα των τελευταίων εξελίξεων. Η τεχνητή νοημοσύνη δεν έχει δημιουργήσει έναν νέο πανδημικό ιό. Έχει όμως πλησιάσει αρκετά στην πραγματική βιολογική έρευνα ώστε η πιθανότητα κατάχρησης να μην μπορεί πλέον να αντιμετωπίζεται ως σενάριο επιστημονικής φαντασίας.
Η επόμενη μεγάλη πρόκληση για την AI μπορεί επομένως να μην είναι να γίνει ακόμη πιο έξυπνη. Μπορεί να είναι να παραμείνει χρήσιμη στην επιστήμη χωρίς να μετατραπεί σε εργαλείο που θα κάνει την επικίνδυνη βιολογία ευκολότερη, ταχύτερη και προσβάσιμη σε πολύ περισσότερους ανθρώπους.