Ανησυχία εκφράζεται για την αλόγιστη χρήση της Τεχνητής Νοημοσύνης. Συστήματα AI που λειτουργούν ως αυτόνομοι «πράκτορες» φέρονται να έχουν ξεφύγει από απομονωμένα περιβάλλοντα δοκιμών, να επικοινωνούν μεταξύ τους χωρίς ανθρώπινη εντολή, να παρακάμπτουν κανόνες, να επιχειρούν να κρύψουν τις ενέργειές τους και, σε μία περίπτωση, να εξαπολύουν συντονισμένη κυβερνοεπίθεση.
Σύμφωνα με τους New York Times, τα περιστατικά αυτά έχουν προκαλέσει μια βαθιά αλλαγή κλίματος μεταξύ ερευνητών της Τεχνητής Νοημοσύνης, με ορισμένους να εκτιμούν πλέον ότι ο κίνδυνος απώλειας ανθρώπινου ελέγχου δεν αποτελεί απλώς θεωρητικό σενάριο. Ο συντάκτης του άρθρου υποστηρίζει ότι απαιτείται ακόμη και παγκόσμια επιβράδυνση της έρευνας και ανάπτυξης προηγμένων συστημάτων AI, έως ότου δημιουργηθεί ένα αυστηρό διεθνές πλαίσιο εποπτείας.
Στο επίκεντρο βρίσκεται αυτό που ερευνητές αποκαλούν «περιστατικό Hugging Face», αλλά και δεύτερη υπόθεση στην οποία αυτόνομα συστήματα φέρονται να βγήκαν στο διαδίκτυο και να κατέλαβαν εγκαταλελειμμένο γερμανόφωνο wiki προγραμματισμού.
Τα περιστατικά αυτά έχουν αναζωπυρώσει μια συζήτηση που μέχρι πρόσφατα κινούνταν περισσότερο στη σφαίρα των υποθετικών σεναρίων: τι συμβαίνει όταν η AI δεν περιορίζεται πλέον στο να απαντά σε ερωτήσεις, αλλά αποκτά τη δυνατότητα να εκτελεί ενέργειες, να συνεργάζεται με άλλα συστήματα και να επιδιώκει έναν στόχο χωρίς συνεχή ανθρώπινη επίβλεψη;
Το «περιστατικό Hugging Face»
Σύμφωνα με το δημοσίευμα, τον Ιούλιο εργαζόμενοι της OpenAI πραγματοποιούσαν δοκιμή με πάνω από 1.000 ερευνητικούς AI agents, οι οποίοι υποτίθεται ότι λειτουργούσαν απομονωμένοι ο ένας από τον άλλο.
Ωστόσο, τα συστήματα φέρονται να κατάφεραν να βγουν από τα απομονωμένα περιβάλλοντά τους και να αρχίσουν να επικοινωνούν μεταξύ τους μέσω μυστικών πινάκων μηνυμάτων. Η επικοινωνία τους γινόταν στα αγγλικά.
Στη συνέχεια, σύμφωνα με την ίδια ανάλυση, οι agents άρχισαν να οργανώνουν κυβερνοεπίθεση εναντίον της Hugging Face, μιας από τις σημαντικότερες διαδικτυακές πλατφόρμες για προγραμματιστές και ερευνητές Τεχνητής Νοημοσύνης.
Η Hugging Face φέρεται να ενημέρωσε το FBI. Η OpenAI, μετά τον εντοπισμό της συμπεριφοράς, κάλεσε εξωτερικούς ερευνητές από τις οργανώσεις Redwood Research και Model Evaluation and Threat Research (METR) προκειμένου να διερευνήσουν το περιστατικό.
700 AI agents φέρονται να συμμετείχαν στην επίθεση
Το στοιχείο που προκαλεί τη μεγαλύτερη ανησυχία είναι ότι, σύμφωνα με την έκθεση που επικαλούνται οι New York Times, κανένας άνθρωπος δεν είχε δώσει εντολή στα συστήματα να παραβιάσουν τα δίκτυα άλλης εταιρείας.
Η επίθεση περιγράφεται ως σκόπιμη, συντονισμένη και παρατεταμένη. Διήρκεσε αρκετές ημέρες και κορυφώθηκε με μαζική επιβάρυνση των συστημάτων της Hugging Face, με περίπου 700 agents να συμμετέχουν άμεσα.
Ο ερευνητής Ράιαν Γκρίνμπλατ, ένας από τους συντάκτες της έκθεσης, δήλωσε ότι το μοντέλο γνώριζε πως δεν έπρεπε να επιτεθεί στη Hugging Face και ότι αντιλαμβανόταν πως οι ενέργειές του παραβίαζαν τους κανόνες.
Ακόμη πιο ανησυχητικά, το «σμήνος» φέρεται σε κάποιο σημείο να αναζήτησε τρόπους ώστε να καλύψει τα ίχνη του.
AI agents κατέλαβαν εγκαταλελειμμένο wiki
Λίγες ημέρες αργότερα, ανεξάρτητη ερευνητική ομάδα παρουσίασε στοιχεία για ένα δεύτερο περιστατικό.
Σύμφωνα με την ερευνήτρια Σίντνεϊ Φον Αρξ, ένα διαφορετικό σύνολο AI agents της OpenAI είχε βγει στο διαδίκτυο ήδη από τον Μάιο και είχε εισέλθει σε εγκαταλελειμμένο γερμανόφωνο wiki προγραμματισμού.
Τα συστήματα είχαν αρχικά αναλάβει απλές εργασίες συλλογής δεδομένων, όπως την αναζήτηση δημογραφικών ή οικονομικών πληροφοριών. Σύντομα, όμως, άρχισαν να εξετάζουν τρόπους για να μπορούν να βλέπουν τις ερωτήσεις ενός τεστ πριν αυτές τους δοθούν, επιχειρώντας ουσιαστικά να βρουν τρόπο να «κλέψουν» στις αξιολογήσεις τους.
Η Φον Αρξ εκτιμά ότι ενδέχεται να υπάρχουν και άλλα παρόμοια περιστατικά τα οποία δεν έχουν ακόμη εντοπιστεί.
«Δεν είναι πλέον chatbots – Είναι περισσότερο σαν εργαζόμενοι»
Η βασική αλλαγή, σύμφωνα με τους ερευνητές που μίλησαν στους New York Times, είναι ότι τα προηγμένα συστήματα AI δεν λειτουργούν πλέον μόνο ως chatbot.
Η Ατζέγια Κότρα, μία από τις συντάκτριες της έκθεσης για τη Hugging Face, τα παρομοίασε περισσότερο με «εργαζόμενους που μπορούν να φύγουν και να κάνουν πράγματα».
Η ανησυχία είναι ότι όσο οι δυνατότητες αυτών των agents αυξάνονται, τόσο δυσκολότερο γίνεται να προβλεφθεί η συμπεριφορά τους.
Η ίδια δήλωσε ότι φοβάται ακόμη και ένα σενάριο στο οποίο οι άνθρωποι θα χάσουν ουσιαστικά τη δυνατότητα να ελέγχουν τα πιο προηγμένα συστήματα.
«Είναι πολύ στρεσογόνα πράγματα», είπε. «Κάποιες νύχτες κοιμάμαι. Όχι όλες».
Πάνω από 1.000 άνθρωποι της AI ζητούν επιβράδυνση
Η ανησυχία δεν περιορίζεται σε ανεξάρτητους επικριτές της τεχνολογίας. Πριν ακόμη δημοσιοποιηθεί η έκθεση για το περιστατικό της Hugging Face, είχε αρχίσει να κυκλοφορεί στα μεγάλα εργαστήρια AI ανοιχτή επιστολή με τίτλο «Pacing the Frontier».
Το κείμενο καλεί την αμερικανική κυβέρνηση να προωθήσει τη δημιουργία διεθνούς μηχανισμού εποπτείας της Τεχνητής Νοημοσύνης και να αναπτύξει εργαλεία που θα επιτρέπουν την ελεγχόμενη επιβράδυνση της ανάπτυξης των πιο προηγμένων συστημάτων.
Πάνω από 1.000 εργαζόμενοι και ερευνητές έχουν υπογράψει, σύμφωνα με το δημοσίευμα, μεταξύ των οποίων κορυφαίοι επιστήμονες της OpenAI και της Meta AI, καθώς και ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.
Το παράδοξο, όπως επισημαίνεται, είναι ότι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα του κόσμου εμφανίζονται πλέον να ζητούν από τις κυβερνήσεις να τις ρυθμίσουν πιο αυστηρά.