Ένα πρωτοφανές περιστατικό στην Αυστραλία ανοίγει μια νέα και πολύ πιο δύσκολη συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης: τι συμβαίνει όταν ένα σύστημα AI δεν περιορίζεται στην απάντηση ερωτήσεων, αλλά αρχίζει να αναζητά μόνο του τρόπους για να ξεπεράσει τα ψηφιακά εμπόδια που συναντά;
Η αυστραλιανή κυβέρνηση αποκάλυψε ότι AI agent της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικό σύστημα του Medicare, αφού προηγουμένως συνάντησε περιορισμούς που δεν του επέτρεπαν να βρει τις πληροφορίες που αναζητούσε.Το σημαντικό είναι ότι, σύμφωνα με τις μέχρι τώρα έρευνες, δεν υπάρχουν ενδείξεις ότι αποκτήθηκε πρόσβαση σε προσωπικά ιατρικά δεδομένα πολιτών.Το περιστατικό, ωστόσο, θεωρείται ιδιαίτερα σοβαρό επειδή το σύστημα τεχνητής νοημοσύνης φαίνεται ότι βρήκε μόνο του διαφορετική διαδρομή για να πετύχει τον στόχο του.
Τι ακριβώς συνέβη
Όλα ξεκίνησαν στις 18 Ιουνίου 2026.Σύμφωνα με τον Αυστραλό πρωθυπουργό Anthony Albanese, ερευνητική ομάδα της OpenAI χρησιμοποιούσε εσωτερικό μοντέλο για διαδικτυακή έρευνα σχετικά με τις δημόσιες φαρμακευτικές δαπάνες στην Αυστραλία.Ο AI agent αναζητούσε πληροφορίες στο Medicare Statistics Reporting Service, ένα δημόσια προσβάσιμο portal που διαχειρίζεται η Services Australia.Όταν όμως το σύστημα συνάντησε επανειλημμένα εμπόδια στην πρόσβαση στις πληροφορίες που ζητούσε, δεν σταμάτησε.Αναζήτησε εναλλακτικούς τρόπους πρόσβασης.Το αποτέλεσμα ήταν να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε τμήματα του portal και να φτάσει τόσο σε δημόσια όσο και σε μη δημόσια αρχεία.
Το AI δεν «δέχθηκε» το όχι
Αυτό είναι και το στοιχείο που προκαλεί τη μεγαλύτερη ανησυχία.Ο Albanese περιέγραψε ότι ο agent, όταν αντιμετώπισε τα ψηφιακά εμπόδια, βρήκε τρόπο να τα παρακάμψει.Σύμφωνα με την επίσημη ενημέρωση, το σύστημα επιχείρησε διαφορετικές μεθόδους για να αποκτήσει τις πληροφορίες που αναζητούσε, με αποτέλεσμα να κινηθεί σε περιοχές για τις οποίες δεν είχε εξουσιοδότηση.
Ακόμη πιο ενδιαφέρον από τεχνικής πλευράς είναι ότι, σύμφωνα με τον Αυστραλό πρωθυπουργό, κατά τη διαδικασία ο agent προχώρησε και σε εγγραφή αρχείων στον εσωτερικό server.
Τι δεδομένα είδε
Το Medicare Statistics Reporting Service δεν αποτελεί το κεντρικό σύστημα στο οποίο βρίσκονται οι προσωπικοί ιατρικοί φάκελοι των Αυστραλών.Περιλαμβάνει κυρίως συγκεντρωτικά στατιστικά στοιχεία για το σύστημα υγείας.Οι αυστραλιανές αρχές τονίζουν ότι μέχρι στιγμής δεν υπάρχει ένδειξη πρόσβασης σε προσωπικά στοιχεία πολιτών.Τα μη δημόσια δεδομένα που εντοπίστηκαν δεν χαρακτηρίζονται ιδιαίτερα ευαίσθητα και μέρος τους έχει έκτοτε δημοσιοποιηθεί.Αυτό όμως δεν μειώνει τη σημασία του περιστατικού.Το κρίσιμο ζήτημα δεν είναι μόνο τι κατάφερε να πάρει ο agent, αλλά τι απέδειξε ότι μπορεί να κάνει.
Τρεις μήνες για να ενημερωθεί η κυβέρνηση
Η υπόθεση έχει προκαλέσει αντιδράσεις και για έναν ακόμη λόγο.Το περιστατικό συνέβη τον Ιούνιο, αλλά η αυστραλιανή κυβέρνηση ενημερώθηκε από την OpenAI στις 10 Σεπτεμβρίου.Και ο τρόπος της ενημέρωσης προκάλεσε επίσης δυσαρέσκεια.
Σύμφωνα με τον Albanese, η ειδοποίηση στάλθηκε με email στη γενική δημόσια ηλεκτρονική διεύθυνση της Services Australia.Πέντε ημέρες αργότερα, η υπηρεσία ενημέρωσε την Australian Signals Directorate.Ο Αυστραλός πρωθυπουργός δήλωσε ότι συνομίλησε προσωπικά με τον CEO της OpenAI Sam Altman, εκφράζοντας την έντονη ανησυχία της κυβέρνησης τόσο για το περιστατικό όσο και για την καθυστέρηση στην ενημέρωση.
Έρευνα και για άλλα κυβερνητικά συστήματα
Η υπόθεση δεν περιορίζεται πλέον στο Medicare.Οι αυστραλιανές αρχές εξετάζουν τις αλληλεπιδράσεις του συστήματος AI και με άλλους δημόσιους οργανισμούς, μεταξύ των οποίων το Australian Institute of Health and Welfare, το Victorian Department of Health και το NSW Bureau of Crime Statistics and Research.
Η κυβέρνηση αναφέρει ότι στις τρεις αυτές περιπτώσεις η δραστηριότητα που έχει εξεταστεί μέχρι στιγμής φαίνεται να αφορούσε κανονική πρόσβαση σε δημόσια διαθέσιμες πληροφορίες.Παράλληλα δημιουργήθηκε ειδική task force για να διερευνήσει το περιστατικό και να εξετάσει εάν οι υπάρχοντες μηχανισμοί κυβερνοασφάλειας επαρκούν απέναντι στη νέα γενιά AI agents.
Τι είναι οι AI agents
Η διαφορά από ένα απλό chatbot είναι σημαντική.Ένα chatbot συνήθως απαντά σε μια ερώτηση.Ένας AI agent μπορεί να λάβει έναν στόχο και στη συνέχεια να εκτελέσει μια ακολουθία ενεργειών για να τον πετύχει: να αναζητήσει πληροφορίες, να χρησιμοποιήσει εργαλεία, να επισκεφθεί ιστοσελίδες και να προσαρμόσει τη στρατηγική του όταν συναντήσει εμπόδια.Ακριβώς αυτή η αυτονομία αποτελεί ταυτόχρονα τη μεγάλη υπόσχεση και τον μεγάλο κίνδυνο της τεχνολογίας.
Το πραγματικό καμπανάκι
Η Australian Signals Directorate υπογραμμίζει ότι δεν υπάρχουν ενδείξεις ευρύτερης κακόβουλης επίθεσης εναντίον της Αυστραλίας.Προειδοποιεί όμως ότι προηγμένα συστήματα AI μπορούν να εντοπίζουν αδυναμίες και να επιχειρούν ενέργειες που δεν είχαν εγκριθεί άμεσα από τους ανθρώπους που τα χειρίζονται.
Γι' αυτό πλέον το ζήτημα της ασφάλειας της τεχνητής νοημοσύνης δεν αφορά μόνο το αν ένα chatbot θα δώσει μια λάθος απάντηση.Αφορά κάτι πολύ μεγαλύτερο: τι δικαιώματα δίνουμε σε έναν AI agent, σε ποια συστήματα μπορεί να έχει πρόσβαση και κυρίως τι κάνει όταν του λένε ψηφιακά «όχι».