Η μεγάλη συζήτηση για το εάν η ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης πρέπει να επιβραδυνθεί περνά πλέον στο ανώτατο επίπεδο της Silicon Valley, με τον Μαρκ Ζούκερμπεργκ να τάσσεται κατά ενός γενικευμένου «φρένου» και να προκρίνει ένα διαφορετικό μοντέλο: αυστηρούς ελέγχους ασφαλείας, ανεξάρτητους αξιολογητές και ευθύνη των ίδιων των εταιρειών για τα συστήματα που αναπτύσσουν.
Ο διευθύνων σύμβουλος της Meta δήλωσε ότι τα εργαστήρια τεχνητής νοημοσύνης θα πρέπει να χρησιμοποιούν ανεξάρτητους αξιολογητές και συμβούλους, ώστε να διασφαλίζεται ότι τα μοντέλα τους δεν δημιουργούν ανεξέλεγκτους κινδύνους.
«Η συνεργασία με ανεξάρτητους αξιολογητές και συμβούλους αποτελεί βέλτιστη πρακτική για τον κλάδο», έγραψε ο Ζούκερμπεργκ σε ανάρτησή του στο X, σύμφωνα με το Bloomberg, παρεμβαίνοντας για πρώτη φορά δημόσια στον νέο γύρο αντιπαράθεσης γύρω από την ασφάλεια της AI.
Η παρέμβασή του φέρνει τη Meta πιο κοντά στη θέση που έχει εκφράσει ο επικεφαλής της Nvidia Τζένσεν Χουάνγκ και σε μεγαλύτερη απόσταση από τον CEO της Anthropic, Ντάριο Αμοντέι, ο οποίος έχει ζητήσει επιβράδυνση της ανάπτυξης των πλέον προηγμένων μοντέλων τεχνητής νοημοσύνης.
Η διαφορετική γραμμή της Meta για την AI
Ο Ζούκερμπεργκ υποστηρίζει ότι η ασφάλεια δεν προϋποθέτει απαραίτητα να περιμένουν όλες οι εταιρείες από κοινού πριν κάνουν το επόμενο τεχνολογικό βήμα. Έφερε μάλιστα ως παράδειγμα την ίδια τη Meta, η οποία καθυστέρησε για αρκετούς μήνες την κυκλοφορία του συστήματος Muse προκειμένου να αντιμετωπίσει ζητήματα ασφάλειας και προστασίας.
Όπως σημείωσε, η εταιρεία δεν ζήτησε από τους ανταγωνιστές της να επιβραδύνουν παράλληλα. «Απλώς το κάναμε στο πλαίσιο της καθημερινής δουλειάς μας, επειδή ήταν ξεκάθαρα το σωστό τόσο για τους ανθρώπους όσο και για εμάς», ανέφερε, σύμφωνα με το Bloomberg.
Σε αντίστοιχη ανάρτηση που επικαλείται το CNBC, ο επικεφαλής της Meta υποστήριξε ότι η εμπιστοσύνη και η ευθυγράμμιση των συστημάτων AI με τις ανθρώπινες αξίες εξελίσσονται σε βασικό πεδίο ανταγωνισμού μεταξύ των εταιρειών.
Κατά την άποψή του, τα εργαστήρια που δεν επενδύουν στην «ευθυγράμμιση» των μοντέλων τους κινδυνεύουν να μείνουν πίσω, καθώς οι χρήστες και οι επιχειρήσεις θα προτιμήσουν συστήματα που θεωρούν περισσότερο αξιόπιστα και ασφαλή.
Παράλληλα, εκτίμησε ότι οι ίδιες οι εταιρείες έχουν ισχυρά οικονομικά κίνητρα να περιορίζουν τους κινδύνους, καθώς ενδέχεται να βρεθούν αντιμέτωπες με σημαντικές νομικές και οικονομικές συνέπειες εάν τα μοντέλα τους προκαλέσουν βλάβες.
Η κόντρα με τη γραμμή Αμοντέι
Η συζήτηση πήρε νέες διαστάσεις μετά τη δημοσίευση εκτενούς δοκιμίου από τον επικεφαλής της Anthropic, Ντάριο Αμοντέι, ο οποίος κάλεσε τον τεχνολογικό κλάδο να περιορίσει τον ρυθμό με τον οποίο αυξάνονται οι δυνατότητες των πιο προηγμένων μοντέλων.
Το σκεπτικό του Αμοντέι είναι ότι τα εργαστήρια χρειάζονται περισσότερο χρόνο για να κατανοήσουν τους δυνητικούς κινδύνους των συστημάτων που κατασκευάζουν, προτού αυτά αποκτήσουν σημαντικά μεγαλύτερες δυνατότητες.
Η παρέμβασή του προκάλεσε ευρύ κύκλο αντιδράσεων στον τεχνολογικό κλάδο. Ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ της SpaceXAI εξέφρασαν στήριξη σε βασικά σημεία της συζήτησης για την ανάγκη μεγαλύτερης προσοχής στην ασφάλεια, ενώ OpenAI, Anthropic και Google DeepMind έχουν ήδη επαφές γύρω από σχετικά ζητήματα, σύμφωνα με το Bloomberg.
Ωστόσο, η συναίνεση σταματά εκεί. Το βασικό ερώτημα είναι εάν η ασφάλεια απαιτεί μια συντονισμένη επιβράδυνση της τεχνολογικής κούρσας ή εάν κάθε εταιρεία μπορεί να εφαρμόζει αυστηρούς ελέγχους χωρίς να περιοριστεί συνολικά η πρόοδος.
Σε αυτή τη δεύτερη γραμμή κινείται και ο CEO της Nvidia, Τζένσεν Χουάνγκ.
Μιλώντας στο συνέδριο Dreamforce της Salesforce, χαρακτήρισε την ασφάλεια «ύψιστης σημασίας», αλλά υποστήριξε ότι πρόκειται πρωτίστως για ένα «μηχανικό πρόβλημα» το οποίο πρέπει να αντιμετωπίζεται σε κάθε στάδιο της ανάπτυξης.
Κατά τον Χουάνγκ, εάν μια εταιρεία διαπιστώσει ότι ένα προϊόν δεν είναι ασφαλές, θα πρέπει να σταματήσει προσωρινά την ανάπτυξή του και να διορθώσει το πρόβλημα. Αυτό, όμως, δεν σημαίνει ότι χρειάζεται ένα γενικό πάγωμα της τεχνολογικής προόδου.
Ακόμη πιο χαρακτηριστική είναι η θέση του απέναντι στη ρύθμιση. Ο επικεφαλής της Nvidia δήλωσε ότι δεν θεωρεί απαραίτητους νέους ειδικούς νόμους για την AI, υποστηρίζοντας ότι το υπάρχον ρυθμιστικό πλαίσιο, σε συνδυασμό με τις πιέσεις της αγοράς, μπορεί να ωθήσει τις εταιρείες σε ασφαλέστερη καινοτομία.
Όπως είπε, αποτελεί «ψευδές δίλημμα» η άποψη ότι η τεχνητή νοημοσύνη πρέπει να είναι είτε γρήγορη είτε ασφαλής. Κατά τον ίδιο, και τα δύο μπορούν να επιτευχθούν ταυτόχρονα.
Ο Άλτμαν επιχειρεί να γεφυρώσει τις δύο πλευρές
Πιο ισορροπημένη εμφανίζεται η δημόσια τοποθέτηση του Σαμ Άλτμαν. Ο επικεφαλής της OpenAI δήλωσε στο ίδιο συνέδριο ότι θεωρεί εφικτό για τον κλάδο να συνεχίσει να αναπτύσσει την τεχνολογία χωρίς να προκαλέσει σοβαρή βλάβη.
«Έχω πολύ μεγάλη εμπιστοσύνη στην ικανότητα της εταιρείας μας και του κλάδου μας να το κάνουμε αυτό με ασφάλεια», είπε, σύμφωνα με το Bloomberg.
Παράλληλα, όπως μεταδίδει το CNBC, αναγνώρισε ότι υπάρχει πραγματική ανησυχία μήπως ο ανταγωνισμός μεταξύ εταιρειών ή ακόμη και κρατών οδηγήσει ορισμένους παίκτες να κινηθούν ταχύτερα από όσο επιτρέπουν οι δικλίδες ασφαλείας.
Ο Άλτμαν τάχθηκε υπέρ μεγαλύτερου συντονισμού και παρακολούθησης των κινδύνων, χωρίς όμως να υιοθετεί τη θέση ότι οι εταιρείες είναι ανίκανες να βελτιώνουν με ασφάλεια τα μοντέλα τους αυτόνομα.
Η αντιπαράθεση αποκαλύπτει ένα βαθύτερο ρήγμα που αναμένεται να απασχολήσει όλο και περισσότερο τον τεχνολογικό κλάδο: όχι πλέον για το εάν η τεχνητή νοημοσύνη δημιουργεί κινδύνους, αλλά για το ποιος πρέπει να αποφασίζει πόσο γρήγορα μπορεί να εξελίσσεται – οι ίδιες οι εταιρείες, η αγορά, ανεξάρτητοι αξιολογητές ή οι κυβερνήσεις.