Μια εξαιρετικά ανησυχητική εκτίμηση από το εσωτερικό της Anthropic, μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο, επαναφέρει τη συζήτηση για τους κινδύνους που μπορεί να δημιουργήσει η ταχύτατη ανάπτυξη της AI.Ο Έβαν Χούμπινγκερ (Evan Hubinger), επικεφαλής του Alignment Science στην Anthropic, εκτίμησε ότι υπάρχει πιθανότητα μεγαλύτερη του 10% η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία. Διευκρίνισε, ωστόσο, ότι θεωρεί χαμηλό τον κίνδυνο από τα σημερινά μοντέλα. Η ανησυχία του αφορά πολύ ισχυρότερα, μελλοντικά συστήματα που ενδέχεται να αποκτήσουν δυνατότητα αυτοβελτίωσης.
«Δεν έχουμε ακόμη σχέδιο για την υπερνοημοσύνη»
Η παρέμβαση Χούμπινγκερ ήρθε μετά την παραίτηση του ερευνητή Τζέικομπ Κόξον από την Anthropic. Ο Κόξον είχε εργαστεί τα τελευταία τρία χρόνια στην Anthropic και την OpenAI και κατηγόρησε τις δύο εταιρείες ότι συμμετέχουν σε μια επικίνδυνη κούρσα προς την αυτοβελτιούμενη υπερνοημοσύνη.Ο Χούμπινγκερ συμφώνησε δημόσια με μεγάλο μέρος της προειδοποίησης, αναφέροντας ότι η Anthropic προσπαθεί να αντιμετωπίσει τους κινδύνους, αλλά δεν διαθέτει ακόμη ολοκληρωμένο σχέδιο για την ασφαλή ευθυγράμμιση μιας μελλοντικής υπερνοημοσύνης με τους ανθρώπινους στόχους.Το κρίσιμο ζήτημα είναι το λεγόμενο alignment: πώς μπορεί να διασφαλιστεί ότι ένα σύστημα πολύ πιο ικανό από τον άνθρωπο θα εξακολουθήσει να λειτουργεί σύμφωνα με τους στόχους και τους περιορισμούς που του έχουν τεθεί.
Η παραίτηση που άνοιξε τη συζήτηση
Ο 27χρονος Κόξον υποστήριξε ότι ο ανταγωνισμός μεταξύ των μεγαλύτερων εργαστηρίων AI δημιουργεί ισχυρά κίνητρα για ταχύτερη ανάπτυξη, ακόμη και όταν δεν έχουν επιλυθεί θεμελιώδη προβλήματα ασφάλειας.Ζήτησε μεγαλύτερη κρατική παρέμβαση και διεθνή συντονισμό, θεωρώντας ότι καμία μεμονωμένη εταιρεία δεν μπορεί να επιβραδύνει εύκολα όταν οι ανταγωνιστές της συνεχίζουν να επενδύουν τεράστια ποσά στην ανάπτυξη ισχυρότερων μοντέλων.
Από τεχνολογικό σε οικονομικό και πολιτικό ζήτημα
Οι προειδοποιήσεις αποκτούν ιδιαίτερη βαρύτητα επειδή προέρχονται από ανθρώπους που εργάζονται στην ανάπτυξη και την ασφάλεια προηγμένων συστημάτων AI. Δεν αποτελούν, όμως, πρόβλεψη ότι η καταστροφή είναι αναπόφευκτη: το «πάνω από 10%» είναι προσωπική εκτίμηση κινδύνου του Χούμπινγκερ, όχι επιστημονικά αποδεδειγμένη πιθανότητα.Η συζήτηση πλέον ξεπερνά τα όρια της τεχνολογίας. Οι μεγαλύτερες εταιρείες επενδύουν τεράστια κεφάλαια σε υποδομές, chips και νέα μοντέλα, ενώ κυβερνήσεις καλούνται να βρουν την ισορροπία ανάμεσα στην καινοτομία, την οικονομική ανταγωνιστικότητα και την ασφάλεια.
Και αυτό είναι το πραγματικό «καμπανάκι» των ερευνητών: η AI εξελίσσεται με εξαιρετικά γρήγορους ρυθμούς, ενώ οι μηχανισμοί που θα μπορούσαν να ελέγξουν τα πολύ ισχυρότερα μελλοντικά συστήματα δεν εξελίσσονται απαραίτητα με την ίδια ταχύτητα.