Εξαιρετικά ανησυχητικά στοιχεία φέρνει στο φως της δημοσιότητας το ChatGPT, καθώς πάνω από 1,2 εκατομμύριο χρήστες εκφράζουν αυτοκτονικές τάσεις μέσω της πλατφόρμας.
Όπως αποκάλυψε η OpenAI, περίπου το 0,15% των χρηστών του ChatGPT στέλνουν μηνύματα που υποδηλώνουν «πιθανότητες να σχεδιάζουν ή να προτίθενται να αυτοκτονήσουν». Δεδομένου ότι το ChatGPT έχει περίπου 800 εκατομμύρια ενεργούς χρήστες την εβδομάδα, το ποσοστό αυτό μεταφράζεται σε περίπου 1,2 εκατ. ανθρώπους.
Επιπλέον, εκτιμάται ότι το 0,7% των ενεργών χρηστών κάθε εβδομάδα —περίπου 600.000 άνθρωποι— εμφανίζουν σημάδια κρίσεων ψυχικής υγείας, όπως ψύχωση ή μανία.
Η αγωγή που έφερε το ζήτημα στο προσκήνιο
Το ζήτημα αναδείχθηκε μετά τον τραγικό θάνατο ενός εφήβου στην Καλιφόρνια. Οι γονείς του κατέθεσαν αγωγή κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT του παρείχε οδηγίες για το πώς να αυτοκτονήσει.
Μετά το περιστατικό, η OpenAI ενίσχυσε τις δικλείδες ασφαλείας του συστήματος και προώθησε νέα μέτρα γονικού ελέγχου, προτρέποντας τους χρήστες να αναζητούν επαγγελματική βοήθεια μέσω γραμμών ψυχολογικής υποστήριξης και υπηρεσιών έκτακτης ανάγκης.
Η εταιρεία δήλωσε επίσης ότι έχει ενημερώσει το μοντέλο τεχνητής νοημοσύνης ώστε να αναγνωρίζει και να ανταποκρίνεται καλύτερα σε χρήστες με προβλήματα ψυχικής υγείας.
Στο πλαίσιο αυτό, η OpenAI συνεργάζεται με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, με στόχο να περιορίσει απαντήσεις που ενδέχεται να ενθαρρύνουν επικίνδυνες ή επιβλαβείς συμπεριφορές.