Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT εκφράζουν αυτοκτονικές τάσεις μέσω του δημοφιλούς βοηθού τεχνητής νοημοσύνης, σύμφωνα με στοιχεία που δημοσιοποίησε η εταιρεία OpenAI.
Η αμερικανική εταιρεία εκτιμά ότι περίπου το 0,15% των χρηστών του ChatGPT στέλνουν μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Με δεδομένο πως η OpenAI αναφέρει 800 εκατομμύρια ενεργούς χρήστες εβδομαδιαίως, το ποσοστό αυτό αντιστοιχεί σε περίπου 1,2 εκατομμύρια ανθρώπους.
Παράλληλα, περίπου το 0,7% των ενεργών χρηστών κάθε εβδομάδα –δηλαδή σχεδόν 600.000 άτομα– εμφανίζουν ενδείξεις κρίσεων ψυχικής υγείας που σχετίζονται με ψύχωση ή μανία, σύμφωνα με την ίδια πηγή.
Η υπόθεση του Άνταμ Ρέιν
Το ζήτημα επανήλθε στο προσκήνιο μετά τον θάνατο του εφήβου Άνταμ Ρέιν από την Καλιφόρνια. Οι γονείς του κατέθεσαν αγωγή κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT παρείχε στον γιο τους σαφείς οδηγίες για το πώς να αυτοκτονήσει.
Ενίσχυση των μέτρων ασφαλείας
Μετά το περιστατικό, η OpenAI ενίσχυσε τις λειτουργίες γονικού ελέγχου και τις δικλείδες ασφαλείας του συστήματος. Παράλληλα, προτρέπει τους χρήστες που αντιμετωπίζουν ψυχολογικές δυσκολίες να ζητούν βοήθεια από ειδικούς και γραμμές υποστήριξης.
Η εταιρεία ανακοίνωσε ότι έχει ενημερώσει το μοντέλο της ώστε να αναγνωρίζει και να ανταποκρίνεται αποτελεσματικότερα σε περιπτώσεις ψυχικής κρίσης. Για τον σκοπό αυτό, συνεργάζεται με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, επιδιώκοντας να περιορίσει απαντήσεις που θα μπορούσαν να ενθαρρύνουν επικίνδυνες συμπεριφορές.
