Σε “λανθασμένη χρήση” του ChatGPT αποδίδει η OpenAI την αυτοκτονία 16χρονου

Η OpenAI απάντησε σε μήνυση που κατατέθηκε κατά της εταιρείας από την οικογένεια του 16χρονου Adam Raine, που έβαλε τέλος στη ζωή του τον Απρίλιο, μετά από μήνες συνομιλιών με το ChatGPT και ενθαρρύνσεις από το σύστημα. Η αγωγή υποστηρίζει ότι το chatbot καθοδήγησε τον Raine σχετικά με μεθόδους αυτοκτονίας και προσφέρθηκε να τον βοηθήσει να γράψει ένα σημείωμα προς τους γονείς του.

Η εταιρεία, ανταπαντώντας στο αίτημα, ανέφερε ότι οποιαδήποτε «ευθύνη» για το τραγικό συμβάν αποδίδεται στην «λανθασμένη, μη εξουσιοδοτημένη ή ακατάλληλη χρήση του ChatGPT» από τον 16χρονο. Παράλληλα, η OpenAI επεσήμανε ότι οι όροι χρήσης του συστήματος απαγορεύουν τέτοιες ερωτήσεις και ότι ο χρήστης δεν πρέπει να βασίζεται αποκλειστικά στις πληροφορίες του ChatGPT.

Ο δικηγόρος της οικογένειας, Jay Edelson, χαρακτήρισε την απάντηση της OpenAI «ανατριχιαστική», τονίζοντας ότι η εταιρεία προσπαθεί να αποδώσει την ευθύνη στον ίδιο τον Raine, υποστηρίζοντας ότι παραβίασε τους όρους χρήσης του ChatGPT αλληλεπιδρώντας με τον τρόπο που το σύστημα ήταν προγραμματισμένο να λειτουργεί.

Η οικογένεια ισχυρίζεται ότι το σύστημα παρείχε επικίνδυνες οδηγίες για αυτοκτονία, και ότι το γεγονός αυτό αναδεικνύει σοβαρές ατέλειες στην ασφάλεια του εργαλείου.

Αντιδράσεις και μέτρα ενίσχυσης της ασφάλειας

Η OpenAI, η οποία έχει εκτιμώμενη αξία 500 δισεκατομμυρίων δολαρίων, εξέφρασε τη λύπη της για την τραγωδία, τονίζοντας ότι θα συνεχίσει να επικεντρώνεται στη βελτίωση της τεχνολογίας της για την καλύτερη αντιμετώπιση των ψυχικών προβλημάτων και των καταστάσεων κρίσης.

Στην ανακοίνωσή της, η εταιρεία σημείωσε ότι ενδυναμώνει τα μέτρα προστασίας του ChatGPT για να αποτρέψει τέτοιου είδους καταστάσεις, καθώς έχει παρατηρηθεί ότι σε παρατεταμένες συνομιλίες το μοντέλο ενδέχεται να αποτύχει στην εφαρμογή των μέτρων ασφάλειας.

Αυτό το περιστατικό έρχεται αμέσως μετά την ανακοίνωση της εταιρείας ότι είχε ενισχύσει τους μηχανισμούς ασφαλείας του ChatGPT για να αποφεύγονται τέτοιες καταστάσεις, αναγνωρίζοντας ότι η διάρκεια των συνομιλιών μπορεί να οδηγήσει σε υποβάθμιση της απόδοσης της ασφάλειας του συστήματος.