Δύο χρόνια μετά την παγκόσμια διάδοση τουChatGPT, παραμένουν σοβαρές προκλήσεις στη λειτουργία του, με κυριότερο πρόβλημα τις λεγόμενες «παραισθήσεις» — δηλαδή τη δημιουργίαψευδών πληροφοριών που παρουσιάζονται ως γεγονότα. Η αυστριακή ομάδα υπεράσπισης προσωπικών δεδομένων Noyb υπέβαλε τη δεύτερη επίσημη καταγγελία της κατά της OpenAI για τέτοιες ψευδείς δηλώσεις. Συγκεκριμένα, το ChatGPT φέρεται να κατηγόρησε λανθασμένα έναν Νορβηγό πολίτη ότι είναι δολοφόνος, δηλώνοντας ότι καταδικάστηκε σε 21 χρόνια φυλάκισης για τη δολοφονία δύο εκ των παιδιών του και την απόπειρα δολοφονίας του τρίτου. Το σύστημα, μάλιστα, ανέφερε και αληθείς πληροφορίες, όπως τον αριθμό και το φύλο των παιδιών του, καθώς και την πόλη καταγωγής του, γεγονός που ενίσχυσε την αληθοφάνεια της ψευδούς δήλωσης.
Η Noyb υποστηρίζει ότι αυτό παραβιάζει τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR), ο οποίος απαιτεί ακρίβεια στα προσωπικά δεδομένα και παρέχει στους πολίτες το δικαίωμα διόρθωσής τους. Ο νομικός σύμβουλος της Noyb, Joakim Söderberg, δήλωσε ότι μια απλή αποποίηση ευθύνης από πλευράς ChatGPT, η οποία αναφέρει ότι το chatbot «μπορεί να κάνει λάθη», δεν είναι επαρκής προστασία. Δεν μπορεί, όπως τόνισε, μια πλατφόρμα να διασπείρει ψευδείς πληροφορίες και να καλύπτεται με μια μικρή σημείωση ότι ίσως όλα όσα λέει να μην είναι αληθινά.
Δεν είναι το πρώτο τέτοιο περιστατικό· το ChatGPT έχει κατηγορήσει στο παρελθόν άλλους ανθρώπους για απάτη, κακοποίηση και παρενόχληση χωρίς πραγματική βάση. Η πρώτη καταγγελία της Noyb τον Απρίλιο του 2024 αφορούσε λανθασμένη ημερομηνία γέννησης δημόσιου προσώπου, την οποία η OpenAI αρνήθηκε να διορθώσει. Το πώς θα αντιδράσει τώρα η εταιρεία στην πιο σοβαρή καταγγελία μένει να φανεί.
