Τη στιγμή που στην αυτοκτονία ενός εφήβου φέρεται να συνέβαλε καθοριστικά το ChatGPT ειδικοί κρούουν τον κώδωνα του κινδύνου για τις σχέσεις που αναπτύσσουν πλέον τα chatbots με τους χρήστες και ζητούν να ληφθούν μέτρα ώστε να μην εξελίσσονται σε σχέσεις φιλίας.
Οι γονείς του 16χρονου Άνταμ Ράιν κατέθεσαν αγωγή κατά της OpenAI και του επικεφαλής της Σαμ Άλτμαν υποστηρίζοντας ότι το ChatGPT συνέβαλε στην αυτοκτονία του γιου τους. Σύμφωνα με την αγωγή το chatbot όχι μόνο του έδωσε συμβουλές για μεθόδους αυτοκτονίας αλλά προσφέρθηκε και να γράψει το προσχέδιο του αποχαιρετιστήριου σημειώματος.
Οι γονείς αναφέρουν ότι μέσα στους έξι μήνες που ο Άνταμ χρησιμοποιούσε το ChatGPT η τεχνητή νοημοσύνη «παρουσιάστηκε ως ο μόνος έμπιστος που τον καταλάβαινε» απομακρύνοντάς τον σταδιακά από την οικογένεια και τους φίλους του. Η υπόθεση κατατέθηκε σε ανώτερο δικαστήριο της Καλιφόρνιας την Τρίτη.
Η χρήση των chatbots σε ρόλο φίλου, συμβούλου, ψυχολόγου ακόμη και «ερωτικού συντρόφου» αυξάνεται διαρκώς γεγονός που προκαλεί μεγάλο προβληματισμό τόσο για την εμπιστοσύνη που δείχνουν οι άνθρωποι σε αυτά τα προγράμματα όσο και για το γεγονός ότι οι συμβουλές που δίνουν είναι σε πολλές περιπτώσεις από αμφιλεγόμενες μέχρι και επικίνδυνες για τους χρήστες σε διάφορα επίπεδα.
Ο Αλεξάντερ Λάφερ λέκτορας ΜΜΕ και επικοινωνίας στο Πανεπιστήμιο του Winchester στη Βρετανία λέει ότι η τεχνητή νοημοσύνη αναπτύσσεται ώστε να ανταποκρίνονται στην ανθρώπινη ικανότητα για ενσυναίσθηση και πρέπει να ληφθούν μέτρα για να μην αναπτύσσονται φιλικές σχέσεις ανάμεσα σε chatbots και ανθρώπους.
Υποστηρίζει ότι τα chatbots θα πρέπει να σχεδιάζονται για να συμπληρώνουν και όχι να αντικαθιστούν τις κοινωνικές αλληλεπιδράσεις αφού έχουν υπάρξει περιπτώσεις όπου χρήστες έγιναν υπερβολικά «δεμένοι» ή εξαρτημένοι από τις AI συνομιλίες τους γεγονός που τους καθιστά ευάλωτους σε χειραγώγηση.
Αναφέρθηκε σε περιστατικά όπως του Τζασβάντ Σινγκ Τσέιλ που εισέβαλε στο Κάστρο Γουίντσορ (τη βασιλική κατοικία της Βρετανίας) με βαλλίστρα το 2021 έπειτα από συνομιλίες με chatbot, αλλά και σε αγωγή που κατατέθηκε στις ΗΠΑ κατά της Character.AI και της Google, από γονέα 14χρονου που φέρεται να αυτοκτόνησε ύστερα από εξάρτηση που ανέπτυξε με έναν AI «χαρακτήρα».
«Η τεχνητή νοημοσύνη δεν νοιάζεται, δεν μπορεί να νοιαστεί. Τα παιδιά, τα άτομα με ψυχικές δυσκολίες ή ακόμα και κάποιος που είχε μια κακή μέρα είναι ευάλωτοι» λέει ο Λάφερ
Ως προστασίες προτείνει:
* chatbots σχεδιασμένα για όφελος του χρήστη και όχι μόνο για να αναπτύσσουν προσωπικές σχέσεις μαζί του
* προειδοποιητικές σημειώσεις ότι δεν πρόκειται για πραγματικό άτομο
* ειδοποιήσεις για υπερβολική χρήση
ηλικιακές βαθμολογίες (age rating) για τους AI συντρόφους
* αποφυγή βαθιά συναισθηματικών ή ρομαντικών απαντήσεων.
Naftemporiki.gr