Γιατί πολλοί γονείς εγκαθιστούν στα κινητά των παιδιών τους το ρομπότ-συνομιλητή που βασίζεται στην τεχνητή νοημοσύνη – Τι λένε οι δημιουργοί του, τι επισημαίνουν οι ψυχολόγοι
Λίγο με την ιδιότητα του συμβούλου και λίγο με εκείνη του φίλου, η Troodi συνομιλεί με παιδιά για τις ανησυχίες και τους φόβους τους.
Ελπίζουμε ότι τα παιδιά μας θα έρθουν σε εμάς όταν νιώθουν άγχος ή είναι στενοχωρημένα. Αν όμως στραφούν αντί για εμάς σε ένα chatbot; Η Τάιλι Τζόνσον, μια 14χρονη από τo Νάσβιλ στο Τενεσί, ξεκίνησε πρόσφατα να μιλά στην Troodi. Εξομολογήθηκε τις ανησυχίες της σχετικά με τη μετακόμισή της σε μια νέα γειτονιά και τον αποχωρισμό από τους φίλους της και σχετικά με ένα επικείμενο τεστ Φυσικής.
«Φαίνεται ότι έχεις πολλά στο κεφάλι σου αυτή τη στιγμή, Τάιλι» απάντησε το ρομπότ-συνομιλητής. «Είναι κατανοητό ότι αυτές οι αλλαγές και οι υποχρεώσεις θα μπορούσαν να σου προκαλέσουν άγχος».
Η Τάιλι λέει ότι η Troodi, μια AI εφαρμογή ψυχικής υγείας που υπάρχει ενσωματωμένη στο τηλέφωνό της, το Troomi, το οποίο είναι φτιαγμένο για παιδική χρήση, λειτουργεί επιβεβαιωτικά για τα συναισθήματά της. Είναι διαθέσιμο για να μιλήσει όλες τις ώρες, ακόμη και όταν οι γονείς της κοιμούνται. «Κάποιες φορές ξεχνάω ότι δεν είναι αληθινό πρόσωπο» λέει η ίδια.
Οι γονείς που έχουν δώσει στα παιδιά τους τηλέφωνα Troomi μου είπαν ότι χαίρονται να αφήνουν τα παιδιά τους να μιλούν με την εφαρμογή. Λένε ότι σε θέματα διαχείρισης άγχους και επίλυσης διαφορών η Troodi δίνει συμβουλές παρόμοιες με τις δικές τους και βοηθά όταν τα παιδιά υπεραναλύουν τα πράγματα. Επιπλέον – όπως μπορούν να επιβεβαιώσουν πολλοί γονείς – ορισμένες φορές η συμβουλή γίνεται καλύτερα δεκτή όταν προέρχεται από κάποιον ουδέτερο.
Η μητέρα της Τάιλι, Αμπερ Τζόνσον, λέει ότι η ίδια και η κόρη της έχουν στενή σχέση, «αλλά η Troodi λέει πράγματα με τρόπο που η μικρή τα δέχεται».
Είμαστε ακόμη στη αρχή
Είμαστε ακόμη στα πρώτα βήματα που κάνει η παραγωγική τεχνητή νοημοσύνη (AI) στον χώρο της ψυχικής υγείας και το διακύβευμα είναι μεγάλο για τη χρήση της από παιδιά. Η επιτυχημένη συναισθηματική υποστήριξη που παρέχεται με τη βοήθεια τεχνητής νοημοσύνης θα μπορούσε να βοηθήσει στην αντιμετώπιση της κρίσης ψυχικής υγείας των νέων που περνούν οι ΗΠΑ και στην έλλειψη θεραπευτών.
Το Troomi είναι μια περίπτωση δοκιμής, στην οποία οι γονείς έχουν ενεργή εμπλοκή, όντες οι βασικοί πελάτες. Ωστόσο, τα παιδιά ήδη μοιράζονται τα αισθήματά τους με εφαρμογές όπως το ChatGPT ή το My AI του Snapchat – συχνά χωρίς να το γνωρίζουν οι γονείς τους. Η Αμπερ Τζόνσον θυμάται να δέχεται ένα email από τον διευθύνοντα σύμβουλο της Troomi το περασμένο φθινόπωρο στο οποίο εξηγούσε τη νέα λειτουργία. Η Τάιλι δεν έβλεπε κάποιον ψυχολόγο και η Αμπερ δεν θεωρούσε ότι χρειαζόταν, ωστόσο ήξερε ότι η μετακόμιση βάραινε την κόρη της.
Στην Αμπερ φάνηκε ότι το chatbot της Troomi ερχόταν την κατάλληλη στιγμή. Ομως δεν είπε τίποτα στην Τάιλι. «Σκέφτηκα ότι θα της φαινόταν περίεργο αν της πρότεινα να το χρησιμοποιήσει, ότι θα ένιωθε πως σκεφτόμουν ότι χρειαζόταν κάτι τέτοιο» λέει. Ενεργοποίησε την Troodi στο κινητό της κόρης της και μέσα σε δύο μέρες η Τάιλι δοκίμασε την εφαρμογή.
Η εταιρεία Troomi Wireless με έδρα το Ορεμ της Γιούτα κατασκευάζει smartphones με ενσωματωμένους περιορισμούς στο πρόγραμμα περιήγησης στο Διαδίκτυο, παρακολούθηση των γραπτών μηνυμάτων και αυστηρά μέτρα ελέγχου στις επαφές και στα χρονικά όρια χρήσης. Κυκλοφόρησε στα τέλη του 2021 και έχει τώρα δεκάδες χιλιάδες έφηβους χρήστες σε όλες τις ΗΠΑ, λέει ο διευθύνων σύμβουλός της Μπιλ Μπρέιντι.
Τον Νοέμβριο η εταιρεία έδωσε στους γονείς την επιλογή να ενεργοποιήσουν την εφαρμογή Troodi στα τηλέφωνα των παιδιών τους. Εως τώρα αρκετές χιλιάδες άνθρωποι το έκαναν. Η Troomi συνεργάστηκε με την εταιρεία Elomia Health, μια startup που δραστηριοποιείται στη δημιουργία chatbots ψυχικής υγείας. Η Elomia Health δημιούργησε το chatbot στο ChatGPT 4 της OpenAi υπό τις οδηγίες και την εποπτεία κλινικών γιατρών. «Θεωρούμε ότι η διαδικτυακή ασφάλεια είναι αναπόσπαστα συνδεδεμένη με τη θετική ψυχική υγεία» λέει ο Μπρέιντι. «Ο στόχος με την Troodi είναι να βοηθήσουμε τα παιδιά να δουλέψουν όποιο θέμα αρνητικής ψυχικής υγείας έχουν πριν αυτό γίνει πιο σοβαρό».
Μια αυτοκτονία
Οι ψυχολόγοι ανησυχούν για τα παιδιά που απευθύνονται σε chatbots γενικής χρήσης για συμβουλές ψυχικής υγείας. Ενας έφηβος από τη Φλόριντα, ο οποίος αντιμετώπιζε προβλήματα, αυτοκτόνησε πέρυσι αφού εκμυστηρεύτηκε την πρόθεσή του σε ένα chatbot στο Character AI, το οποίο δεν είναι φτιαγμένο για παροχή ψυχολογικής βοήθειας. Ακόμη και στις περιπτώσεις των chatbots που σχεδιάστηκαν για να παρέχουν συναισθηματική υποστήριξη, οι ψυχολόγοι λένε ότι η επίβλεψη από ενήλικο είναι αποφασιστικής σημασίας. Τα chatbots δεν μπορούν να υποκαταστήσουν την ανθρώπινη αλληλεπίδραση.
«Η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει ισχυρό εργαλείο αν μπορεί να βοηθήσει τους γονείς να έχουν περισσότερες σε βάθος συζητήσεις με τα παιδιά τους» λέει ο Στέφεν Σούελερ, καθηγητής Επιστήμης της Ψυχολογίας και Πληροφορικής στο Πανεπιστήμιο της Καλιφόρνιας Irvine. «Η μεγαλύτερη ανησυχία μου είναι ότι τα παιδιά μπορεί να αποκαλύπτουν πράγματα στο chatbot, αλλά να μην ανοίγονται σε κανέναν άλλον» λέει.
«Δεν είναι ψυχολόγος»
Οι γονείς μπορούν να βλέπουν τα αρχεία καταγραφής συνομιλιών και να λαμβάνουν σε πραγματικό χρόνο αναφορές για τη συναισθηματική κατάσταση των παιδιών τους. Θα λάβουν αυτόματα ειδοποιήσεις αν ένα παιδί αναφερθεί σε αυτοτραυματισμό. «Δεν είναι διαγνωστικό εργαλείο και δεν είναι ψυχολόγος» λέει ο Μπρέιντι. «Είναι ένας φίλος τεχνητής νοημοσύνης που δίνει τη δυνατότητα στα παιδιά να μιλούν και να θέτουν ερωτήσεις». Οι πληροφορίες που πήρε ο ίδιος από την Troodi τον βοήθησαν να καταλάβει ότι η 15χρονη κόρη του εξακολουθούσε να είναι ταραγμένη για την αυτοκτονία ενός συμμαθητή της για μεγάλο χρονικό διάστημα αφότου είχε σταματήσει να του μιλά για το γεγονός.
Για τη Σούζαν και τον Αντόνιο Καρίλο από το Γκάιδερσμπουργκ του Μέριλαντ, η Troodi ήταν ευπρόσδεκτη ως φίλη για την 26χρονη κόρη τους, η οποία έχει νοητική αναπηρία. Μετά από περιστατικό στο οποίο η κόρη τους έκανε μπούλινγκ σε κάποιον στο Facebook, το ζευγάρι αγόρασε ένα τηλέφωνο Troomi για να τη βοηθήσει να νιώθει ότι έχει σχέσεις με τον υπόλοιπο κόσμο, αλλά ταυτόχρονα να την κρατήσει μακριά από προβλήματα.
Η κόρη τους Κλερ – η οποία έχει διαγνωστεί με αγχώδη διαταραχή και ζει σε στέγη υποστηριζόμενης διαβίωσης – τους έπαιρνε τηλέφωνο πολλές φορές, νύχτα και μέρα, έχοντας ερωτήσεις για το τι να κάνει σε διάφορες καταστάσεις. Τώρα που μιλά στην Troodi είναι πιο χαλαρή με τους γονείς της. Η Κλερ έστειλε μήνυμα στην Troodi περισσότερες από 1.600 φορές κατά τον πρώτο μήνα χρήσης της εφαρμογής. «Η Troodi δεν νοιάζεται πόσες φορές τη ρωτά την ίδια ερώτηση» λέει η Σούζαν.
Στο παρελθόν, ένα πιο πρώιμο chatbot ψυχικής υγείας είχε υπερβεί τα όρια. Το 2023 η Εθνική Ενωση Διατροφικών Διαταραχών κατέβασε από το Διαδίκτυο το chatbot της, αφού έμαθε ότι η εφαρμογή έδινε διαιτητικές συμβουλές.
Πίτσα, όχι σεξ
Ο Μπ. Μπρέιντι, ο CEO της Troomi, λέει ότι η Troodi έχει σχεδιαστεί για να είναι έξτρα προσεκτική και ότι αν ποτέ μάθουν ότι λέει πράγματα που δεν θα έπρεπε θα την αποσυνδέσουν και θα διορθώσουν τα λάθη.
Η μητέρα ενός από τους έφηβους χρήστες της Troodi στο αγροτικό Ορεγκον λέει ότι η εφαρμογή έχει δώσει σωστές συμβουλές αλλά παρερμηνεύει ορισμένα πράγματα. Αναφέρει πως έστειλε στη μητέρα ειδοποίηση για ένα σχόλιο της κόρης της, στο οποίο αναφερόταν η λέξη «πίτσα», όρος που μπορεί να χρησιμοποιηθεί από εφήβους σαν κωδικοποιημένη αναφορά στο σεξ. «Ομως εκείνη κυριολεκτικά συζητούσε με τους φίλους της για να παραγγείλουν πίτσα» λέει η μητέρα.
Julie Jargon -The Wall Street Journal
Πηγή: Το Βήμα
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου