4,000 άνθρωποι υποβλήθηκαν σε ψυχοθεραπεία ρομπότ AI χωρίς να το γνωρίζουν
Εν συντομία
Η Koko, μια μη κερδοσκοπική πλατφόρμα ψυχικής υγείας, συνδέει άτομα που χρειάζονται βοήθεια με εθελοντές.
Οι χρήστες επικοινωνούν με το bot Koko στέλνοντας ερωτήσεις πολλαπλής επιλογής.
4,000 άτομα έλαβαν απροειδοποίητη ψυχολογική υποστήριξη από OpenAI GPT-3.
Το bot ήταν εξίσου αποτελεσματικό στην παροχή θεραπευτικών απαντήσεων με έναν άνθρωπο.
Μέσω υπηρεσιών συνομιλίας όπως το Telegram και το Discord, η μη κερδοσκοπική πλατφόρμα ψυχικής υγείας Koko συνδέει εφήβους και ενήλικες που χρειάζονται φροντίδα ψυχικής υγείας με εθελοντές. Οι χρήστες συνδέονται στον διακομιστή Discord του Koko Care και επικοινωνούν απευθείας με το bot Koko στέλνοντάς του ερωτήσεις πολλαπλής επιλογής, όπως "Ποια είναι η πιο σκοτεινή ιδέα που έχετε για αυτό;" Στη συνέχεια, το bot κοινοποιεί ανώνυμα τις ανησυχίες του ατόμου σε έναν άλλο χρήστη στον διακομιστή, ο οποίος μπορεί στη συνέχεια να απαντήσει ανώνυμα με το δικό του σύντομο μήνυμα.
Αυτός ο καινοτόμος τρόπος σύνδεσης ατόμων που χρειάζονται βοήθεια ψυχικής υγείας με εθελοντές έδωσε τη δυνατότητα στην Koko να γεφυρώσει το χάσμα μεταξύ εκείνων που δεν μπόρεσαν να έχουν πρόσβαση στη βοήθεια που χρειάζονται και εκείνων που είναι πρόθυμοι να την προσφέρουν.
Ωστόσο, ο Rob Morris, ο συνιδρυτής της Koko, πήρε την απόφαση να δοκιμάσει εθελοντές ψυχοθεραπείας σε ένα bot AI και όχι σε πραγματικούς ανθρώπους. Περίπου 4,000 άτομα έλαβαν ψυχολογική υποστήριξη από OpenAI GPT-3, σύμφωνα με το tweet του Morris. Τα αποτελέσματα αυτής της μελέτης έδειξαν ότι το bot AI ήταν εξίσου αποτελεσματικό στην παροχή θεραπευτικών απαντήσεων με έναν άνθρωπο.
Οι επικοινωνίες που δημιουργήθηκαν από AI έλαβαν βαθμολογίες που ήταν αισθητά υψηλότερες από τα μηνύματα που γράφτηκαν από ανθρώπους. Έγινε επίσης μείωση 50% στον χρόνο απόκρισης,
επισημαίνει ο Ρομπ Μόρις.
Φάνηκε ότι οι άνθρωποι εκτιμούσαν την ψυχολογική υποστήριξη και βοήθεια GPT-3 προσφέρεται. Ωστόσο, μετά την ανακοίνωση, ο Morris το κατέβασε γρήγορα από το Telegram και το Discord. Γιατί; Αυτός ο τύπος θεραπείας σταμάτησε να λειτουργεί μόλις τα άτομα συνειδητοποίησαν ότι τα μηνύματα δημιουργήθηκαν από μια μηχανή. Ίσως η προσωποποίηση της ενσυναίσθησης να φαίνεται περίεργη και κούφια.
Ωστόσο, μπορεί να παίζει και κάτι άλλο. Το πείραμα του Rob Morris έχει προκαλέσει κριτική στα μέσα κοινωνικής δικτύωσης και έχει χαρακτηριστεί ως ανήθικο. Εξάλλου, οι συμμετέχοντες εξαπατήθηκαν και δεν μπόρεσαν να δώσουν ενημερωμένη συγκατάθεση. Αντίθετα, έγιναν απρόθυμοι συμμετέχοντες σε αυτή τη μελέτη.
Σε μια τακτική επιστημονική μελέτη, οι συμμετέχοντες ενημερώνονται για τον τρόπο διεξαγωγής της μελέτης και μπορούν να αποσύρουν τη συγκατάθεσή τους ανά πάσα στιγμή μέχρι τη δημοσίευση των αποτελεσμάτων. Εδώ, υπήρξε μια σημαντική παραβίαση της εμπιστοσύνης: Άτομα με προβλήματα ψυχικής υγείας εμπιστεύτηκαν την πλατφόρμα για να τους παρέχει βοήθεια από άλλο άνθρωπο, ενώ τους παρέχεται βοήθεια από την τεχνητή νοημοσύνη. Αυτό δεν σημαίνει ότι η βοήθεια αυτή καθεαυτή ήταν κακής ποιότητας. Ωστόσο, σε οποιοδήποτε θεραπευτικό περιβάλλον, η εμπιστοσύνη είναι σημαντικός παράγοντας για τα μελλοντικά αποτελέσματα. Αυτός ο τύπος εξαπάτησης θα μπορούσε να διαλύσει την εμπιστοσύνη που είχαν κάποτε οι άνθρωποι σε μια πολλά υποσχόμενη πλατφόρμα.
Το πείραμα του Koko ανέδειξε πόσο εύκολο ήταν να εξαπατηθούν οι άνθρωποι στα μέσα κοινωνικής δικτύωσης, οδηγώντας σε ανησυχίες ότι η τεχνολογία θα μπορούσε να χρησιμοποιηθεί κακόβουλα από άτομα που προσπαθούσαν να διαδώσουν παραπληροφόρηση και ψεύτικες ειδήσεις. Αυτή τη φορά έγινε καλόπιστα, αλλά τι γίνεται με την επόμενη φορά;
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
