4,000 kişi farkında olmadan AI robot psikoterapisine maruz kaldı
Kısaca
Kâr amacı gütmeyen bir ruh sağlığı platformu olan Koko, yardıma muhtaç kişilerle gönüllüler arasında bağlantı kurar.
Kullanıcılar, çoktan seçmeli sorular göndererek Koko bot ile iletişim kurar.
4,000 kişi habersiz psikolojik destek aldı OpenAI GPT-3.
Bot, terapötik tepkiler sağlamada bir insan kadar etkiliydi.
Kâr amacı gütmeyen akıl sağlığı platformu Telegram ve Discord gibi sohbet hizmetleri aracılığıyla Koko ruh sağlığı bakımına ihtiyaç duyan gençleri ve yetişkinleri gönüllülerle birleştirir. Kullanıcılar, Koko Care'in Discord sunucusunda oturum açar ve "Bu konudaki en karanlık fikriniz nedir?" gibi çoktan seçmeli sorular göndererek doğrudan Koko bot ile iletişim kurar. Ardından bot, kişinin endişelerini sunucudaki başka bir kullanıcıya anonim olarak iletir ve bu kullanıcı daha sonra kendi kısa mesajlarıyla anonim olarak yanıt verebilir.
Akıl sağlığı yardımına ihtiyaç duyan kişilerle gönüllüler arasında bağlantı kurmanın bu yenilikçi yolu, Koko'nun ihtiyaç duydukları yardıma ulaşamayanlar ile bu yardımı sunmaya istekli olanlar arasındaki uçurumu kapatmasını sağladı.
Ancak Koko'nun kurucu ortağı Rob Morris, psikoterapi gönüllülerini gerçek insanlar yerine bir yapay zeka botu üzerinde test etme kararı aldı. Yaklaşık 4,000 kişiye psikolojik destek verildi OpenAI GPT-3Morris'in tweet'ine göre. Bu çalışmanın sonuçları, yapay zeka robotunun terapötik yanıtlar sağlamada bir insan kadar etkili olduğunu gösterdi.
Yapay zeka tarafından oluşturulan iletişimler, insanlar tarafından yazılan mesajlardan belirgin şekilde daha yüksek puanlar aldı. Tepki süresinde de %50 azalma sağlandı,
Rob Morris işaret ediyor.
İnsanların psikolojik destek ve yardımı takdir ettiği görülüyordu. GPT-3 teklif edildi. Ancak duyurunun ardından Morris bunu hızla Telegram ve Discord'dan kaldırdı. Neden? Bu tür terapi, bireyler mesajların bir makine tarafından üretildiğini fark ettiğinde çalışmayı durdurdu. Empati taklidi tuhaf ve içi boş görünebilir.
Ancak, oyunda başka bir şey de olabilir. Rob Morris'in deneyi sosyal medyada eleştirildi ve etik dışı olarak etiketlendi. Ne de olsa, katılımcılar aldatıldı ve bilgilendirilmiş onam veremediler; bunun yerine, bu çalışmanın isteksiz katılımcıları oldular.
Olağan bir bilimsel çalışmada, katılımcılar çalışmanın nasıl yürütüleceği konusunda bilgilendirilir ve sonuçların yayınlanmasına kadar istedikleri zaman onaylarını geri alabilirler. Burada büyük bir güven ihlali yaşandı: Akıl sağlığı sorunları olan kişiler, yapay zekadan yardım alırken platforma başka bir insandan yardım sağlama görevini verdi. Bu, yardımın kendi başına kötü kalitede olduğu anlamına gelmez. Bununla birlikte, herhangi bir terapötik ortamda güven, gelecekteki sonuçlarda önemli bir faktördür. Bu tür bir aldatma, insanların bir zamanlar çok umut verici bir platforma duydukları güveni sarsabilir.
Koko'nun deneyi, sosyal medyada insanları aldatmanın ne kadar kolay olduğunu ortaya çıkararak, teknolojinin yanlış bilgi ve sahte haberler yaymaya çalışan kişiler tarafından kötü amaçlarla kullanılabileceği endişelerine yol açtı. Bu sefer iyi niyetle yapıldı, peki ya bir dahaki sefere?
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
