4,000 người trải qua liệu pháp tâm lý bằng robot AI mà không hề hay biết
Tóm lại
Koko, một nền tảng sức khỏe tâm thần phi lợi nhuận, liên kết những người cần giúp đỡ với các tình nguyện viên.
Người dùng giao tiếp với bot Koko bằng cách gửi các câu hỏi trắc nghiệm.
4,000 người nhận được hỗ trợ tâm lý không báo trước từ OpenAI GPT-3.
Bot cũng hiệu quả trong việc cung cấp các phản ứng trị liệu như con người.
Thông qua các dịch vụ trò chuyện như Telegram và Discord, nền tảng sức khỏe tâm thần phi lợi nhuận Koko liên kết thanh thiếu niên và người lớn cần được chăm sóc sức khỏe tâm thần với các tình nguyện viên. Người dùng đăng nhập vào máy chủ Discord của Koko Care và giao tiếp trực tiếp với bot Koko bằng cách gửi cho nó các câu hỏi trắc nghiệm, chẳng hạn như “Bạn có ý tưởng đen tối nhất về điều này là gì?” Sau đó, bot ẩn danh truyền đạt những lo lắng của người đó cho một người dùng khác trên máy chủ, người sau đó có thể trả lời ẩn danh bằng tin nhắn ngắn gọn của riêng họ.
Cách sáng tạo này để kết nối những người cần hỗ trợ sức khỏe tâm thần với các tình nguyện viên đã giúp Koko thu hẹp khoảng cách giữa những người không thể tiếp cận sự trợ giúp mà họ cần và những người sẵn sàng giúp đỡ.
Tuy nhiên, Rob Morris, người đồng sáng lập Koko, đã quyết định thử nghiệm các tình nguyện viên trị liệu tâm lý trên một robot AI chứ không phải trên người thật. Khoảng 4,000 người được hỗ trợ tâm lý từ OpenAI GPT-3, theo tweet của Morris. Kết quả của nghiên cứu này cho thấy bot AI cũng có hiệu quả trong việc cung cấp các phản ứng trị liệu như con người.
Thông tin liên lạc do AI tạo ra nhận được xếp hạng cao hơn đáng kể so với tin nhắn do con người viết. Giảm 50% thời gian phản hồi cũng đã được thực hiện,
Rob Morris chỉ ra.
Có vẻ như mọi người đánh giá cao sự hỗ trợ và giúp đỡ về mặt tâm lý mà GPT-3 ngỏ ý. Tuy nhiên, sau thông báo này, Morris đã nhanh chóng gỡ nó xuống khỏi Telegram và Discord. Tại sao? Loại trị liệu này ngừng hoạt động khi các cá nhân nhận ra các thông điệp được tạo ra bởi một chiếc máy. Có thể việc mạo danh sự đồng cảm có vẻ kỳ quặc và trống rỗng.
Tuy nhiên, một cái gì đó khác cũng có thể đang diễn ra. Thí nghiệm của Rob Morris đã bị chỉ trích trên mạng xã hội và bị coi là phi đạo đức. Rốt cuộc, những người tham gia đã bị lừa dối và không thể đồng ý; thay vào đó, họ trở thành những người tham gia bất đắc dĩ trong nghiên cứu này.
Trong một nghiên cứu khoa học thông thường, những người tham gia được thông báo về cách thức thực hiện nghiên cứu và họ có thể rút lại sự đồng ý của mình bất cứ lúc nào cho đến khi công bố kết quả. Ở đây, đã có một sự vi phạm lớn về lòng tin: Những người có vấn đề về sức khỏe tâm thần đã ủy thác nền tảng này để cung cấp cho họ sự trợ giúp từ một người khác, trong khi họ được trợ giúp từ AI. Điều này không có nghĩa là sự trợ giúp về bản chất là kém chất lượng. Tuy nhiên, trong bất kỳ môi trường trị liệu nào, niềm tin là yếu tố chính dẫn đến kết quả trong tương lai. Kiểu lừa dối này có thể phá vỡ niềm tin mà mọi người từng có đối với một nền tảng rất hứa hẹn.
Thí nghiệm của Koko cho thấy việc lừa dối mọi người trên mạng xã hội dễ dàng như thế nào, dẫn đến lo ngại rằng công nghệ này có thể bị những người cố gắng truyền bá thông tin sai lệch và tin tức giả sử dụng một cách ác ý. Lần này là thiện chí, còn lần sau thì sao?
Đọc thêm về AI:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
