4,000명 알게 모르게 인공지능 로봇 심리치료
요컨대
비영리 정신 건강 플랫폼인 Koko는 도움이 필요한 사람들을 자원 봉사자와 연결합니다.
사용자는 객관식 질문을 보내 Koko 봇과 통신합니다.
4,000명이 예고 없이 심리적 지원을 받았습니다. OpenAI GPT-3.
봇은 인간만큼 치료 반응을 제공하는 데 효과적이었습니다.
비영리 정신 건강 플랫폼인 Telegram 및 Discord와 같은 채팅 서비스를 통해 민숙 정신 건강 관리가 필요한 청소년과 성인을 자원 봉사자와 연결합니다. 사용자는 Koko Care의 Discord 서버에 로그온하고 "이것에 대해 가지고 있는 가장 어두운 생각은 무엇입니까?"와 같은 객관식 질문을 보내 Koko 봇과 직접 통신합니다. 그런 다음 봇은 그 사람의 걱정을 서버의 다른 사용자에게 익명으로 전달합니다. 그러면 사용자는 간단한 메시지로 익명으로 응답할 수 있습니다.
정신 건강 지원이 필요한 사람들을 자원 봉사자와 연결하는 이 혁신적인 방법을 통해 Koko는 필요한 도움을 받을 수 없었던 사람들과 기꺼이 제공하려는 사람들 사이의 격차를 해소할 수 있었습니다.
그러나 Koko의 공동 설립자인 Rob Morris는 실제 사람이 아닌 AI 봇에서 심리 치료 지원자를 테스트하기로 결정했습니다. 약 4,000명이 심리적 지원을 받았습니다. OpenAI GPT-3, Morris의 트윗에 따르면. 이 연구 결과는 AI 로봇이 인간과 마찬가지로 치료 반응을 제공하는 데 효과적이라는 것을 보여주었습니다.
사람들은 심리적 지원과 도움을 높이 평가하는 것 같았습니다. GPT-3 제공됩니다. 그러나 발표 후 Morris는 Telegram과 Discord에서 신속하게 해당 내용을 삭제했습니다. 왜? 이러한 유형의 치료법은 개인이 메시지가 기계에 의해 생성되었다는 사실을 깨닫고 나면 작동이 중단됩니다. 공감을 가장하는 것이 이상하고 공허해 보일 수도 있습니다.
그러나 다른 것도 작용할 수 있습니다. Rob Morris의 실험은 소셜 미디어에서 비판을 불러일으켰고 비윤리적이라는 꼬리표가 붙었습니다. 결국 참가자들은 속았고 정보에 입각한 동의를 할 수 없었습니다. 대신 그들은 이 연구에 참여하지 않으려고 했습니다.
정기적인 과학 연구에서 참가자는 연구 수행 방법에 대해 통보를 받고 결과가 발표될 때까지 언제든지 동의를 철회할 수 있습니다. 여기에서 중대한 신뢰 위반이 발생했습니다. 정신 건강 문제가 있는 사람들은 AI의 도움을 받는 동시에 다른 사람의 도움을 제공하도록 플랫폼을 맡겼습니다. 이것은 도움 그 자체가 질이 나쁘다는 것을 의미하지는 않습니다. 그러나 모든 치료 환경에서 신뢰는 미래 결과의 주요 요인입니다. 이러한 유형의 속임수는 매우 유망한 플랫폼에 대한 사람들의 신뢰를 깨뜨릴 수 있습니다.
Koko의 실험은 소셜 미디어에서 사람들을 속이는 것이 얼마나 쉬운지를 보여주었으며, 잘못된 정보와 가짜 뉴스를 퍼뜨리려는 사람들이 이 기술을 악의적으로 사용할 수 있다는 우려로 이어졌습니다. 이번에는 선의로 행했지만 다음에는 어떻습니까?
AI에 대해 자세히 알아보기:
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.
더 많은 기사Damir는 팀 리더, 제품 관리자 및 편집자입니다. Metaverse Post, AI/ML, AGI, LLM, Metaverse 및 Web3-관련 분야. 그의 기사는 매달 백만 명이 넘는 사용자의 엄청난 청중을 끌어들입니다. 그는 SEO 및 디지털 마케팅 분야에서 10년의 경험을 가진 전문가로 보입니다. Damir는 Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto 및 기타 간행물. UAE, 터키, 러시아, CIS를 오가며 디지털 유목민으로 활동하고 있습니다. Damir는 끊임없이 변화하는 인터넷 환경에서 성공하는 데 필요한 비판적 사고 기술을 제공했다고 믿는 물리학 학사 학위를 받았습니다.