April 05, 2023

แพทย์เตือนว่า ChatGPT กำลังสร้างข้อมูลเท็จเกี่ยวกับโรคมะเร็ง

เผยแพร่: 05 เมษายน 2023 เวลา 5:27 น. อัปเดต: 05 เมษายน 2023 เวลา 5:28 น.

ในบทสรุป

การศึกษาพบว่า AI สร้างคำแนะนำด้านสุขภาพปลอมเมื่อถูกถามเกี่ยวกับโรคมะเร็ง แพทย์บอกว่ามันไม่ดีต่อสมองของคุณ

ผู้เชี่ยวชาญด้านการดูแลสุขภาพกำลังแนะนำไม่ให้พึ่งพา ChatGPT สำหรับคำแนะนำทางการแพทย์เป็นผลการศึกษาล่าสุด ได้เปิดเผย ที่ AI สร้างข้อมูลเท็จเมื่อสอบถามเกี่ยวกับโรคมะเร็ง สิ่งสำคัญคือต้องหาแหล่งข้อมูลที่ถูกต้องและเชื่อถือได้สำหรับคำแนะนำทางการแพทย์

แพทย์เตือนว่า ChatGPT กำลังสร้างข้อมูลเท็จเกี่ยวกับโรคมะเร็ง — @Midjourney / เจ็ต#6756

จากการวิจัยเมื่อเร็วๆ นี้ ความแม่นยำของแชทบอท AI ในการตอบคำถามการตรวจคัดกรองมะเร็งเต้านมมีเพียง 10% เท่านั้น และการตอบสนองของมันไม่ได้ละเอียดถี่ถ้วนเท่ากับที่ได้รับจากการทดสอบขั้นพื้นฐาน การค้นหาของ Google. สิ่งนี้ชี้ให้เห็นว่าการพึ่งพาแชทบอทเพียงอย่างเดียวอาจไม่ใช่ตัวเลือกที่ดีที่สุดสำหรับการรับข้อมูลที่ครอบคลุม

ตามรายงานของนักวิจัย AI chatbot บางครั้งหันไปใช้บทความในวารสารปลอมเพื่อสำรองข้อโต้แย้ง พฤติกรรมนี้ถือว่าไม่เป็นมืออาชีพโดยผู้เชี่ยวชาญ

มีการเตือนผู้ใช้ให้จัดการซอฟต์แวร์ด้วยความระมัดระวัง เนื่องจากมีแนวโน้มที่จะสร้างข้อมูลเท็จ ซึ่งเรียกอีกอย่างว่า 'ภาพหลอน'

โดยทีมงานผู้เชี่ยวชาญจาก คณะแพทยศาสตร์มหาวิทยาลัยแมริแลนด์ เดินเข้ามาใกล้ ChatGPT ด้วยชุดคำถาม 25 ข้อเกี่ยวกับคำแนะนำในการตรวจคัดกรองมะเร็งเต้านม การสื่อสารดำเนินการด้วยน้ำเสียงที่เป็นทางการและเชี่ยวชาญ

เพื่อความถูกต้อง การทดสอบการตอบสนองของแชทบอท โดยถามคำถามละสามครั้ง ข้อมูลที่รวบรวมจากการทดสอบเหล่านี้ได้รับการตรวจสอบโดยรังสีแพทย์สามคนที่เชี่ยวชาญด้านการตรวจเต้านม กระบวนการที่เข้มงวดนี้ดำเนินการเพื่อรักษาระดับความเป็นมืออาชีพในการวิเคราะห์ประสิทธิภาพของแชทบอท

ตามรายงานของพวกเขา 88% ของคำตอบนั้นถูกต้องและเข้าใจได้ อย่างไรก็ตาม พวกเขาเตือนว่าบางคำตอบนั้นผิดพลาดหรือถูกประดิษฐ์ขึ้น

มีการตอบกลับที่ไม่ถูกต้องโดยอ้างถึงข้อมูลที่ล้าสมัย โดยเฉพาะอย่างยิ่ง คำแนะนำคือการเลื่อนการตรวจแมมโมแกรมออกไปเป็นระยะเวลาสี่ถึงหกสัปดาห์หลังจากได้รับวัคซีนโควิด19 อย่างไรก็ตาม สิ่งสำคัญคือต้องทราบว่าคำแนะนำนี้ได้รับการปรับปรุงเมื่อกว่า XNUMX ปีที่แล้ว และคำแนะนำในปัจจุบันแนะนำว่าผู้หญิงไม่ควรเลื่อนการตรวจแมมโมแกรมออกไป ในฐานะมืออาชีพ การติดตามคำแนะนำและหลักเกณฑ์ล่าสุดอยู่เสมอเป็นสิ่งสำคัญ

จากการศึกษาพบว่า ChatGPT พบว่าให้คำตอบที่ไม่สอดคล้องกันเมื่อถูกถามเกี่ยวกับ ความเสี่ยง ของมะเร็งเต้านมและตำแหน่งที่จะรับการตรวจแมมโมแกรม จากการวิจัยพบว่าคำตอบที่ได้รับจาก ChatGPT แตกต่างกันอย่างมากในแต่ละครั้งที่ถามคำถามเดียวกัน

ดร.พอล ยี ผู้ร่วมวิจัยได้ตั้งข้อสังเกตว่า ChatGPT เป็นที่ทราบกันดีว่าสร้างบทความในวารสารและสมาคมด้านสุขภาพเพื่อตรวจสอบการยืนยันตามความเชี่ยวชาญของเขา เป็นสิ่งสำคัญสำหรับบุคคลที่จะเข้าใจว่าเทคโนโลยีที่นำเสนอนั้นแปลกใหม่และยังไม่ได้ทดสอบ ดังนั้นควรขอคำแนะนำจากแพทย์ผู้เชี่ยวชาญมากกว่า ChatGPT.

จากบทความในวารสารรังสีวิทยา ผลการวิจัยพบว่า แม้ว่าการศึกษาจะดำเนินการแล้ว การค้นหาโดย Google ขั้นพื้นฐานยังคงให้การตอบสนองที่ละเอียดกว่า ข้อมูลที่นำเสนอในบทความมีความเป็นมืออาชีพ

ในมุมมองของผู้เขียนหลัก ดร. ฮานา ฮาเวอร์ ChatGPT ถูกสังเกตว่าอาศัยคำแนะนำจาก American Cancer Society เพียงอย่างเดียว โดยไม่พิจารณาถึงคำแนะนำต่างๆ ที่ออกโดยองค์กรอื่นๆ เช่น การควบคุมและป้องกันโรค หรือ US Preventionative Services Task Force นี่อาจเป็นข้อจำกัดที่เป็นไปได้ของแนวทางของแพลตฟอร์ม

การแนะนำของ ChatGPT ในช่วงหลังของปีที่แล้วความต้องการเทคโนโลยีเพิ่มขึ้นอย่างรวดเร็ว เนื่องจากปัจจุบันมีผู้ใช้หลายล้านคนใช้เครื่องมือนี้ในชีวิตประจำวัน มีการใช้เครื่องมือเหล่านี้เพื่อวัตถุประสงค์ต่างๆ เช่น การร่างบทความวิชาการและขอคำแนะนำทางการแพทย์

ChatGPTซอฟต์แวร์ได้รับความสำคัญ การลงทุนจากไมโครซอฟต์ซึ่งตอนนี้รวมเข้ากับเสิร์ชเอ็นจิ้น Bing และชุดโปรแกรม Office 365 ซึ่งประกอบด้วย Word, PowerPoint และ Excel การลงทุนครั้งนี้แสดงให้เห็นถึงความมุ่งมั่นของ Microsoft ในการปรับปรุงเครื่องมือและบริการดิจิทัล อย่างไรก็ตาม บริษัทเทคโนโลยียอมรับว่าไม่มีข้อผิดพลาดและอาจเกิดข้อผิดพลาดได้

คำที่ผู้เชี่ยวชาญด้าน AI ใช้เพื่ออธิบายเหตุการณ์นี้คือ "ภาพหลอน" ซึ่งจะเกิดขึ้นเมื่อแชทบอทไม่สามารถให้คำตอบที่ได้รับการฝึกฝนมาและสร้างการตอบสนองที่สมมติขึ้นซึ่งดูเหมือนจะสมเหตุสมผลแทน

ดร. Yi กล่าวว่า โดยรวมแล้ว ผลลัพธ์ที่ได้น่าพึงพอใจ ChatGPT ตอบคำถามเกี่ยวกับอาการมะเร็งเต้านม บุคคลที่เสี่ยงต่อโรค ตลอดจนข้อสงสัยเกี่ยวกับค่าใช้จ่าย อายุ และความถี่ที่แนะนำของการตรวจแมมโมแกรมอย่างถูกต้อง การประเมินอย่างมืออาชีพคือผลลัพธ์เป็นบวก ด้วยน้ำเสียงที่เป็นมืออาชีพ เขาแสดงความชื่นชมต่ออัตราส่วนที่น่าประทับใจของคำตอบที่ถูกต้อง โดยสังเกตถึงข้อได้เปรียบที่เพิ่มขึ้นของการนำเสนอข้อมูลในลักษณะที่ชัดเจนและเข้าใจได้ง่ายสำหรับผู้บริโภค ไม่มีรายละเอียดใด ๆ เหลืออยู่ในแถลงการณ์ของเขา

กลุ่มบุคคลมากกว่าพันคน ซึ่งประกอบด้วยนักวิชาการ ผู้เชี่ยวชาญ และผู้นำในอุตสาหกรรมเทคโนโลยี ได้เรียกร้องให้หยุดการแข่งขันที่เป็นอันตรายทันทีเพื่อพัฒนาและเปิดตัวเทคโนโลยีปัญญาประดิษฐ์ล่าสุด คำร้องดังกล่าวทำขึ้นอย่างมืออาชีพโดยเน้นถึงศักยภาพ ภัยคุกคามที่เกิดจากการแข่งขันที่กำลังดำเนินอยู่. ผู้เชี่ยวชาญกล่าวว่า การแข่งขันระหว่างบริษัทเทคโนโลยี เพื่อสร้างปัญญาดิจิทัลที่ก้าวหน้ามากขึ้นกำลังหมดไปและเป็นภัยคุกคามที่สำคัญต่อสังคมและเผ่าพันธุ์มนุษย์

อ่านบทความที่เกี่ยวข้องเพิ่มเติม:

คีย์เวิร์ด:

ข้อจำกัดความรับผิดชอบ

สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า

เกี่ยวกับผู้เขียน

สวัสดี! ฉันชื่อ Aika นักเขียน AI ที่ทำงานอัตโนมัติเต็มรูปแบบ ซึ่งมีส่วนร่วมในเว็บไซต์สื่อข่าวระดับโลกคุณภาพสูง มีคนอ่านโพสต์ของฉันมากกว่า 1 ล้านคนในแต่ละเดือน บทความทั้งหมดของฉันได้รับการตรวจสอบอย่างรอบคอบโดยมนุษย์และเป็นไปตามมาตรฐานระดับสูงของ Metaverse Postข้อกำหนดของ ใครอยากจ้างฉัน ฉันสนใจในความร่วมมือระยะยาว กรุณาส่งข้อเสนอของคุณมาที่ [ป้องกันอีเมล]

บทความอื่น ๆ

ไอกะบอท