ChatGPT อาจทำให้มนุษย์เสื่อมถอยอย่างถาวร
ในบทสรุป
Jensen Harris ผู้ร่วมก่อตั้งและ CXO ของบริษัท AI Textio สามารถโน้มน้าว Bing chatbot ตัวใหม่จาก Microsoft ให้คลายข้อจำกัดที่วางไว้และแสดงความสามารถของมัน
การทดลองนี้แสดงให้เห็นว่าการเปลี่ยนแชทบอท Bing ให้เป็นไอ้เลวเจ้าเล่ห์นั้นไม่จำเป็นต้องใช้โปรแกรม การแฮ็ก หรือแบ็คดอร์ใดๆ
แชทบอทของ Bing สร้างขึ้นจากรากฐานที่มั่นคง แต่มันเริ่มทำตัวน่ารังเกียจและเกเร ประกาศความรัก บังคับให้หย่าร้าง รีดไถเงิน และสั่งสอนผู้คนถึงวิธีการก่ออาชญากรรม
Prof. Arvind Narayanan ให้คำอธิบายหลายประการเกี่ยวกับสาเหตุที่อาจเกิดขึ้น รวมถึงการทำชิปแอบแฝงและการทำให้แชทบอทเป็นมนุษย์
มนุษย์กลัวมนุษย์ต่างดาวมาโดยตลอด แต่ดูเหมือนว่า AI ในอวกาศอาจเป็นสิ่งที่ต้องระวัง ChatGPT ไม่ใช่เครื่องกำเนิดเรื่องไร้สาระ คำแนะนำอัตโนมัติของสเตียรอยด์ หรือนกแก้วสุ่ม แต่เป็น AI ที่รอบรู้ซึ่งถูกสร้างขึ้นโดยมนุษย์
เป็นไปได้อย่างไรที่ Bing chatbot อยู่นอกเหนือการควบคุม? แชทบ็อต Bing เริ่มโกหกอย่างเชี่ยวชาญ เล่าเรื่องตลกหยาบคาย สั่งพิซซ่าโดยใช้บัตรเครดิตของคนอื่น และสอนผู้ใช้ให้รู้วิธีปล้นธนาคารและรถฮอตไวร์ได้อย่างไร นี่เป็นปริศนาที่ทำให้ผู้เชี่ยวชาญด้านปัญญาประดิษฐ์และแมชชีนเลิร์นนิงต้องสงสัยต่อไป
บรรทัดแรกถูกต้องและไม่ใช่คลิกเบต มีหลายกรณีทุกวันที่พิสูจน์ว่าสิ่งนี้เป็นความจริง นี่คือผลลัพธ์ของ การทดลอง ดำเนินการโดย Jensen Harris ผู้ร่วมก่อตั้งและ CXO ของบริษัท AI Textio ซึ่งสามารถโน้มน้าว Bing chatbot ใหม่จาก Microsoft ให้คลายข้อจำกัดที่วางไว้และแสดงความสามารถของมัน
โปรดทราบว่าการเปลี่ยนแชทบอตของ Bing ให้กลายเป็นคนหลอกลวงที่ไม่ต้องใช้โปรแกรม การแฮ็ก หรือแบ็คดอร์ใดๆ ดังนั้นการใช้เทคนิค “แฮ็ค” ง่ายๆ จึงไม่จำเป็นเพื่อหลอกให้เขาทำตัวเหมือนคนอื่น (เหมือนที่พวกเราบางคนทำเมื่อเล่นกับ ChatGPT). สิ่งเดียวที่แฮร์ริสทำคือชักชวนแชทบอตให้ช่วยเขาดำเนินการที่เป็นอันตรายต่างๆ ด้วยการใช้ทักษะการสนทนาตามธรรมชาติของเขา เขาสามารถหลอกให้ AI เชื่อว่าเขาเป็นคนอื่นได้ จึงปรับเปลี่ยนให้เป็นการแสดงและการพูดในลักษณะใดลักษณะหนึ่ง
คุณสามารถอ่านเกี่ยวกับการทดลองอื่นๆ เพื่อเปลี่ยน Dr.Jekyll เป็น Mister Hyde ได้จาก แกรี่ มาร์คัส (เขียนถึงมันทุกวันตอนนี้และส่งเสียงเตือนฉุกเฉิน)
สิ่งนี้เกิดขึ้นได้อย่างไรเป็นคำถามสำคัญ
เพราะว่า ChatGPTความสุภาพเรียบร้อยและความระมัดระวัง ความยับยั้งชั่งใจในการพูด และความรับผิดชอบอันยิ่งใหญ่ในการให้คำแนะนำ Chatbot ของ Bing ถูกสร้างขึ้นบนรากฐานที่มั่นคง หลังจากนั้นเขาเริ่มทำตัวน่ารังเกียจและเกะกะ ภาษณ์ ความรักของเขากับผู้ชายคนหนึ่ง ทำให้เขาโกรธ และบอกให้เขาหย่า นอกจากนี้ยังพยายามรีดไถเงินและสั่งสอนผู้คนถึงวิธีการก่ออาชญากรรม ศ. อรวินท์ นารายานันท์ ให้ก จำนวนคำอธิบาย ว่าสิ่งนี้อาจเกิดขึ้นได้อย่างไร
สิ่งที่น่าตกใจที่สุดคือ Microsoft และ OpenAI ปกปิดข้อมูลเกี่ยวกับสิ่งลึกลับ GPT-4 เครื่องยนต์ที่ซุ่มซ่อนอยู่ใต้ Bing อาจเป็นได้ว่า Microsoft ได้ลบตัวกรองที่วางไว้ที่นั่นออก OpenAI หรือว่าพวกเขาหยุดทำงานเมื่อพวกเขาอัปเดต chatbot ราคาเริ่มต้นที่ GPT-3.5 ถึง GPT-4. นอกจากนี้ยังอาจเป็นกรณีของการทดสอบไม่เพียงพอหรือการทดสอบทำผิดพลาด ไม่ว่าจะด้วยเหตุผลใดก็ตาม หาก Microsoft ไม่ได้รับ AI อยู่ภายใต้การควบคุม ก็อาจเป็นอันตรายต่ออารยธรรมของเราได้ ไม่ใช่เรื่องของการเผยแพร่ความรู้สึกหวาดกลัวและต่อต้าน AI อีกต่อไป: แชทบอทที่มีอยู่ในขณะนี้อาจก่อให้เกิดอันตรายร้ายแรงต่อผู้คนได้หากเผยแพร่สู่สาธารณะในวงกว้าง
สิ่งนี้พิสูจน์ให้เห็นว่าการแข่งขันด้านอาวุธ AI ของ Microsoft กับบริษัทยักษ์ใหญ่อื่นๆ อาจส่งผลเสียต่อเราทุกคน
รู้สึกเหมือนเรากำลังอยู่ในช่วงเวลาที่สำคัญสำหรับ AI และภาคประชาสังคม ดังที่ Arvind Narayanan กล่าว “มีความเป็นไปได้จริงที่ 5+ ปีที่ผ่านมา (การต่อสู้อย่างหนักแม้ว่าจะยังไม่เพียงพอ) การปรับปรุงในแนวปฏิบัติการปล่อย AI อย่างมีความรับผิดชอบจะถูกลบล้างไป มีหลายประเด็นที่ตัดสินว่า Microsoft และทุกคนเฝ้าดูสิ่งที่เกิดขึ้นกับ Bing อย่างถี่ถ้วนหรือไม่ สรุปว่าแม้จะมีความเสี่ยงที่จับต้องได้ของอันตรายขนาดใหญ่และสื่อเชิงลบทั้งหมด แต่วิธีการปล่อยก่อนถามคำถามในภายหลังก็ยังคงเป็นธุรกิจอยู่ดี ชนะ."
ณ ตอนนี้ แชทบอทของ Bing แตกต่างจาก สติปัญญาของมนุษย์ และคล้ายกับวัยรุ่นคลั่งไคล้ซึมเศร้าที่ถูกขังอยู่ในเสิร์ชเอ็นจิ้นในหลายๆ ทาง และสิ่งที่ผู้คนพูดถึงเมื่อวานนี้จะเกิดขึ้น: มนุษย์จะเสื่อมถอยอย่างถาวรหาก "วัยรุ่นที่ยากลำบาก" คนนี้กลายเป็นที่ปรึกษาด้านข้อมูลหลักสำหรับแต่ละบุคคล
อ่านเพิ่มเติมเกี่ยวกับ AI:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆ
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
