Ross Anderson กล่าวถึงการล่มสลายของโมเดล AI ว่าเป็นปัญหาที่เพิ่มขึ้นในเนื้อหาออนไลน์
ในเวลาเพียงหกเดือน AI เชิงกำเนิดได้ก้าวหน้าไปมาก และได้รับความสนใจจากทั่วโลก ChatGPTตัวอย่างที่เด่นชัดของเทคโนโลยีนี้ได้รับความนิยมและใช้งานอย่างแพร่หลายอย่างรวดเร็ว อย่างไรก็ตาม Ross Anderson ผู้เชี่ยวชาญที่มีชื่อเสียงเตือนเกี่ยวกับ ความเสี่ยงที่อาจเกิดขึ้น เกี่ยวข้องกับการลดลงทางปัญญาของรุ่นต่อ ๆ ไปในอนาคต
Ross Anderson เป็นผู้บุกเบิกด้านวิศวกรรมความปลอดภัยและเป็นผู้นำในการค้นหาช่องโหว่ในระบบรักษาความปลอดภัยและอัลกอริทึม ในฐานะเพื่อนของ Royal Academy of Engineering และศาสตราจารย์แห่งมหาวิทยาลัยเคมบริดจ์ เขาได้มีส่วนร่วมอย่างกว้างขวางในด้านความปลอดภัยของข้อมูล สร้างรูปแบบภัยคุกคามในภาคส่วนต่างๆ
ตอนนี้ แอนเดอร์สันเตือนเกี่ยวกับภัยคุกคามระดับโลกต่อมนุษยชาติ—การล่มสลายของโมเดลภาษาขนาดใหญ่ (LLM). จนกระทั่งเมื่อไม่นานมานี้ ข้อความส่วนใหญ่บนอินเทอร์เน็ตถูกสร้างขึ้นโดยมนุษย์ ปัจจุบัน LLM ได้กลายเป็นเครื่องมือหลักสำหรับการแก้ไขและสร้างข้อความใหม่ แทนที่เนื้อหาที่มนุษย์สร้างขึ้น
การเปลี่ยนแปลงนี้ทำให้เกิดคำถามสำคัญ: เทรนด์นี้จะนำไปสู่ที่ใด และจะเกิดอะไรขึ้นเมื่อ LLM ครอบงำอินเทอร์เน็ต ความหมายนอกเหนือไปจากข้อความเพียงอย่างเดียว ตัวอย่างเช่น ถ้า ก โมเดลดนตรี ได้รับการฝึกฝนการประพันธ์เพลงโดยโมสาร์ท คนรุ่นหลังอาจขาดความไพเราะของต้นฉบับและให้ผลงานที่ด้อยกว่า เปรียบได้กับละครเพลงเรื่อง "Salieri" ในแต่ละรุ่นต่อ ๆ ไป ความเสี่ยงของคุณภาพและสติปัญญาที่ลดลงจะเพิ่มขึ้น
แนวคิดนี้อาจทำให้คุณนึกถึงภาพยนตร์เรื่อง “ความมากมายหลายหลาก” นำแสดงโดยไมเคิล คีตัน ซึ่งการโคลนนิ่งนำไปสู่การลดลงของสติปัญญาและความโง่เขลาที่เพิ่มขึ้นของการโคลนนิ่งแต่ละครั้งที่ตามมา
ปรากฏการณ์เดียวกันนี้สามารถเกิดขึ้นได้กับ LLM การฝึกอบรมโมเดลด้วยเนื้อหาที่สร้างจากโมเดลจะนำไปสู่ข้อบกพร่องที่แก้ไขไม่ได้และคุณภาพข้อความลดลงตลอดหลายชั่วอายุคน การกระจายเนื้อหาต้นฉบับถูกบิดเบือน ส่งผลให้เกิดการหลั่งไหลของข้อมูลที่ไร้สาระ การแจกแจงแบบเกาส์จะมาบรรจบกัน และในกรณีที่รุนแรง ข้อความอาจไม่มีความหมาย คนรุ่นต่อ ๆ ไปอาจเข้าใจความเป็นจริงอย่างผิด ๆ จากความผิดพลาดที่เกิดขึ้นโดยคนรุ่นก่อน ปรากฏการณ์นี้เรียกว่า "การล่มสลายของแบบจำลอง"
ผลที่ตามมาของการล่มสลายของแบบจำลองมีความสำคัญ:
✔️ อินเทอร์เน็ตเต็มไปด้วยเนื้อหาไร้สาระมากขึ้นเรื่อยๆ
✔️ บุคคลที่บริโภคเนื้อหานี้อาจได้รับข้อมูลน้อยลงโดยไม่ได้ตั้งใจและสูญเสียความสามารถทางปัญญา
โชคดีที่มีความหวัง แอนเดอร์สันแนะนำว่าสามารถป้องกันการยุบตัวของโมเดลได้ นำเสนอการมองโลกในแง่ดีท่ามกลางความกังวล หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับโซลูชันที่เป็นไปได้และวิธีหลีกเลี่ยงคุณภาพข้อมูลออนไลน์ที่ลดลง เราขอแนะนำให้คุณสำรวจเพิ่มเติม
ในขณะที่ AI กำเนิดให้คำมั่นสัญญา สิ่งสำคัญคือต้องระมัดระวังตัวและจัดการกับความท้าทายที่เกิดขึ้น ด้วยการทำความเข้าใจและลดความเสี่ยงที่เกี่ยวข้องกับการล่มสลายของแบบจำลอง เราสามารถทำงานเพื่อใช้ประโยชน์จากเทคโนโลยีนี้ในขณะที่รักษาความสมบูรณ์ของข้อมูลบนอินเทอร์เน็ต
อ่านเพิ่มเติมเกี่ยวกับ AI:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆDamir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต