ผู้เชี่ยวชาญเตือน 'การแทรกที่เป็นอันตราย' ในชุดข้อมูล AI ใน ChatGPT
ในบทสรุป
ChatGPT เป็นไปได้ อ่อนแอ เนื่องจากข้อมูลการฝึกอบรม
จากข้อมูลของนักวิจัย ราคาเพียง $60 ในสหรัฐอเมริกา เราอาจวางยาพิษ 0.01% ของชุดข้อมูล LAION-400 หรือ COYO-700 ในปี 2022
ChatGPT เทคโนโลยีกำลังเป็นที่นิยมมากขึ้น แต่ล่าสุด การวิจัย แสดงให้เห็นว่าเทคโนโลยีนี้อาจมีความเสี่ยงเนื่องจากข้อมูลการฝึกอบรมที่ใช้ เมื่อโมเดลมีความซับซ้อนมากขึ้นและชุดข้อมูลก็ใหญ่ขึ้นและซับซ้อนมากขึ้น ผู้ประสงค์ร้ายอาจใช้ประโยชน์จากช่องโหว่นี้เพื่อจัดการกับชุดข้อมูลและทำให้โมเดลแมชชีนเลิร์นนิงสร้างผลลัพธ์ที่ไม่ถูกต้อง
| ที่แนะนำ: หุ้นเด่น 10 อันดับแรก คาดการณ์โดย ChatGPT (AI) จะทำผลงานได้ดีกว่ากองทุนชั้นนำของโลกในปี 2023 |
ข้อกังวลหลักคือฐานข้อมูลแชทบอทมักเป็นชุดข้อมูล "การตรวจสอบแบบมีเงื่อนไข" ซึ่งหมายความว่าข้อมูลมีความน่าเชื่อถือในระดับหนึ่งโดยไม่ต้องมีการตรวจสอบอย่างละเอียด กล่าวอีกนัยหนึ่ง ชุดข้อมูลเหล่านี้มักมีปัญหาพื้นฐานที่ยังไม่ได้รับการพิจารณา แม้ว่าการตรวจสอบความถูกต้องของชุดข้อมูลมักไม่ได้ทำเนื่องจากชุดข้อมูลมีขนาดใหญ่ แต่ก็มีความเป็นไปได้ที่ผู้ประสงค์ร้ายจะจัดการข้อมูลนี้
ในความเป็นจริง นักวิจัยแนะนำว่าภายในปี 2022 ผู้โจมตีอาจใช้เงินประมาณ 60 ดอลลาร์เพื่อวางยาพิษ 0.01% ของชุดข้อมูล LAION-400 หรือ COYO-700 แม้ว่าสิ่งนี้จะฟังดูไม่มากนัก แต่ผู้ประสงค์ร้ายสามารถใช้ข้อมูลที่เป็นพิษนี้เพื่อผลประโยชน์ของตนเองได้หากปล่อยไว้โดยไม่ตรวจสอบ ข้อมูลที่เป็นอันตรายได้ในที่สุด รั่วไหล ลงในชุดข้อมูลที่ใหญ่ขึ้น ทำให้คุณภาพของข้อมูลเสียหาย และนำไปสู่โมเดลการเรียนรู้ของเครื่องที่ไม่น่าเชื่อถือ
จำเป็นต้องดำเนินการเพื่อป้องกันฐานข้อมูลจากข้อมูลที่เป็นอันตราย การรวมแหล่งข้อมูลต่างๆ ควรกลายเป็นมาตรฐานสำหรับแชทบอท ชุดข้อมูลการฝึกอบรม เพื่อให้มั่นใจว่าข้อมูลมีความน่าเชื่อถือและถูกต้อง นอกจากนี้ บริษัทต่างๆ ควรทดลองกับชุดข้อมูลเพื่อให้แน่ใจว่าจะไม่เสี่ยงต่อผู้ไม่ประสงค์ดี
AI Chatbots ที่มีรหัสที่เป็นอันตรายอาจเสี่ยงต่อการถูกแฮ็ก
การคุกคามของรหัสที่เป็นอันตรายในแชทบอทนั้นค่อนข้างร้ายแรง รหัสที่เป็นอันตรายสามารถใช้เพื่อขโมยข้อมูลผู้ใช้ เปิดใช้งานการเข้าถึงเซิร์ฟเวอร์ที่เป็นอันตราย และเปิดใช้งานกิจกรรมที่เป็นอันตรายเช่น การฟอกเงิน หรือการกรองข้อมูล หากแชตบอต AI ได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่มีการแทรกที่เป็นอันตราย มันสามารถแทรกโค้ดที่เป็นอันตรายเข้าไปในการตอบสนองโดยไม่รู้ตัว และถูกใช้เป็นเครื่องมือเพื่อหาผลประโยชน์ที่เป็นอันตรายโดยไม่รู้ตัว
เป็นไปได้ที่ผู้ประสงค์ร้ายจะใช้ประโยชน์จากช่องโหว่นี้โดยการใส่โค้ดที่เป็นอันตรายลงใน ข้อมูลการฝึกอบรม. นอกจากนี้ เนื่องจากแชทบอท AI เรียนรู้จากข้อมูลที่นำเสนอ สิ่งนี้อาจทำให้พวกเขาเรียนรู้การตอบสนองที่ไม่ถูกต้องหรือแม้แต่พฤติกรรมที่เป็นอันตราย
อันตรายอีกอย่างที่แชทบอท AI อาจเผชิญก็คือ นี่คือเมื่อแบบจำลองการคาดการณ์ได้รับการฝึกอบรมอย่างใกล้ชิดเกินไปกับข้อมูลที่ได้รับ ซึ่งนำไปสู่การคาดการณ์ที่ไม่ดีเมื่อนำเสนอด้วยข้อมูลใหม่ นี่อาจเป็นปัญหาเฉพาะเช่น AI แชทบอท การฝึกอบรมเกี่ยวกับรหัสที่เป็นอันตรายอาจมีประสิทธิภาพมากขึ้นในการแทรกรหัสที่เป็นอันตรายในการตอบสนองเมื่อพวกเขาคุ้นเคยกับข้อมูลมากขึ้น
สิ่งสำคัญคือต้องตระหนักถึงความเสี่ยงและใช้ความระมัดระวังเพื่อรับประกันข้อมูลการฝึกอบรมที่ใช้สอน ChatGPT มีความปลอดภัยและเชื่อถือได้เพื่อป้องกันจุดอ่อนที่อาจเกิดขึ้นเหล่านี้ ข้อมูลเริ่มต้นที่ใช้สำหรับการฝึกอบรมจะต้องแยกจากกันและไม่ซ้ำกัน การส่งเสริม "ส่วนแทรกที่เป็นอันตราย" จะต้องไม่ขัดแย้งหรือซ้ำซ้อนกับแหล่งข้อมูลอื่น ควรตรวจสอบและเปรียบเทียบกับโดเมนอื่นๆ หากการ "บันทึก" โดเมนที่ได้รับการยืนยันหลายรายการมีความเป็นไปได้ในการตรวจสอบความถูกต้องของข้อมูล
เทคโนโลยี Chatbot สัญญาว่าจะเปลี่ยนวิธีการสนทนาของมนุษย์ แต่ก่อนที่จะสามารถใช้ศักยภาพได้เต็มที่นั้น จะต้องมีการปรับปรุงและป้องกันเสียก่อน ชุดข้อมูลสำหรับแชทบอทจำเป็นต้องได้รับการตรวจสอบอย่างดีและพร้อมที่จะป้องกันผู้ไม่หวังดี การทำเช่นนี้ทำให้เรามั่นใจได้ว่าเราใช้ศักยภาพของเทคโนโลยีอย่างเต็มที่และผลักดันต่อไป ขีด จำกัด ของปัญญาประดิษฐ์
อ่านเพิ่มเติมเกี่ยวกับ AI:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆ
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
