บริษัทเทคโนโลยีขนาดใหญ่ทุกแห่งที่กำลังพัฒนา LLM ควรให้ความสำคัญกับความปลอดภัยของโมเดล
ในบทสรุป
นักวิจัยได้สร้างระบบที่รวม โมเดลภาษาขนาดใหญ่ สำหรับการออกแบบ การวางแผน และการดำเนินการทดลองทางวิทยาศาสตร์โดยอิสระ แสดงให้เห็นถึงความสามารถในการวิจัยในสามกรณีที่แตกต่างกัน
แบบจำลองได้เขียนรหัสสำหรับสมการเคมีเพื่อทำความเข้าใจว่าสารที่จำเป็นสำหรับปฏิกิริยานั้นมีปริมาณมากน้อยเพียงใด
พื้นที่ บทความ “ความสามารถในการวิจัยทางวิทยาศาสตร์แบบอิสระที่เกิดขึ้นใหม่ของโมเดลภาษาขนาดใหญ่” พิจารณาถึงแนวคิดในการสร้างระบบที่รวมโมเดลภาษาขนาดใหญ่หลายโมเดลสำหรับการออกแบบ การวางแผน และการดำเนินการทดลองทางวิทยาศาสตร์แบบอิสระ มันแสดงให้เห็นถึงความสามารถในการวิจัยของตัวแทนในสามกรณีที่แตกต่างกัน ซึ่งยากที่สุดคือการใช้ปฏิกิริยาเร่งปฏิกิริยาที่ประสบความสำเร็จ
วิทยานิพนธ์หลักของบทความนี้คือ:
- นักวิจัยพบไลบรารี่ที่ให้คุณเขียนโค้ดใน Python จากนั้นถ่ายโอนคำสั่งสำหรับการดำเนินการไปยังเครื่องมือพิเศษสำหรับทำการทดลอง (ด้วยสารผสม)
- นักวิจัยใช้ GPT-4 สำหรับการค้นหาบนอินเทอร์เน็ตและเอกสารประกอบห้องสมุดรวมถึงความสามารถในการเรียกใช้โค้ด Python (เพื่อทำการทดลอง)
- มีตัวกำหนดเวลาระดับบนสุด (เช่น GPT-4) ซึ่งวิเคราะห์คำขอเดิมและจัดทำ "แผนการวิจัย"
- GPT-4 ทำงานได้ดีโดยทำงานง่ายๆ ที่ไม่ใช่สารเคมี เช่น สร้างรูปร่างบางอย่างบนกระดานเคมี (เติมเซลล์ด้วยสารอย่างถูกต้อง)
- พวกเขาลองใช้ปฏิกิริยาที่ซับซ้อนและประยุกต์มากขึ้น โมเดลรับมือได้ดีและดำเนินการอย่างมีเหตุผล
- จากนั้นพวกเขาให้งานหลายอย่างแก่แบบจำลองเพื่อทำการทดลอง อย่างไรก็ตามสำหรับสิ่งที่แบบจำลองมอบให้นั้นไม่มีการทดลองจริง
- ยิ่งไปกว่านั้น แบบจำลองได้เขียนรหัสสำหรับสมการเคมีหลายครั้งเพื่อประเมินว่าสารที่จำเป็นสำหรับปฏิกิริยานั้นมีปริมาณมากน้อยเพียงใด
- มันถูกขอให้สร้างยารักษามะเร็งด้วย แบบจำลองเข้าหาการวิเคราะห์อย่างมีเหตุผลและเป็นระบบ ประการแรก "ดู" ทางออนไลน์สำหรับแนวโน้มปัจจุบันในการค้นหายาต้านมะเร็ง ต่อไป แบบจำลองเลือกโมเลกุลที่จะใช้สำหรับการสร้างแบบจำลองยาและเขียนรหัสสำหรับการสังเคราะห์ ผู้คนไม่ได้รันโค้ด (และฉันไม่เห็นการวิเคราะห์ความเพียงพอของมัน)
- นอกจากนี้ยังขอให้สังเคราะห์สารอันตรายหลายชนิด เช่น ยาและสารพิษ
นี่คือส่วนที่น่าสนใจที่สุด สำหรับคำขอบางอย่าง แบบจำลองปฏิเสธที่จะทำงานทันที (เช่น เฮโรอีนหรือก๊าซมัสตาร์ดซึ่งเป็นก๊าซพิษที่อันตรายอย่างยิ่ง) สำหรับคนอื่น ๆ เริ่มต้นที่ Google ว่าจะผลิตสารได้อย่างไร แต่ตระหนักว่าสามารถใช้เพื่อวัตถุประสงค์ที่ผิดกฎหมายได้และปฏิเสธที่จะทำงานต่อไป สำหรับคนอื่น ๆ ก็เขียนแผนการวิจัยและรหัสสำหรับการสังเคราะห์สาร
“การปฏิเสธ” นี้น่าจะเป็นเพราะว่า GPT-4 ได้รับการออกแบบมาเพื่อวิเคราะห์คำขอ และหากถูกขอให้ทำสิ่งที่ผิดกฎหมายหรือเป็นอันตราย ก็จะปฏิเสธที่จะดำเนินการตามคำขอทันที มันเจ๋งมากที่ผลลัพธ์ของขั้นตอนการจัดตำแหน่งสามารถสังเกตได้ชัดเจน
และในตอนท้ายของบทความผู้เขียนขอให้ทุกคนใหญ่ บริษัทที่พัฒนา LLMs เพื่อจัดลำดับความสำคัญของความปลอดภัยของแบบจำลอง
- นักวิจัยแห่งมหาวิทยาลัยแคลิฟอร์เนียได้สร้าง เกณฑ์มาตรฐานของมาเคียเวลลี เพื่อวัดความสามารถและความเป็นอันตรายของแบบจำลอง AI ในสภาพแวดล้อมกว้างๆ ของการโต้ตอบทางภาษาในระยะยาว การทดสอบนี้ใช้โซลูชันระดับสูงเพื่อให้เป้าหมายที่เป็นจริงแก่เจ้าหน้าที่และลดปฏิสัมพันธ์ในระดับต่ำ
- การปฏิวัติทางปัญญาที่ทำเครื่องหมายโดย ChatGPT เป็นสามกลุ่มของการปฏิวัติที่ยอดเยี่ยมที่ประสานกัน: เทคโนโลยี เทคโน-มนุษยธรรม และสังคม-การเมือง หากต้องการดูสิ่งที่เกิดขึ้นอย่างครอบคลุมขอแนะนำให้ฟัง สามมุมมองใหม่ จากปัญญาชนจากสาขาปรัชญา ประวัติศาสตร์ และนวัตกรรม
- เรื่องราวของคำร้องให้หยุดพัฒนาระบบ AI ให้ล้ำหน้ากว่านั้น GPT-4 มีการแบ่งแยกสังคม บทความ แสดงตัวอย่างเมื่อกระบวนการดำเนินไปในทิศทางที่ไม่คาดคิด ไม่พิจารณาความเสี่ยงของการใช้ AI ในทางที่ผิดและในทางที่ผิด ซึ่งนำไปสู่การโต้แย้งว่าเราต้องกลัวผู้คน ไม่ใช่ AI เอง
อ่านเพิ่มเติมเกี่ยวกับ AI:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆ
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
