การหยุดการฝึก AI เป็นเวลา 6 เดือนเป็นความคิดที่ดี แต่อาจยังไม่เพียงพอ
ในบทสรุป
เรื่องราวของคำร้องและการเปิดตัวบทความของ Yudkovsky ทำให้สังคมแตกแยก
ภาวะที่กลืนไม่เข้าคายไม่ออกของนักโทษและทฤษฎีเกมแนะนำว่าจำเป็นต้องมีคนจำนวนมากที่มีเหตุผลในสถานที่ต่างๆ เพื่อแก้ไขปัญหาดังกล่าว
อย่างไรก็ตาม แนวคิดนี้มีเพียงไม่กี่ข้อเท่านั้น เช่น การขาดจิตสำนึก เจตจำนง และเอเจนซี่ในวิวัฒนาการดิจิทัล
เรื่องราวของ ยื่นคำร้องให้หยุดพัฒนาระบบ AI ให้ก้าวหน้ากว่า GPT-4 ได้แบ่งขั้วสังคมอย่างเห็นได้ชัด การเปิดตัวของ Yudkovsky บทความ ขอยุติการพัฒนาต่อไปของ GPT แบบจำลองได้เติมเชื้อเพลิงลงในกองไฟ โดยเฉพาะข้อความของเขาเกี่ยวกับการทิ้งระเบิดศูนย์ข้อมูล
จากสิ่งที่สามารถสังเกตได้ทางออนไลน์ ดูเหมือนว่าจะมีผู้สนับสนุนคำร้องน้อยกว่าฝ่ายตรงข้ามมาก ซึ่งมีข้อโต้แย้งหลักสามประการ:
| 1 | – ไม่สามารถหยุดความก้าวหน้าได้ – คำร้องถูกคิดค้นโดย OpenAI สินค้า – จีนจะไม่รอช้า |
| 2 | – คุณไม่ควรกลัว AI แต่กลัวผู้คน - GPT ไม่มีจิตสำนึก ความตั้งใจ ความปรารถนา หรือสิทธิ์เสรี จึงไม่มีอะไรต้องกลัว - GPT-4 ห่างไกลจากการเป็นทาสโลกอย่างบ้าคลั่ง เพราะมันไม่เข้าใจอะไรเลย ทำผิดพลาดโง่ๆ และโดยทั่วไปค่อนข้างโง่ - GPT-4 คงจะวิ่งโลกไม่ได้เพราะมันไม่มีแขน/ขา |
| 3 | – กลุ่มที่สามไม่เข้าใจวิธีการ GPT-4 ดำเนินการเป็นอันดับแรก |
เราจะไม่มุ่งไปที่กลุ่มที่สามเพราะท่าทางของพวกเขามาจากความไม่รู้ ไม่ได้หมายความว่าฝ่ายตรงข้าม AI ทุกคนรู้ทุกอย่างเกี่ยวกับ AI; คุณสามารถพบผู้ต่อต้าน AI จำนวนมากที่ขาดความเข้าใจในเทคโนโลยีและสิ่งที่เกิดขึ้น แม้ว่าตัว Yudkovsky เองจะเข้าใจหัวข้อ AI อย่างลึกซึ้ง ดังนั้นเขาจึงไม่สามารถถูกกล่าวหาว่าไม่รู้ได้
มาดูคนกลุ่มแรกกัน - ผู้ที่เชื่อว่าความก้าวหน้าไม่สามารถหยุดยั้งได้ พวกเขาเสนอข้อโต้แย้งที่แตกต่างแต่คล้ายคลึงกัน และโดยรวมแล้ว คนเหล่านี้ไม่ปฏิเสธความสามารถของ AI และโอกาสที่ AI จะนำมาใช้ และเชื่อว่าการพัฒนา AI จะดำเนินต่อไปไม่ว่าจะเกิดอะไรขึ้นก็ตาม
วิทยานิพนธ์ชิ้นแรกเกี่ยวกับความก้าวหน้าที่ไม่หยุดยั้งคือสโลแกนที่ไม่จำเป็นต้องเป็นความจริง ดูเหมือนผู้คนจะหยุดการทดลองทางวิทยาศาสตร์บางโครงการ และโครงการวิจัยหลายโครงการที่ครั้งหนึ่งเคยได้รับการยอมรับก็ไม่ถือว่ามีจริยธรรมอีกต่อไป และโครงการที่คล้ายคลึงกันจะไม่ได้รับอนุญาตในวันนี้ อย่างไรก็ตาม ความคืบหน้าในอดีตถูกหยุดยั้งโดยการสอบสวนและการกดขี่ทางศาสนาอื่นๆ การห้ามหนังสือ และการฆาตกรรมนักวิทยาศาสตร์ในจีน (และประเทศอื่นๆ) มากน้อยเพียงใด นั่นคือสิ่งที่เราไม่สามารถเข้าใจได้อย่างเต็มที่เนื่องจากอคติของผู้รอดชีวิต
วิทยานิพนธ์อื่น ๆ เกี่ยวข้องกับวิธีการที่สามารถสรุปได้ว่า "ถ้าไม่ใช่เรา ก็จะเป็นพวกเขา" แม้ว่าแนวความคิดนี้อาจเข้าใจได้มากกว่า แต่ก็ดูเหมือนจะไม่ใช่ทางออกที่ถูกต้องเช่นกัน มันคล้ายกับภาวะที่กลืนไม่เข้าคายไม่ออกของนักโทษในทฤษฎีเกม
ข้อโต้แย้งกลุ่มที่สองเป็นกลุ่มที่น่าสนใจที่สุด แม้ว่าโดยส่วนตัวแล้วฉันเห็นด้วยในระดับหนึ่ง แต่ก็มีบางประเด็นที่ต้องแก้ไข ใช่ AI ไม่มีจิตสำนึก เจตจำนง หน่วยงาน ฯลฯ ก็ไม่มีทั้ง COVID-19 แต่ก็ยังสร้างความเสียหายไปทั่วโลก บางสิ่งบางอย่างไม่จำเป็นต้องมีความรู้สึกของหน่วยงานและจิตสำนึกที่จะเป็นอันตราย; สถานการณ์ที่ชีวิตบนโลกถูกกำจัดเพราะไวรัสนั้นเป็นไปไม่ได้ เมื่อทำงานเสร็จแล้ว มันสามารถวางเก้าอี้บนโต๊ะ ปิดไฟ และจากไปตลอดกาล
สืบเนื่องจากการเปรียบเทียบทางชีววิทยา มีบทความที่ยอดเยี่ยมเรื่อง “ความคิดสร้างสรรค์ที่น่าประหลาดใจของวิวัฒนาการดิจิทัล: การรวบรวมเกร็ดเล็กเกร็ดน้อยจากชุมชนการวิจัยการคำนวณเชิงวิวัฒนาการและชีวิตประดิษฐ์” ซึ่งให้ตัวอย่างมากมายเมื่อกระบวนการดำเนินไปในทิศทางที่ไม่คาดคิด แม้จะไม่มีกระบวนการวิวัฒนาการ ทุกสิ่งก็อาจเข้าสู่การสรุปที่ผิดได้ “เป้าหมายที่ไม่ถูกต้อง: เหตุใดข้อมูลจำเพาะที่ถูกต้องจึงไม่เพียงพอสำหรับเป้าหมายที่ถูกต้อง” การให้อิสระกับกระบวนการเพิ่มประสิทธิภาพอาจผิดพลาดได้ กล่าวถึงใน “ความเสี่ยงจากการเพิ่มประสิทธิภาพการเรียนรู้ในระบบแมชชีนเลิร์นนิงขั้นสูง".
ในขณะเดียวกัน เราไม่พิจารณาถึงความเสี่ยงของ การใช้ AI . ในทางที่ผิด และใด ๆ ด่าว่าซึ่งดึงข้อโต้แย้งที่ว่าเราต้องกลัวผู้คน ไม่ใช่ AI เอง อย่างไรก็ตาม ความจริงของเรื่องนี้ก็คือ AI อาจทำงานได้ไม่ดีแม้ว่าจะไม่มีผู้ประสงค์ร้ายก็ตาม
ฉันยังเห็นด้วยกับความจริงที่ว่าโมเดลนี้ทำผิดพลาดโง่ๆ แต่มนุษย์ก็ทำผิดพลาดเช่นกัน แต่เรารู้ว่าพวกเขาสามารถทำอันตรายได้ แม้ว่าแบบจำลองจะทำผิดพลาดมากมาย แต่ก็สามารถแก้ปัญหาที่ยอดเยี่ยม เจ๋งๆ และซับซ้อนอีกมากมายที่คนทั่วไปไม่สามารถแก้ไขได้ จากผลงานชื่อดัง “Sparks of Artificial General Intelligence: Early Experiments with GPT-4” ฉันรู้สึกทึ่งกับ AI ที่สามารถแก้ไขได้แม้ว่าจะไม่ถูกต้องเสมอไป ปัญหา Fermi ซึ่งเป็นปัญหาทางคณิตศาสตร์ที่ค่อนข้างซับซ้อน ทฤษฎีจิตใจและ "เหมือนกับความสามารถในการเข้าใจ" การกระทำของผู้อื่นก็น่าประทับใจเช่นกัน สิ่งเหล่านี้ล้วนชี้ไปที่ความฉลาดของ AI; มีอยู่แต่ไม่เหมือนของเรา
โดยทั่วไปแล้ว การกำจัดข้อผิดพลาดบางอย่างที่โมเดล AI ทำนั้นทำได้ ดังนั้นความฉลาดของพวกมันอาจเติบโตมากขึ้นเท่านั้น สิ่งที่คุณต้องทำคือเพิ่มโมดูลสำหรับการคำนวณที่ถูกต้อง ฐานข้อเท็จจริง และการตรวจสอบกับแบบจำลองอื่น
สิ่งที่สำคัญที่สุดในเรื่องราวทั้งหมดนี้ก็คือความรวดเร็วในการพัฒนาของ AI GPT โมเดล ได้เติบโตขึ้นอย่างรวดเร็วจนน่าเวียนหัว ตอนนี้ก็มี ChatGPT ปลั๊กอิน ใช้ได้คุณก็สามารถใช้ได้ GPT โมเดลในการเขียนโค้ด API พร้อมให้บริการแก่สาธารณะจำนวนมาก และคุณสามารถใช้เครื่องมือภายนอกได้โดยไม่ต้องมีการฝึกอบรมล่วงหน้า
GPT-4แน่นอนว่าจะไม่พิชิตโลกแต่สามารถเขย่าเศรษฐกิจได้มาก GPT-5และการทำซ้ำโมเดลในอนาคตอาจอยู่ไม่ไกลนักและน่าจะมาพร้อมกับความสามารถที่แข็งแกร่งกว่ามาก และมาเผชิญหน้ากัน เราไม่สามารถหวังว่าจะเข้าใจแบบจำลองที่ยังไม่มีอยู่จริงได้ เราไม่ได้เข้าใกล้ที่จะเข้าใจแบบจำลองที่มีอยู่แล้ว ในแง่นี้ การหยุดพักหกเดือนอาจเป็นความคิดที่ดี แต่อาจไม่เพียงพอ
และด้วยประการฉะนี้ การแข่งขันเอไอ เริ่มแล้วไม่มีเวลาเรียน
โดยทั่วไปแล้ว ฉันยังได้ลงนามในคำร้องด้วย แม้ว่าฉันไม่เชื่อว่ามันจะช่วยในทางใดทางหนึ่ง
อ่านหัวข้อที่เกี่ยวข้องเพิ่มเติม:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆ
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
