ผู้เชี่ยวชาญด้าน AI และบุคคลสาธารณะแจ้งเตือนเกี่ยวกับความเสี่ยงในการสูญพันธุ์ของ AI
ในบทสรุป
ผู้เชี่ยวชาญ AI ที่โดดเด่นและบุคคลผู้มีอิทธิพลแสดงการแบ่งปันของพวกเขา ความกังวลเกี่ยวกับความเสี่ยงที่เกี่ยวข้องกับ AI.
แม้จะมีความก้าวหน้าอย่างมากในด้าน AI แต่ความท้าทายมากมายที่เกี่ยวข้องกับความเสี่ยงของ AI ยังคงไม่ได้รับการแก้ไข
ผู้เชี่ยวชาญด้าน AI ที่มีชื่อเสียงและบุคคลสาธารณะได้ออกแถลงการณ์เตือนว่า AI อาจเป็นภัยคุกคามต่อความอยู่รอดของมนุษยชาติ เทียบเท่าหรือมากกว่าความเสี่ยงของโรคระบาดและสงครามนิวเคลียร์ ผู้ลงนาม 350 คนโต้แย้งว่า AI อาจมีผลกระทบที่คาดไม่ถึงและหายนะ เช่น การปล่อยอาวุธอิสระ ทำลายระบบสังคมและเศรษฐกิจ หรือสร้างตัวแทนอัจฉริยะที่สามารถเอาชนะมนุษย์ได้
พวกเขาเรียกร้องให้ผู้กำหนดนโยบายยอมรับความเสี่ยงเหล่านี้อย่างจริงจังและนำมาตรการมาใช้เพื่อให้แน่ใจว่าการพัฒนา AI นั้นปลอดภัยและเป็นประโยชน์ เดอะ คำสั่ง ได้รับการลงนามโดยบุคคลชั้นนำด้านการวิจัยและพัฒนา AI เช่น OpenAI ซีอีโอ Sam Altman ผู้ร่วมก่อตั้ง Skype Jaan Tallinn, Demis Hassabis ซีอีโอ DeepMind และนักวิทยาศาสตร์คอมพิวเตอร์ AI Geoffrey Hinton รวมถึงบุคคลสาธารณะที่มีอิทธิพล เช่น นักดนตรี Grimes และ Sam Harris นักพอดคาสต์
ในบรรดาผู้ลงนาม ได้แก่ ผู้ชนะรางวัล Turing Award ประจำปี 2018 จากผลงานด้านการเรียนรู้เชิงลึก ได้แก่ Geoffrey Hinton และ Yoshua Bengio โดยมีอาจารย์จากมหาวิทยาลัยที่มีชื่อเสียง เช่น Harvard และ Tsinghua University ในประเทศจีน รวมถึง Max Tegmark จาก MIT
“การลดความเสี่ยงของการสูญพันธุ์จาก AI ควรมีความสำคัญระดับโลกควบคู่ไปกับความเสี่ยงอื่นๆ ในระดับสังคม เช่น โรคระบาดและสงครามนิวเคลียร์”
จดหมายที่เผยแพร่โดยรัฐ CAIS
ศูนย์ความปลอดภัยเอไอ (CAIS)ซึ่งเป็นองค์กรไม่แสวงหากำไรในซานฟรานซิสโก มีเป้าหมายเพื่อแก้ไขข้อกังวลด้านความปลอดภัยที่เกี่ยวข้องกับปัญญาประดิษฐ์ ในขณะที่ตระหนักถึงประโยชน์ที่เป็นไปได้ของ AI แต่ CAIS เน้นย้ำถึงความจำเป็นในการพัฒนาและใช้งานอย่างปลอดภัย แม้ว่าจะมีความก้าวหน้าอย่างมากใน AI แต่ความท้าทายพื้นฐานหลายประการในด้านความปลอดภัยของ AI ยังคงไม่ได้รับการแก้ไข แต่บริษัทเชื่อว่า ตามเว็บไซต์ของ CAIS ภารกิจของ CAIS คือการลดความเสี่ยงโดยการทำวิจัยด้านความปลอดภัย ส่งเสริมชุมชนของนักวิจัยด้านความปลอดภัยของ AI และสนับสนุนมาตรฐานความปลอดภัย
“มี “ความเสี่ยงที่สำคัญและเร่งด่วนจาก AI” มากมาย ไม่ใช่แค่ความเสี่ยงจากการสูญพันธุ์ ตัวอย่างเช่น อคติเชิงระบบ ข้อมูลที่ผิด การใช้งานที่เป็นอันตราย การโจมตีทางไซเบอร์ และการใช้อาวุธ สิ่งเหล่านี้ล้วนเป็นความเสี่ยงที่สำคัญที่ต้องได้รับการแก้ไข สังคมสามารถจัดการความเสี่ยงหลายอย่างพร้อมกันได้ ไม่ใช่ "อย่างใดอย่างหนึ่ง/หรือ" แต่เป็น "ใช่/และ" จากมุมมองของการบริหารความเสี่ยง เช่นเดียวกับการประมาทเลินเล่อที่จะจัดลำดับความสำคัญเฉพาะของอันตรายในปัจจุบัน การเพิกเฉยต่ออันตรายเหล่านั้นก็ถือเป็นการประมาทเช่นกัน”
แดน เฮนดริกส์ ผู้อำนวยการของ CAIS เขียน บน Twitter
ในเดือนมีนาคม ผู้เชี่ยวชาญด้านเทคโนโลยีกว่า 1,100 คน ลงนาม จดหมายเปิดผนึกเรียกร้องให้หยุดการฝึกอบรมระบบ AI เป็นเวลาหกเดือนเกินกว่า GPT-4. ผู้ร่างกฎหมายของยุโรปก็เพิ่งเช่นกัน ได้รับการอนุมัติ ร่างกฎหมายที่เข้มงวดขึ้นหรือที่เรียกว่าพระราชบัญญัติ AI ซึ่งควบคุมเครื่องมือ AI เช่น ChatGPT. กฎหมายดังกล่าวรวมถึงข้อกำหนดสำหรับการตรวจสอบความปลอดภัย การกำกับดูแลข้อมูล และการลดความเสี่ยงสำหรับโมเดล AI พื้นฐาน และห้ามการปฏิบัติเช่นเทคนิคการบิดเบือนและการใช้ไบโอเมตริกบางอย่าง
อ่านเพิ่มเติม:
- OpenAI เปิดตัวแนวทางล่าสุดในการรับรองความปลอดภัยของ AI
- Google จะประกาศตัวสร้าง text-to-avatar สำหรับเกมเมอร์หรือไม่?
- CodeWhisperer ของ Amazon ช่วยให้นักพัฒนามีความได้เปรียบที่พวกเขาต้องการใน AI Arena
- Vitalik Buterin และ Nate Soares ผู้อำนวยการ MIRI เจาะลึกถึงอันตรายของ AI
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Agne เป็นนักข่าวที่รายงานข่าวเกี่ยวกับแนวโน้มล่าสุดและการพัฒนาใน metaverse, AI และ Web3 อุตสาหกรรมสำหรับ Metaverse Post. ความหลงใหลในการเล่าเรื่องของเธอทำให้เธอต้องสัมภาษณ์ผู้เชี่ยวชาญในสาขาเหล่านี้หลายครั้ง โดยพยายามค้นหาเรื่องราวที่น่าตื่นเต้นและมีส่วนร่วมอยู่เสมอ แอกเน่สำเร็จการศึกษาระดับปริญญาตรีสาขาวรรณคดีและมีพื้นฐานกว้างขวางในการเขียนเกี่ยวกับหัวข้อต่างๆ มากมาย รวมถึงการท่องเที่ยว ศิลปะ และวัฒนธรรม เธอยังได้อาสาเป็นบรรณาธิการให้กับองค์กรสิทธิสัตว์ ซึ่งเธอช่วยสร้างความตระหนักรู้เกี่ยวกับปัญหาสวัสดิภาพสัตว์ ติดต่อเธอได้ที่ [ป้องกันอีเมล].
บทความอื่น ๆ
Agne เป็นนักข่าวที่รายงานข่าวเกี่ยวกับแนวโน้มล่าสุดและการพัฒนาใน metaverse, AI และ Web3 อุตสาหกรรมสำหรับ Metaverse Post. ความหลงใหลในการเล่าเรื่องของเธอทำให้เธอต้องสัมภาษณ์ผู้เชี่ยวชาญในสาขาเหล่านี้หลายครั้ง โดยพยายามค้นหาเรื่องราวที่น่าตื่นเต้นและมีส่วนร่วมอยู่เสมอ แอกเน่สำเร็จการศึกษาระดับปริญญาตรีสาขาวรรณคดีและมีพื้นฐานกว้างขวางในการเขียนเกี่ยวกับหัวข้อต่างๆ มากมาย รวมถึงการท่องเที่ยว ศิลปะ และวัฒนธรรม เธอยังได้อาสาเป็นบรรณาธิการให้กับองค์กรสิทธิสัตว์ ซึ่งเธอช่วยสร้างความตระหนักรู้เกี่ยวกับปัญหาสวัสดิภาพสัตว์ ติดต่อเธอได้ที่ [ป้องกันอีเมล].
