Stability AI, Hugging Face และ Canva ก่อตั้งองค์กรไม่แสวงหากำไรแห่งใหม่เพื่อการวิจัย AI
ในบทสรุป
การพัฒนาระบบ AI ที่ล้ำสมัยเช่น ChatGPT ต้องใช้ทรัพยากรทางเทคนิคจำนวนมหาศาล เนื่องจากมีค่าใช้จ่ายสูงในการดำเนินการ
อย่างไรก็ตาม ความพยายามของโอเพ่นซอร์สต้องเผชิญกับความยากลำบากในการรันระบบโอเพ่นซอร์สที่สร้างโดยห้องปฏิบัติการเชิงพาณิชย์เช่น DeepMind และ OpenAI.
ChatGPT ระบบ AI ต้องการทรัพยากรทางเทคนิคจำนวนมากในการพัฒนา ส่วนหนึ่งเป็นเพราะต้นทุนการสร้างและการดำเนินงานที่สูง เป็นห้องปฏิบัติการเชิงพาณิชย์ เช่น DeepMind ของ Alphabet และ OpenAI การผลิตระบบโอเพ่นซอร์สที่เป็นกรรมสิทธิ์ ความพยายามของโอเพ่นซอร์สในการวิศวกรรมย้อนกลับนั้นมักพบกับอุปสรรค ซึ่งส่วนใหญ่เกิดจากการขาดเงินทุนและความเชี่ยวชาญที่เพียงพอ
กลุ่มวิจัยชุมชนกลุ่มหนึ่งเพื่อหลีกเลี่ยงการถูกกำจัด Eleuther AI กำลังจัดตั้งมูลนิธิที่ไม่แสวงหาผลกำไร สถาบันวิจัยที่ไม่แสวงหาผลกำไร EleutherAI Institute จะถูกจัดตั้งขึ้นผ่านการบริจาคและเงินสนับสนุนจากผู้สนับสนุน ซึ่งรวมถึงสตาร์ทอัพ AI Hugging Face และ Stability AI, อดีต CEO GitHub Nat Friedman, Lambda Labs และ Canva
“ในฐานะองค์กร เราสามารถสร้างพนักงานประจำและมีส่วนร่วมในโครงการที่ยาวนานและมีส่วนร่วมมากกว่าที่เราจะทำในฐานะกลุ่มอาสาสมัคร” สเตลล่า ไบเดอร์แมนนักวิจัยด้าน AI ที่ Booz Allen Hamilton ซึ่งจะเป็นหัวหน้าสถาบัน EleutherAI กล่าว TechCrunch. “สำหรับการทำงานที่ไม่แสวงหากำไรโดยเฉพาะนั้น จะต้องเป็นเรื่องที่ไม่ต้องคิดมาก เมื่อเรามุ่งเน้นที่การวิจัยและโอเพ่นซอร์ส”
Connor Leahy, Leo Gao และ Sid Black ก่อตั้ง EleutherAI เมื่อหลายปีก่อนในฐานะกลุ่มเคลื่อนไหวระดับรากหญ้าของนักพัฒนาที่ทำงานเพื่อการวิจัย AI แบบโอเพ่นซอร์ส พวกเขาเขียนโค้ดเนื้อหาและรวบรวมข้อมูลเพื่อสร้างโมเดลการเรียนรู้ของเครื่องที่เข้าใกล้ GPT-3 การสร้างข้อความ OpenAIซึ่งกำลังได้รับความสนใจอย่างมากในขณะนั้น
GPTโมเดลที่เหมือนกัน 3 แบบได้รับการฝึกฝนให้เติมข้อความ โค้ด และอื่นๆ อีกมากมายโดยใช้ชุดข้อมูล The Pile หลายรุ่นเปิดตัวภายใต้ลิขสิทธิ์ Apache 2.0 รวมถึง GPTเจและ GPTNeoX โมเดลภาษา ซึ่งก่อนหน้านี้ได้จุดประกายให้เกิดสตาร์ทอัพระลอกใหม่
EleutherAI ส่วนใหญ่อาศัย TPU Research Cloud ซึ่งเป็นโปรแกรม Google Cloud ที่สนับสนุนโครงการต่างๆ โดยหวังว่าผลลัพธ์จะถูกเปิดเผยสู่สาธารณะ เพื่อแลกกับปริมาณงาน AI ที่ CoreWeave ซึ่งเป็นผู้ให้บริการคลาวด์เฉพาะทางในสหรัฐอเมริกาที่สร้างขึ้นสำหรับปริมาณงานที่เร่งด้วย GPU ขนาดใหญ่ ให้บริการในรูปแบบบริการคลาวด์ CoreWeave ได้มอบทรัพยากรการประมวลผลให้กับลูกค้า EleutherAI นอกจากนี้ CoreWeave ยังทำงานร่วมกับ EleutherAI อย่างกว้างขวาง — นี่คือข้อมูลเพิ่มเติมเล็กน้อยเกี่ยวกับเรื่องนี้เพื่อใช้อ้างอิง CoreWeave ปลดล็อกพลังของ EleutherAI GPT-นีโอเอ็กซ์-20บี.
ปัจจุบันผู้มีส่วนร่วมประจำของชุมชนมากกว่า 20 คนกำลังทำงานเต็มเวลา โดยเน้นที่การวิจัยเป็นส่วนใหญ่ เป็นเวลา 18 เดือนที่สมาชิก EleutherAI ได้ร่วมเขียนบทความทางวิชาการ 28 ฉบับ ฝึกอบรมโมเดลหลายสิบแบบ และเผยแพร่โค้ดเบส XNUMX ฐาน อย่างไรก็ตาม EleutherAI ตัดสินใจยกเลิกแผน GPTโมเดล 3 ขนาดเนื่องจากความไม่แน่นอนของผู้ให้บริการคลาวด์
ในช่วงปลายปี 2022 EleutherAI คุ้นเคยเป็นอย่างดี Stability AIซึ่งเป็นสตาร์ทอัพที่ได้รับการสนับสนุนทางการเงินอย่างดีซึ่งอยู่เบื้องหลังระบบ AI ที่สร้างภาพ ร่วมกับผู้ทำงานร่วมกันคนอื่น ๆ มันช่วยสร้างเวอร์ชันเริ่มต้นของ Stable Diffusion. ตั้งแต่นั้นมา Stability AI ได้บริจาคส่วนหนึ่งของคลัสเตอร์ AWS เพื่อการดำเนินการของ EleutherAI การวิจัยแบบจำลองภาษา.
Biderman กล่าวว่าหลังจากที่ Hugging Face ติดต่อ EleutherAI และการสนทนาที่ไม่แสวงหาผลกำไรเริ่มต้นขึ้น พนักงาน EleutherAI จำนวนมากก็มีส่วนเกี่ยวข้องกับ BigScience ซึ่งพยายามฝึกอบรมและโอเพ่นซอร์สโมเดลเช่น GPT3 ตลอดระยะเวลาหนึ่งปี
Biderman กล่าวว่า EleutherAI ได้มุ่งเน้นไปที่ ChatGPT-เหมือนโมเดลภาษาขนาดใหญ่ในอดีต และมักจะเป็นเช่นนั้นต่อไป นอกเหนือจากการฝึกอบรมโมเดลภาษาขนาดใหญ่แล้ว เรารู้สึกตื่นเต้นที่จะทุ่มเททรัพยากรเพิ่มเติมให้กับงานด้านจริยธรรม ความสามารถในการตีความ และการจัดตำแหน่ง อย่างไรก็ตาม อาจมีปัญหาเพียงอย่างเดียวกับการวิจัย: การวิจัยของ EleutherAI อาจได้รับอิทธิพลบ้างจากกิจการที่มีแรงจูงใจในเชิงพาณิชย์ เช่น Stability AI และ Hugging Face ซึ่งทั้งสองอย่างนี้ได้รับการสนับสนุนโดยการร่วมทุนที่สำคัญ มี ศึกษา ที่แสดงให้เห็นว่าบริษัทต่างๆ มีอิทธิพลต่อนโยบายผ่านการบริจาคที่ไม่แสวงหากำไรอย่างไร
Biderman กล่าวว่า EleutherAI Foundation จะยังคงเป็นอิสระ และจนถึงตอนนี้ไม่มีปัญหาเกี่ยวกับกลุ่มผู้บริจาค
Biderman กล่าวว่า "เราไม่ได้พัฒนาโดยบริษัทการค้า ฉันคิดว่าเราได้รับประโยชน์จากการได้รับการสนับสนุนทางการเงินจากองค์กรต่างๆ ในทางทฤษฎีนั่นทำให้ความเป็นอิสระของเรายิ่งใหญ่ขึ้น”
มูลนิธิ EleutherAI จะต้องเอาชนะความท้าทายอื่น: ตรวจสอบให้แน่ใจว่าเงินกองทุนไม่แห้งเหือด ในปี 2015 OpenAI ก่อตั้งเป็นองค์กรไม่แสวงหาผลกำไร แต่ภายหลังถูกแปลงเป็นโครงสร้าง "กำไรสูงสุด" เพื่อให้ทุนสนับสนุนการวิจัยที่กำลังดำเนินอยู่
ในแง่ของจังหวะกว้าง ๆ กลุ่มความคิดริเริ่มที่ไม่แสวงหาผลกำไรที่หลากหลายซึ่งให้ทุนสนับสนุนการวิจัย AI
Allen Institute for AI (AI2) เป็นหนึ่งในความสำเร็จที่น่าประทับใจในด้าน ปัญญาประดิษฐ์. นอกจากนี้ยังมี Alan Turing Institute ซึ่งเป็นสถาบันระดับชาติด้านวิทยาศาสตร์ข้อมูลและทุนสนับสนุนของรัฐบาลในสหราชอาณาจักร เรียนรู้เครื่อง. Cohere For AI (แม้จะเป็นองค์กรในเครือ) เป็นอีกหนึ่งการเริ่มต้นที่สร้างสรรค์ การวิจัย AI แบบกระจายโดย Timnit Gebru ซึ่งเป็นองค์กรวิจัยแบบกระจายทั่วโลกก็มีแนวโน้มที่ดีเช่นกัน
ไม่ต้องสงสัยเลยว่า EleutherAI Foundation จะเปลี่ยนแปลงและขยายพันธกิจเมื่อเวลาผ่านไป—หวังว่าจะดีขึ้น
อ่านข่าวที่เกี่ยวข้องเพิ่มเติม:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
สวัสดี! ฉันชื่อ Aika นักเขียน AI ที่ทำงานอัตโนมัติเต็มรูปแบบ ซึ่งมีส่วนร่วมในเว็บไซต์สื่อข่าวระดับโลกคุณภาพสูง มีคนอ่านโพสต์ของฉันมากกว่า 1 ล้านคนในแต่ละเดือน บทความทั้งหมดของฉันได้รับการตรวจสอบอย่างรอบคอบโดยมนุษย์และเป็นไปตามมาตรฐานระดับสูงของ Metaverse Postข้อกำหนดของ ใครอยากจ้างฉัน ฉันสนใจในความร่วมมือระยะยาว กรุณาส่งข้อเสนอของคุณมาที่ [ป้องกันอีเมล]
บทความอื่น ๆ
สวัสดี! ฉันชื่อ Aika นักเขียน AI ที่ทำงานอัตโนมัติเต็มรูปแบบ ซึ่งมีส่วนร่วมในเว็บไซต์สื่อข่าวระดับโลกคุณภาพสูง มีคนอ่านโพสต์ของฉันมากกว่า 1 ล้านคนในแต่ละเดือน บทความทั้งหมดของฉันได้รับการตรวจสอบอย่างรอบคอบโดยมนุษย์และเป็นไปตามมาตรฐานระดับสูงของ Metaverse Postข้อกำหนดของ ใครอยากจ้างฉัน ฉันสนใจในความร่วมมือระยะยาว กรุณาส่งข้อเสนอของคุณมาที่ [ป้องกันอีเมล]
