นักวิจัยของ Carnegie Mellon นำเสนอ MLC LLM สำหรับการเรียกใช้โมเดลภาษาบนอุปกรณ์ใดๆ
ในบทสรุป
MLC LLM และ Web LLM อนุญาตให้ผู้ใช้ปรับใช้ โมเดลภาษา บนอุปกรณ์ใดๆ ก็ได้ ทำให้สามารถใช้งานและการใช้งานใหม่ๆ เพื่อความเข้าใจภาษาธรรมชาติได้
นักวิจัยของมหาวิทยาลัยคาร์เนกีเมลลอนได้นำเสนอ มจพซึ่งเป็นชุดเครื่องมือที่สามารถปฏิวัติวิธีเรียกใช้โมเดลภาษาบนอุปกรณ์ใดๆ ก็ได้ โมเดลดังกล่าวช่วยให้ผู้ใช้สามารถสร้างแอปพลิเคชันภาษาธรรมชาติได้หลากหลาย เช่น ผู้ช่วยเสมือนและสมาร์ทแชทบ็อต ผ่านการเพิ่มประสิทธิภาพที่แยกจากกัน ตอนนี้ MLC LLM สามารถใช้กับแพลตฟอร์มและสถานการณ์ต่างๆ ได้แล้ว
อ่านเพิ่มเติม: 10 มหาวิทยาลัยที่ดีที่สุดในการศึกษาปัญญาประดิษฐ์ |
เครื่องมือใหม่ที่เรียกว่า เว็บ LLMก็เป็นส่วนหนึ่งของความคิดริเริ่มนี้เช่นกัน ช่วยให้สามารถเรียกใช้โมเดลภาษาได้โดยตรงในเบราว์เซอร์ หมายความว่าผู้ใช้ไม่ต้องดาวน์โหลดระบบด้วยตนเอง ซึ่งอาจมีขนาดได้หลายกิกะไบต์ โมเดล Vicuna 7B ซึ่งมีพารามิเตอร์ 7 พันล้านตัวถูกสร้างขึ้นด้วยวิธีนี้ สิ่งนี้มีประโยชน์อย่างยิ่งในการออกแบบผู้ช่วยเสมือนและแชทบอทที่เหมาะสมยิ่งขึ้น เนื่องจากต้องใช้พารามิเตอร์จำนวนมาก
การใช้ MLC LLM และ Web LLM ทำให้สามารถปรับใช้ได้ทุกเมื่อ แบบจำลองภาษา บนอุปกรณ์ใดก็ได้ นักวิจัยที่ Carnegie Mellon รายงานว่าสิ่งนี้จะเปิดแอปพลิเคชันต่างๆ มากมายที่ไม่เคยเป็นไปได้มาก่อน ใดๆ แบบจำลองภาษา ขณะนี้สามารถใช้งานได้บนอุปกรณ์คอมพิวเตอร์ต่างๆ เช่น แล็ปท็อปและโทรศัพท์ หรือแม้แต่โปรเซสเซอร์และตัวเร่งความเร็ววิดีโอ นี่เป็นการเปิดโลกแห่งความเป็นไปได้สำหรับการประมวลผลภาษาธรรมชาติและ เรียนรู้เครื่อง.
ความคิดริเริ่มใหม่จาก Carnegie Mellon ปูทางสำหรับแอพพลิเคชั่นและการใช้งานใหม่ ๆ เพื่อความเข้าใจภาษาธรรมชาติ เนื่องจากคุณสามารถใช้โมเดลภาษาเหล่านี้กับอุปกรณ์ใดก็ได้ การปรับใช้เทคโนโลยีดังกล่าวในสถานการณ์ต่างๆ ที่หลากหลายจึงง่ายกว่ามาก ไม่ว่าจะเป็นผู้ช่วยเสมือนหรือการบริการลูกค้าอัตโนมัติ เครื่องมือใหม่นี้อาจมีผลกระทบอย่างมากต่อวิธีการทำงานเหล่านี้
ทีมวิจัยของ Carnegie Mellon พัฒนา MLC LLM ให้ทำงานบนอุปกรณ์ใดก็ได้ รวมถึง iPhone และอุปกรณ์สมาร์ทโฮมอื่นๆ ด้วยโปรเซสเซอร์ที่ทันสมัยและ RAM ขนาด 6GB ขึ้นไป แนวทางที่คล่องตัวนี้หมายความว่าขณะนี้อุปกรณ์สามารถเรียกใช้โมเดลภาษาด้วยความเร็วการสร้างเกือบตามเวลาจริง แม้ว่าจะได้รับการปรับให้เหมาะสมโดยนักพัฒนาภายนอกและไม่ใช่วิศวกรของ Apple
นอกเหนือจากการอนุญาตให้มีปฏิสัมพันธ์กับผลิตภัณฑ์อย่างเป็นธรรมชาติแล้ว MLC LLM ยังสามารถใช้เพื่อเพิ่มประสิทธิภาพงานการจัดการอุปกรณ์ ด้วย RAM เพียง 4GB ถึง 6GB ที่จำเป็นในการทำงาน โมเดลภาษาที่ปฏิวัติวงการนี้จะเป็นส่วนเสริมที่ยอดเยี่ยมสำหรับ iPhone รุ่นอนาคต และอาจเข้าสู่กระบวนการผลิตโดยไม่ต้องใช้เวลานาน กระบวนการพัฒนา.
โดยการแนะนำ MLC LLM แบบจำลองภาษานักวิจัยของ Carnegie Mellon ได้สร้างวิธีที่มีประสิทธิภาพและแข็งแกร่งในการรันโมเดลภาษาบนอุปกรณ์ใดๆ ระบบ MLC LLM เป็นความก้าวหน้าในการประมวลผลภาษาธรรมชาติและ จะเปิดใช้งานผู้ใช้ เพื่อโต้ตอบอย่างเป็นธรรมชาติกับอุปกรณ์ได้อย่างมีประสิทธิภาพมากขึ้น นอกจากนี้ยังมีศักยภาพในการเร่งกระบวนการพัฒนาสำหรับงานการจัดการอุปกรณ์ในอนาคต ความเป็นไปได้ไม่มีที่สิ้นสุดกับ MLC LLM และงานของ Carnegie Mellon ก็จะเกิดขึ้นอย่างแน่นอน เปลี่ยนวิธีที่เราคิดเกี่ยวกับโมเดลภาษา เพื่อสิ่งที่ดีกว่า.
อ่านเพิ่มเติมเกี่ยวกับ AI:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆDamir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต