חוקרי קרנגי מלון מציגים MLC LLM להפעלת מודלים של שפות בכל מכשיר
בקיצור
MLC LLM ו-Web LLM מאפשרים למשתמשים לפרוס מודלים של שפה בכל מכשיר, מה שמאפשר יישומים ושימושים חדשים להבנת שפה טבעית.
חוקרים מאוניברסיטת קרנגי מלון הציגו MLC LLM, סט כלים שיכול לחולל מהפכה באופן שבו מודלים של שפה מופעלים בכל מכשיר. מודלים כאלה מאפשרים למשתמשים ליצור מגוון של יישומי שפה טבעית, כגון עוזרים וירטואליים וצ'טבוטים חכמים. באמצעות אופטימיזציות נפרדות של ביצועים, ניתן כעת להשתמש ב-MLC LLM בפלטפורמות ותרחישים שונים.
הכלי החדש, המכונה Web LLM, הוא גם חלק מיוזמה זו. היא מאפשרת השקה של דגמי שפה ישירות בדפדפן, כלומר המשתמשים לא צריכים להוריד ידנית את המערכת, שגודלה יכול להיות כמה גיגה-בייט. מודל Vicuna 7B, בעל 7 מיליארד פרמטרים, נוצר כך. זה יכול להיות שימושי ביותר בעת תכנון עוזרים וירטואליים וצ'אטבוטים מתאימים יותר מכיוון שהם דורשים כמויות גדולות של פרמטרים.
באמצעות MLC LLM ו-Web LLM, ניתן כעת לפרוס כל מודל שפה לבחירה בכל מכשיר. החוקרים בקרנגי מלון דיווחו שזה יפתח מגוון יישומים שלא היו אפשריים קודם לכן. כל מודל שפה כעת ניתן לפרוס בהתקני מחשוב שונים, כגון מחשבים ניידים וטלפונים, או אפילו מעבדים ומאיצי וידאו. זה פותח עולם של אפשרויות לעיבוד שפה טבעית ו למידת מכונה.
היוזמה החדשה של קרנגי מלון סוללת את הדרך למגוון יישומים ושימושים חדשים להבנת שפה טבעית. מכיוון שאתה יכול להשתמש במודלים של שפה אלה בכל מכשיר, קל הרבה יותר לפרוס טכנולוגיה כזו בתרחישים רבים ושונים. בין אם מדובר בעוזרים וירטואליים או בשירות לקוחות אוטומטי, לכלי החדש הזה עשויה להיות השפעה דרסטית על האופן שבו משימות אלו מבוצעות.
צוות המחקר של קרנגי מלון פיתח את MLC LLM שיופעל על כל מכשיר, כולל מכשירי אייפון ומכשירי בית חכם אחרים, עם מעבד מודרני ו-6GB או יותר של זיכרון RAM. גישה יעילה זו פירושה שמכשירים יכולים כעת להריץ דגמי שפה במהירות יצירה כמעט בזמן אמת, גם כשהם מבצעים אופטימיזציה על ידי מפתחים חיצוניים ולא מהנדסי אפל.
בנוסף לאפשר אינטראקציות טבעיות עם מוצרים, ניתן להשתמש ב-MLC LLM גם כדי לייעל משימות ניהול מכשירים. עם זיכרון RAM של 4GB עד 6GB בלבד הדרושים להפעלה, דגם השפה המהפכני הזה יהווה תוספת מצוינת לדגמי אייפון עתידיים וייתכן שייצא לייצור ללא המאמץ הארוך. תהליך פיתוח.
על ידי הצגת MLC LLM מודל שפה, חוקרי קרנגי מלון יצרו דרך יעילה וחזקה להפעיל מודלים של שפה בכל מכשיר. מערכת MLC LLM היא פריצת דרך בעיבוד שפה טבעית ו יאפשר למשתמשים לקיים אינטראקציה טבעית עם המכשירים שלהם בצורה יעילה יותר. יש לו גם פוטנציאל להאיץ משמעותית את תהליך הפיתוח עבור משימות ניהול מכשירים עתידיות. האפשרויות הן אינסופיות עם MLC LLM, והעבודה של קרנגי מלון בוודאי תהיה לשנות את הדרך בה אנו חושבים על מודלים של שפה לטובה.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
