Databricks מפרסמת את Dolly 2.0, הקוד הפתוח הראשון זמין מסחרית 12B Chat-LLM
בקיצור
Databricks הכריזה על ההשקה של Dolly 2.0 כקוד הפתוח הראשון זמין מסחרית 12B Chat-LLM, המאפשר לחברות ליצור מודלים של שפה רבי עוצמה מבלי להשקיע באשכולות GPU יקרים.
ל-Databricks יש הודיע ההשקה של Dolly 2.0 בתור הקוד הפתוח הראשון זמין מסחרית 12B Chat-LLM. דולי היא פריצת דרך גדולה עבור תעשיית למידת המכונה, המאפשרת לחברות ליצור מודלים של שפה רבי עוצמה - כמו LLMs אוטורגרסיבים עם תמיכה בדיאלוג - מבלי להשקיע באשכולות GPU יקרים.
כדי להשיג את מודל שפת הקוד הפתוח שלהם, Databricks נזקק למערך נתונים גדול ואיכותי. לאחר ששקלתי בתחילה את האלפקה GPT-3 מערכי נתונים ומערכים אחרים בקוד פתוח שאינם מאפשרים שימוש מסחרי, הם החליטו לבנות מערך נתונים באיכות גבוהה משלהם. לשם כך, הם העסיקו 5,000 אנשים וביקשו מהם לכתוב כמה דוגמאות שישמשו לאימון LLM אוטורגרסיבי המסוגל פשוט להמשיך את הטקסט ולא לנהל דיאלוג. בעזרת תמריצים גדולים, כמו בונוסים לכתיבת הדוגמאות הטובות ביותר, הם הצליחו להרכיב מרשים 15,000 מערך נתונים לדוגמה.
Databricks לקח את הצעד הבא ושילב את EleutherAI's Pythia-12B מודל שפה עם רישיון MIT, והכשירו אותו מחדש במערך הנתונים שלהם, וכתוצאה מכך דולי 2.0. Dolly 2.0 שוחרר תחת רישיון MIT, יחד עם הקוד הנלווה. עם ההשקה של Dolly 2.0, לתעשיית למידת המכונה יש כעת כלי רב עוצמה ליצור מודלים חזקים של שפה בצורה חסכונית. זה יכול להיות מנוצל על ידי חברות ויחידים כאחד המחפשים ליצור יישומים רבי עוצמה שיכולים להבין ולעבד שפה מורכבת.
בסך הכל, ההשקה של דולי 2.0 בתור הקוד הפתוח הראשון הזמין 12B Chat-LLM הוא אבן דרך משמעותית עבור תעשיית למידת המכונה. על ידי ניצול רישיון ה-MIT ויצירת מערך נתונים איכותי משלה, Databricks הפכה מודלים של שפות רבי עוצמה לנגישים לחברות ולאנשים פרטיים כאחד. דולי 2.0 עומדת לחולל מהפכה בתעשייה ומהווה צעד גדול קדימה עבור למידת מכונה.
המשתמשים ממתינים כעת למפתחים כדי לכמת את דולי ב-4 ביטים ולהאיץ אותה להפעלה על המעבד, כמו גם לתגובה מ-OpenAssistant, שצפויה לספק את הדגם שלהם בימים הקרובים.
- ה-NTIA מבקשת הערות ציבוריות על תקנות אפשריות לווסת מערכות AI כמו ChatGPT לעזור לממשל ביידן להבטיח שהם יתפקדו כפי שהובטח. ה-NTIA פרסמה הצהרה בנוגע לקביעת חוקים בנושא אחריותיות בינה מלאכותית, שיכולה למנוע תקלות עתידיות ולמזער את הסיכונים מאיומים היפותטיים.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
