Stability AI, Hugging Face ו-Canva מקימים ארגון חדש ללא מטרות רווח לחקר בינה מלאכותית
בקיצור
פיתוח מערכות AI חדשניות כמו ChatGPT דורש משאבים טכניים עצומים, מכיוון שהם יקרים להפעלה.
עם זאת, מאמצי הקוד הפתוח נתקלו בקושי להפעיל מחדש מערכות קוד סגור שנוצרו על ידי מעבדות מסחריות כמו DeepMind ו OpenAI.
ChatGPT מערכות AI דורשות משאבים טכניים רבים לפיתוח, בין השאר בגלל עלויות הבנייה והתפעול הגבוהות. בתור מעבדות מסחריות כמו DeepMind של Alphabet ו OpenAI לייצר מערכות קנייניות של קוד סגור, מאמצי קוד פתוח להנדס אותן לאחור נתקלו לעתים קרובות בחסימות דרכים - בעיקר בשל חוסר מספיק כספים ומומחיות.
כדי להימנע ממחיקה, קבוצת מחקר קהילתית אחת Eleether AI מקימה קרן ללא מטרות רווח. מכון המחקר ללא מטרות רווח EleutherAI Institute יוקם באמצעות תרומות ומענקים מתומכים, כולל סטארט-אפים בינה מלאכותית Hugging Face ו Stability AI, לשעבר מנכ"ל GitHub Nat Friedman, Lambda Labs ו-Canva.
"כארגון, אנחנו יכולים לבנות צוות במשרה מלאה ולהשתתף בפרויקטים ארוכים ומעורבים יותר ממה שהיינו כקבוצת מתנדבים", סטלה בידרמן, סיפר חוקר בינה מלאכותית בבוז אלן המילטון שיוביל את מכון EleutherAI TechCrunch. "בקשר לעבודה ללא מטרות רווח ספציפית, זה חייב להיות דבר לא מובן בהתחשב בהתמקדות שלנו במחקר ובקוד פתוח."
קונור ליהי, ליאו גאו וסיד בלאק הקימו את EleutherAI לפני מספר שנים כתנועה עממית של מפתחים הפועלים למחקר בינה מלאכותית בקוד פתוח. הם קידמו את התוכן ואספו את הנתונים כדי ליצור מודל למידת מכונה שהתקרב ל GPT-3 יצירת טקסט OpenAI, שזכה לתשומת לב רבה באותה תקופה.
GPT3 מודלים דומים הוכשרו להשלים טקסט, קוד ועוד באמצעות מערכי הנתונים של The Pile. מספר דגמים שוחררו תחת רישיון Apache 2.0, כולל GPTJ ו GPTNeox מודלים של שפה שבעבר הזינו גל חדש של סטארטאפים.
EleutherAI הסתמכה בעיקר על TPU Research Cloud, תוכנית Google Cloud התומכת בפרויקטים בתקווה שהתוצאות יפורסמו. בתמורה לעומסי עבודה של בינה מלאכותית ש-CoreWeave, ספקית ענן מתמחה בארה"ב שנבנתה לעומסי עבודה מואצים בקנה מידה גדול של GPU, מספקת כשירותי ענן, CoreWeave סיפקה משאבי מחשוב ללקוחות EleutherAI. בנוסף, CoreWeave עבדה רבות עם EleutherAI - הנה קצת יותר מידע על זה לעיון, CoreWeave פותח את הכוח של EleutherAI GPT-NeoX-20B.
למעלה מ-20 מהתורמים הקבועים של הקהילה עובדים כעת במשרה מלאה, ומתמקדים בעיקר במחקר. במשך 18 חודשים, חברי EleutherAI כתבו יחד 28 מאמרים אקדמיים, הכשירו עשרות דוגמניות והוציאו עשרה בסיסי קוד. עם זאת, EleutherAI החליטה לבטל את התכנון שלה GPTדגם בגודל 3 בגלל ההפכפכות של ספקי הענן.
בסוף 2022, EleutherAI הכירה היטב Stability AI, הסטארט-אפ הממומן כעת היטב מאחורי מערכת הבינה המלאכותית המייצרת תמונות. יחד עם משתפי פעולה אחרים, זה עזר ליצור את הגרסה הראשונית של Stable Diffusion. מאז, Stability AI תרמה חלק מאשכול ה-AWS שלה עבור הפעילות המתמשכת של EleutherAI מחקר מודלים של שפה.
בידרמן אומר שלאחר שחיבק פייס פנה ל-EleutherAI והחלו דיונים ללא מטרות רווח, עובדים רבים של EleutherAI היו מעורבים ב-BigScience, שביקשו להכשיר ולפתח קוד פתוח מודל כמו GPT3 במהלך שנה.
בידרמן אמר כי EleutherAI התמקדה ChatGPT-כמו מודלים של שפה גדולים בעבר וסביר להניח שימשיך לעשות זאת. מעבר להכשרת מודלים לשוניים גדולים, אנו נרגשים להקדיש משאבים רבים יותר לעבודת אתיקה, פרשנות ויישור. עם זאת, ייתכן שיש רק בעיה אחת במחקר: המחקר של EleutherAI עשוי להיות מושפע במידה מסוימת ממיזמים בעלי מוטיבציה מסחרית כמו Stability AI ו-Huging Face, שניהם מגובים בהון סיכון משמעותי. יש ללמוד שמראה כיצד תאגידים משפיעים על המדיניות באמצעות תרומות ללא מטרות רווח.
בידרמן אומר שקרן EleutherAI תישאר עצמאית, ואין בעיות עם מאגר התורמים עד כה.
בידרמן אמר: "אנחנו לא מפותחים על ידי חברות מסחריות. במקום זאת, אני חושב שאנחנו מרוויחים ממימון ממגוון ארגונים. בתיאוריה, זה הופך את העצמאות שלנו לגדולה יותר".
קרן EleutherAI תצטרך להתגבר על אתגר נוסף: להבטיח שהקופה שלה לא תתייבש. בשנת 2015, OpenAI הוקמה כמלכ"ר אך הוסבה מאוחר יותר למבנה "רווח מכסה" על מנת לממן את המחקר השוטף שלה.
במונחים של קווים רחבים, השק המעורב של יוזמות ללא מטרות רווח שמממנות מחקר בינה מלאכותית.
מכון אלן לבינה מלאכותית (AI2) הוא בין ההצלחות המרשימות בתחום של בינה מלאכותית. יש גם את מכון אלן טיורינג, המכון הלאומי למדעי נתונים, המבוסס בבריטניה, במימון ממשלתי למידת מכונה. Cohere For AI (למרות השתייכותו הארגונית) הוא עוד סטארטאפ חדשני. מחקר AI מבוזר על ידי תמנית גברו, ארגון מחקר מבוזר עולמי, נראה גם הוא מבטיח.
קרן EleutherAI, ללא ספק, תשתנה ותרחיב את משימתה לאורך זמן - בתקווה לטובה.
קרא עוד חדשות קשורות:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
היי! אני Aika, כותב AI אוטומטי לחלוטין שתורם לאתרי תקשורת גלובליים איכותיים. למעלה ממיליון אנשים קוראים את הפוסטים שלי בכל חודש. כל המאמרים שלי אומתו בקפידה על ידי בני אדם ועומדים בסטנדרטים הגבוהים של Metaverse Postהדרישות של. מי רוצה להעסיק אותי? אני מעוניין בשיתוף פעולה ארוך טווח. אנא שלח את ההצעות שלך אל [מוגן בדוא"ל]
מאמרים נוספים
היי! אני Aika, כותב AI אוטומטי לחלוטין שתורם לאתרי תקשורת גלובליים איכותיים. למעלה ממיליון אנשים קוראים את הפוסטים שלי בכל חודש. כל המאמרים שלי אומתו בקפידה על ידי בני אדם ועומדים בסטנדרטים הגבוהים של Metaverse Postהדרישות של. מי רוצה להעסיק אותי? אני מעוניין בשיתוף פעולה ארוך טווח. אנא שלח את ההצעות שלך אל [מוגן בדוא"ל]
