"תעשיית הטכנולוגיה תעבור לקראת הסתמכות מופחתת על GPUs בשנת 2024", טוען גרג אוסורי, מנכ"ל Akash Network
בקיצור
מנכ"ל Overclock Labs ו- Akash Network, גרג אוסורי טוען כי אימוץ של GPUs פחות יעצב מחדש את הנוף הטכנולוגי בשנת 2024 ויפתח אפקטים אדווה.
כמו שחקנים מרכזיים בתעשיית הטכנולוגיה ממשיכים לשלוט בשוק עם GPUs חזקים, שינוי בולט לכיוון פחות שבבים חזקים צפוי בשנת 2024. המהלך, המונע על ידי הצורך בחלופות, צפוי לעצב מחדש את הנוף, ולאפשר לחברות קטנות יותר וסטארט-אפים לתרום משמעותית להמשך בום בינה מלאכותית.
הדרישה למחשוב בעל ביצועים גבוהים, במיוחד לאימון מודלים של שפות גדולות, עלתה על היכולות של ספקים מסורתיים כגון AWS, Microsoft Azure ו Google Cloud. לארגונים קטנים יותר קשה להרשות לעצמם ולשמור משאבים בעלי ביצועים גבוהים אלה, מה שמוביל לעניין גובר ברשתות מבוזרות וללא הרשאות.
בשיחה עם Metaverse Post - גרג אוסורי, מנכ"ל Overclock Labs ו רשת אקש, שופכים אור על הגורמים המניעים וההשלכות הפוטנציאליות מאחורי מגמה טרנספורמטיבית זו.
פלטפורמת הענן המבוזרת Akash Network הכריזה לאחרונה על שדרוג משמעותי לענן עם Mainnet 8. השדרוג החדש הציג שיפורים מרכזיים שמטרתם לפשט גישה ל-GPU ולהעלות את חווית הפריסה.
גרג אוסורי מזהה אופטימיזציה של דרישות מערך הנתונים כמרכיב מפתח באימוץ של GPUs פחות.
הסתגלות נמוכה (LoRA) מופיעה כטכניקה מכרעת בשינוי זה. שינוי אסטרטגי זה מתמקד במשקלים קריטיים, מפחית את מספר הפרמטרים הדרושים ומשמר את הידע המקורי שהוכשר מראש במודל.
"אלה המחפשים חלופות בתוך ה-GPU יתקדם על ידי שימוש בדרישות פחות אינטנסיביות של מערכי נתונים, פריסת טכניקות יעילות יותר כמו Low-Rank Adaptation (LoRA) להכשרת מודלים של שפות, והפצת עומסי עבודה באופן מקביל", אמר גרג אוסורי מרשת Akash Network. Metaverse Post. "זה כולל פריסת אשכולות של שבבים ברמה נמוכה יותר כדי לבצע משימות שוות ערך למספר קטן יותר של A100s ו H100ס. עידן חדש של מחשוב ענן יצוץ, כזה שבו הכוח מבוזר ולא בידיים של מעטים בלבד".
הוא אומר שהקבילה לעומסי עבודה באמצעות אשכולות של שבבים פחותים היא אסטרטגיה נוספת. בהשוואה לשימוש מסורתי של GPU, אשכולות מציעים יכולת מדרגיות טובה יותר, עלות-תועלת ויכולות עומס עבודה מבוזר. עם זאת, האתגרים כוללים אחזור העברת נתונים, בעיות סנכרון, מגבלות מדרגיות ועלויות תקשורת.
"ככל שהנתונים גדולים יותר, כך עלויות התקשורת היקרות והקשות יותר בין מכונות שאינן מקובלות, כך שכנראה יהיה צורך בשיטות/טכניקות יעילות יותר כדי להתגבר על מחסומי תקשורת יקרים ומאתגרים. יש צורך בשילוב של חומרה ותוכנה להטמעה מוצלחת", אמר גרג אוסורי.
עלייתן של רשתות מבוזרות וחסרות הרשאה מתגלה כמאפשר חיוני, המעצים ארגונים לרתום את הפוטנציאל של GPUs פחות ולהגדיל את ניצול השבבים הכולל.
"כדי להשיג אופטימיזציה, ארגונים צריכים לשקול גדלי אצווה קטנים יותר הדורשים פחות זיכרון GPU, להתאמן על תת-קבוצה של נתונים לניפוי באגים, להשתמש במודלים מאומנים מראש מכיוון שהם דורשים פחות משאבי חישוב, ולהפיץ הכשרה על פני מספר GPUs", הסביר גרג אוסורי. "זה מאפשר לחברות קטנות יותר וסטארטאפים לחדש ולתרום תרומה אמיתית לתנופת הבינה המלאכותית ללא הסתמכות מלאה על ה-GPUs החזקים ביותר."
רשתות מבוזרות יכולות לחזק את הנוף הטכנולוגי
גרג אוסורי מרשת Akash צופה שאימוץ גרפי GPU פחות יטפח סביבה מגוונת ותחרותית יותר, ויפחית את החששות הקשורים לענקיות הטכנולוגיה השולטות ב- נוף של AI. לדבריו, גישה זו מספקת פתרון חסכוני, המפתח ראשון לגישה למגוון רחב של GPUs, ומאפשר לשחקנים קטנים יותר להתחרות על בסיס שווה.
"פתרונות חדשניים ומבוזרים ממשיכים להופיע, נותנים מענה לעלייה בביקוש, מבטיחים גישה שוויונית ל-GPU ומטפחים חדשנות במחשוב ענן והדרכת מודלים של AI. על ידי מתן גישה נטולת הרשאה למשאבי מחשוב - כולל Nvidia A100s ו-H100s - ממגוון ספקים, מעצמאי ועד היפר-סקאלה, פלטפורמות המחשוב הללו ממוקמות באופן ייחודי כדי להפחית חוסר יעילות", אמר.
חברות קטנות יותר וסטארטאפים צפויים למנף את המעבר לעבר גרפי GPU פחות כדי לתרום תרומה משמעותית ל- תחום AI. דוגמאות, כגון השימוש של Thumper.ai באשכול של 32 מכשירי Nvidia A100, מדגישים את האופטימיזציה של כוח מחשוב שלא מנוצל לקצבי פריסה מהירים יותר.
"על ידי הצעת גישה חסכונית, מפתח-ראשון לגישה למגוון רחב של GPUs, החל משבבי מרכזי נתונים בעלי ביצועים גבוהים ועד מודלים צרכניים, שחקנים קטנים יותר יוכלו לגשת לאותו מחשוב כמו חברות מבוססות יותר שיש להן גמישות בתפעול שלהן הוצאות", הוסיף גרג אוסורי.
בהסתכלות על השלכות רחבות יותר, מר אוסורי צופה שינוי פרדיגמה אפשרי בתעשיית הטכנולוגיה. המעבר למעבדי GPU פחות חזקים ומחשוב מבוזר עלול להוביל לפיתוח של יישומים ומקרי שימוש חדשים, המתרחבים מעבר ל-AI לתחומים טכנולוגיים אחרים.
"הגמישות הטבועה של רשת מבוזרת יכולה לאפשר למפתחים וחוקרים עצמאיים להתנסות עם יישומים חדשים לחלוטין ולפתוח דרכים חדשות לפיתוח ארכיטקטורות יישומים פתוחות באופן קיצוני", אמר גרג אוסורי מרשת Akash Network. Metaverse Post. "אפקט אדווה זה יכול להוביל לפיתוח של יישומים ושירותים מבוזרים יותר על פני תעשיות, שיתוף רחב יותר של משאבי חישוב וידע, ה"חזרה" של קריפטו ו blockchainושילוב עם טכנולוגיות קיימות".
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
ויקטור הוא עורך/כותב טכנולוגי מנהל ב Metaverse Post ומכסה בינה מלאכותית, קריפטו, מדע נתונים, metaverse ואבטחת סייבר בתחום הארגוני. הוא מתגאה בחצי עשור של ניסיון במדיה ובינה מלאכותית בעבודה בכלי תקשורת ידועים כמו VentureBeat, DatatechVibe ומגזין Analytics India. בהיותו מנטור מדיה באוניברסיטאות יוקרתיות כולל אוקספורד ו-USC ועם תואר שני במדעי נתונים ואנליטיקה, ויקטור מחויב עמוקות להישאר מעודכן במגמות מתפתחות. הוא מציע לקוראים את הנרטיבים העדכניים ביותר ומלאי התובנה מה-Tech and Web3 נוף.
מאמרים נוספים
ויקטור הוא עורך/כותב טכנולוגי מנהל ב Metaverse Post ומכסה בינה מלאכותית, קריפטו, מדע נתונים, metaverse ואבטחת סייבר בתחום הארגוני. הוא מתגאה בחצי עשור של ניסיון במדיה ובינה מלאכותית בעבודה בכלי תקשורת ידועים כמו VentureBeat, DatatechVibe ומגזין Analytics India. בהיותו מנטור מדיה באוניברסיטאות יוקרתיות כולל אוקספורד ו-USC ועם תואר שני במדעי נתונים ואנליטיקה, ויקטור מחויב עמוקות להישאר מעודכן במגמות מתפתחות. הוא מציע לקוראים את הנרטיבים העדכניים ביותר ומלאי התובנה מה-Tech and Web3 נוף.
