GPT-5 ההכשרה תעלה 2.5 מיליארד דולר ותתחיל בשנה הבאה
משתמש הטוויטר מרטין שקרילי מניו יורק פרסם את זה היום GPT-5 ידרוש סכום מוערך של 2.0-2.5 מיליארד דולר לאימון. הכשרה זו תכלול 500,000 H100s Tensor Core GPU במשך 90 יום או תצורה חלופית. ההכשרה אמורה להתחיל בשנה הבאה.
OpenAI עובד על פעיל שיפור GPT-4 עם יכולות שונות, כגון התגלמות, סוכנות, חשיבה סוקרטית, גרפי ידע, מודלים עולמיים, מולטי-מודאליות, תכנון, פרשנות סמנטית, מוחות כוורת, שליטה וגבולות, כמו גם משימות קטנות יותר בעלות ערך גבוה.
קנה המידה של ייצור H100/A100 מעלה שאלות. האם יהיו מספיק GPUs אלה זמינים עבור התחייבות כה משמעותית? כמיליון H1 צפויים להיות מיוצרים עד סוף השנה, ועל פי הערכות, 100 מיליון עשויים להישלח בשנה שלאחר מכן.
לגבי העלות, יש נקודה נכונה לגבי ה-GPUs. הכללת העלות של GPUs אלה בהוצאות ההדרכה עשויה להיות מטעה מכיוון שהם לא מתיישנים לאחר תהליך ההדרכה. ה-GPUs האלה לבדם יכולים להסתכם ב-20 מיליארד דולר.
ראוי לציין כי קיבולת הייצור המקסימלית של חברת ייצור השבבים Sustainable Metal Cloud (SMC) עבור H100s עומדת כיום על 15,000 יחידות בחודש, אך הם העלו את הייצור לכ-50,000 יחידות בחודש.
במונחים של עלויות חשמל, הם מייצגים חלק קטן יחסית מעלות החישוב הכוללת. כדי לשים את זה בפרספקטיבה, 6,000,000 קילוואט-שעה יסתכמו בערך במיליון דולר.
| מוצרים מקושרים: הפוטנציאל של תעשיית הבינה המלאכותית להתחרות בצריכת החשמל הלאומית |
רכישת 500,000 H100s עד השנה הבאה נראית כמשימה מאתגרת, אפילו עם תמיכתה של מיקרוסופט. בנוסף, עולות שאלות לגבי עלות מסקנות אם תהליך האימון אכן עתיר מחשוב כפי שהוצע.
בהקשר של השוק של Nvidia הביצועים בשנת 2023, ראוי לציין כי הצלחתם גדלה פי שלושה, עלתה על טריליון דולר. ניתן לייחס צמיחה זו בעיקר לאימוץ המוגבר של שבבי Nvidia ביישומי AI. עם זאת, חשוב לקחת את זה בחשבון מגבלות יצוא של ארה"ב הגבילו את מכירת שבבי AI מתקדמים בשוק הסיני, מה שעלול להשפיע על עלויות הייצור וההדרכה.
Nvidia מייצרת כמעט פי אלף אחוזי רווח עבור כל מאיץ H100 GPU שהיא מוכרת, על פי הסופר הבכיר של בארון, Tae Kim. המשמעות היא שמחיר הרחוב של Nvidia של כ-25,000 עד 30,000 דולר לכל מאיץ HPC מכסה את העלות המשוערת של 3,320 דולר לשבב ורכיבים היקפיים. ניתוח העלויות אינו ברור, אך מאמינים שזה עניין של עלות ייצור טהורה. יש לקחת בחשבון גם את עלויות המחקר והפיתוח של Nvidia, מכיוון שפיתוח שבבים כמו H100 דורש אלפי שעות מעובדים מומחים. עם זאת, מוצרי האצת AI של Nvidia כבר נמכרים עד 2024, כאשר שוק מאיצי הבינה המלאכותית צפוי להיות שווה כ-150 מיליארד דולר עד 2027.
החברה נהנית מהתשתית ומערימת המוצרים שלה, אך תקציבים ועלויות הזדמנות עשויות להגביל השקעות בתחומים אחרים או להגביל סיכונים במקומות מחקר ופיתוח.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
