אפריל 05, 2023

הפסקה של 6 חודשים באימון בינה מלאכותית היא רעיון טוב, אבל אולי זה לא מספיק

פורסם: 05 באפריל 2023 בשעה 7:59 עדכון: 05 באפריל 2023 בשעה 7:59 בבוקר

בקיצור

סיפור העצומה ופרסום מאמרו של יודקובסקי קוטבו את החברה.

דילמת האסיר ותורת המשחקים מצביעות על כך שדרושה מסה קריטית של אנשים שפויים במקומות שונים כדי שבעיות כאלה ייפתרו.

עם זאת, יש כמה אבלים לרעיון הזה, כמו חוסר התודעה, הרצון והסוכנות באבולוציה הדיגיטלית.

סיפורו של עצומה להפסיק לפתח מערכות AI מתקדמות יותר מאשר GPT-4 קיטוב באופן ניכר את החברה. שחרורו של יודקובסקי מאמר מבקש לסגור את המשך הפיתוח של GPT דגמים הוסיפו שמן למדורה, במיוחד הקטעים שלו על הפצצת מרכזי נתונים.

הפסקה של 6 חודשים לאימון Ai היא טובה, אבל לא מספיקה

ממה שניתן לראות באינטרנט, נראה שיש הרבה פחות תומכים בעתירה מאשר מתנגדים, שיש להם שלושה טיעונים עיקריים:

1	- אי אפשר לעצור את ההתקדמות. – העצומה הומצאה על ידי OpenAI מתחרים. – סין לא תחכה.
2	- אתה לא צריך לפחד מבינה מלאכותית אלא מאנשים. - GPT אין לו תודעה, רצון, שאיפות או סוכנות, אז אין ממה לחשוש. - GPT-4 רחוק בטירוף משעבד את העולם כי הוא לא מבין כלום, עושה טעויות מטופשות ובאופן כללי די טיפש. - GPT-4 לא יוכל לנהל את העולם כי אין לו ידיים/רגליים.
3	– הקבוצה השלישית לא מבינה איך GPT-4 פועל מלכתחילה.

לא נתרכז בחבורה השלישית כי עמדתם נובעת מבורות. זה לא אומר שכל מתנגדי הבינה המלאכותית יודעים הכל על בינה מלאכותית; אתה יכול למצוא הרבה אנשים נגד AI שחסרים להם הבנה בטכנולוגיה ובמה שהיא כרוכה בה, למרות שיודקובסקי עצמו עמוק יותר בנושא ה-AI, אז אי אפשר להאשים אותו בבורות.

בואו נסתכל על קבוצת האנשים הראשונה - אלה שמאמינים שלא ניתן לעצור את ההתקדמות. הם מציעים טיעונים שונים אך דומים, ובסך הכל, אותם אנשים אינם מכחישים את היכולות של AI ואת הסיכויים שהאימוץ שלו מביא ומאמינים שפיתוח AI יימשך לא משנה מה.

התזה הראשונה על התקדמות בלתי ניתנת לעצירה היא סיסמה שלא חייבת להיות נכונה. נראה שאנשים הפסיקו כמה ניסויים מדעיים, ופרויקטי מחקר רבים שהתקבלו בעבר אינם נחשבים אתיים יותר, ודומים לעולם לא היו מותרים כיום. עם זאת, כמה עוד התקדמות בעבר נעצרה על ידי האינקוויזיציה ורדיפות דתיות אחרות, איסורי ספרים ורציחות של מדענים בסין (ובמדינות אחרות)? זה משהו שלעולם לא נוכל לתפוס לגמרי בגלל הטיית הניצולים.

תזות אחרות כוללות את הגישה שניתן לסכם כ"אם לא אנחנו, זה הולך להיות הם." אמנם קו חשיבה זה עשוי להיות מובן יותר, אך נראה שגם הוא לא הפתרון הנכון. זה מאוד דומה לדילמת האסיר בתורת המשחקים.

קבוצת הטיעונים השנייה היא המעניינת ביותר. למרות שאני אישית מסכים עם זה במידה מסוימת, יש כמה אבלים שצריך לטפל בהם. כן, לבינה מלאכותית אין תודעה, רצון, סוכנות וכו'. גם ל-COVID-19 אין, ובכל זאת היא זרעה הרס ברחבי העולם. משהו לא צריך להיות בעל תחושת סוכנות ותודעה כדי להפוך למסוכן; תרחיש שחיים על פני כדור הארץ נמחקים בגלל וירוס אינו בלתי נתפס. לאחר שהעבודה שלו תסתיים, הוא יכול לשים את הכיסאות על השולחנות, לכבות את האורות ולעזוב לנצח.

בהמשך לאנלוגיה הביולוגית, יש מאמר נפלא, "היצירתיות המפתיעה של האבולוציה הדיגיטלית: אוסף אנקדוטות מקהילות המחקר האבולוציוני והחיים המלאכותיים", המספק דוגמאות רבות למתי תהליכים הולכים בכיוון בלתי צפוי. אפילו ללא תהליך אבולוציוני, הכל יכול להיכנס להכללה שגויה "הכללה שגויה של יעדים: מדוע מפרטים נכונים אינם מספיקים למטרות נכונות." מתן דרור לתהליך אופטימיזציה עלול להשתבש נדון ב"סיכונים מאופטימיזציה נלמדת במערכות למידת מכונה מתקדמות".

יחד עם זאת, אנחנו בדרך כלל לא לוקחים בחשבון את הסיכונים של שימוש זדוני ב-AI וכל שימוש לרעה, מה שמזין רק את הטיעון שאנחנו צריכים לפחד מאנשים ולא מ-AI עצמו. עם זאת, האמת היא שבינה מלאכותית יכולה להיות גרועה גם ללא אנשים זדוניים.

אני גם מסכים לגבי העובדה שהמודל עושה טעויות טיפשיות, אבל גם בני אדם עושים זאת, ובכל זאת אנחנו יודעים שהם יכולים להזיק. בעוד שדוגמניות עושות הרבה טעויות, הן יכולות גם לפתור הרבה בעיות מדהימות, מגניבות ומורכבות שהאדם הממוצע לא יכול לפתור. מתוך העבודה הידועה לשמצה "ניצוצות של בינה כללית מלאכותית: ניסויים מוקדמים עם GPT-4," הופתעתי מכך שבינה מלאכותית מסוגלת לפתור, אם כי לא תמיד בצורה נכונה, בעיות פרמי, בעיות מתמטיות מורכבות למדי. תיאוריית התודעה שלו ו"בערך היכולת להבין" את פעולותיהם של אחרים גם מרשימות מאוד. כל הדברים הללו מצביעים על האינטליגנציה של AI; קיים, אבל לא ממש כמו שלנו.

ביטול לפחות חלק מהטעויות שדגמי AI עושים הוא בדרך כלל בר ביצוע, כך שהאינטליגנציה שלהם עשויה רק לגדול. כל מה שאתה צריך לעשות הוא להוסיף מודול לחישובים מדויקים, בסיס עובדות ואימות עם מודל אחר.

הדבר החשוב ביותר בכל הסיפור הזה הוא מהירות הפיתוח של AI. GPT מודלים גדלו מאוד בקצב מסחרר. עכשיו, יש ChatGPT תוספים זמין, אתה יכול להשתמש GPT מודלים לכתיבת קוד, ממשקי API זמינים לציבור הרחב, ותוכלו להשתמש בכלים חיצוניים ללא כל הכשרה מוקדמת.

GPT-4, כמובן, לא יכבוש את העולם, אבל זה יכול לזעזע מאוד את הכלכלה. GPT-5, והאיטרציה העתידית של המודל, אולי לא תהיה רחוקה מאוד וכנראה תגיע עם יכולות חזקות הרבה יותר. ובואו נודה בזה, איננו יכולים לקוות להבין את הדגמים שעדיין לא קיימים; אפילו לא התקרבנו להבנת המודלים שכבר קיימים. במובן הזה, הפסקה של שישה חודשים עשויה להיות רעיון טוב, אבל אולי זה פשוט לא מספיק.

ובהתחשב בכך שה מירוץ AI התחיל, אין זמן ללמוד.

ובכלל, לאור כל זאת, חתמתי גם על העצומה. למרות שאני לא מאמין שזה יעזור בשום צורה.

קרא עוד נושאים קשורים:

תגיות:

כתב ויתור

בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.

על המחבר

דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.

מאמרים נוספים

דמיר יללוב