כמות האינטליגנציה ביקום תוכפל כל 18 חודשים, אומר סם אלטמן
בקיצור
אפוקליפסת הבינה המלאכותית החלה, כאשר כמות האינטליגנציה ביקום מוכפלת כל 18 חודשים.
OpenAIזה סם אלטמן פעם התבדח ש-AI יוביל לסוף העולם, אבל לפני כן, זה יהיה עסק ענק.
אריק הול, מדען מוח ופילוסוף אמריקאי מאוניברסיטת טאפטס, טוען שמערכות בינה מלאכותית אינן יכולות להיחשב אינטליגנטיות בשלב זה, שכן הן אינן מבינות את העולם ואין להן אישיות המתבטאת בכוונותיהן ובמעשיהן.
השערת המוח הבייסיאני קובעת שתפקידו העיקרי של המוח הוא למזער הפתעה. אם זה נכון, ייתכן שאפוקליפסת הבינה המלאכותית כבר החלה.
זה מרמז על כך ChatGPT ואחרים כבר מגוונים יותר באינטליגנציה שלהם מכל בן אדם.
אפוקליפסת ה-AI החלה, ושינתה את המשמעות של חוק מור. כעת, כמות האינטליגנציה ביקום תוכפל כל 18 חודשים, לפי סם אלטמן, מנכ"ל OpenAI, החברה שמאחורי ChatGPT. רק לפני שבע שנים, סם התבדח: "סביר להניח ש-AI יוביל לסוף העולם, אבל לפני כן, יהיה עסק ענק". עכשיו, אנשים מתבדחים הוא לא נפרד מ"תרמיל גרעיני" כדי שיוכל לפוצץ מרחוק מרכזי נתונים אם GPT יוצא משליטה.
| פוסט מומלץ: ChatGPT עלול לגרום לניוון אנושי בלתי הפיך |
כדי להבין טוב יותר למה מתכוון אלטמן בציוץ שלו, וכדי לגלות איך לא להשתגע בזמן בום הבינה המלאכותית, אנו ממליצים לקרוא את "כיצד לנווט באפוקליפסת AI כאדם שפוי." הול הוא מדען מוח ופילוסוף אמריקאי באוניברסיטת טאפטס. זה קריאה טובה, מכיוון שהול הוא סופר נהדר, אז אנחנו defiממליץ לבדוק את הפוסט הזה.
הבה נסתכל רק על אחת מנקודות המפתח כפי שהיא מסכמת הבנה עמוקה של המתרחש והעתיד הקרוב של האפוקליפסה שכבר הגיעה. הטיעון העיקרי של "טכנו-אופטימיסטים רציונליים", המאמינים ששום דבר יוצא דופן ומסוכן מדי קרה עם הופעתו של ChatGPTהוא כדלקמן:
- למרות התוצאות המצטיינות של בינה מלאכותית שיחתית (כמו ChatGPT, Bing וכו'), מערכות AI אלו אינן יכולות להיחשב אינטליגנטיות. הם לא מבינים את העולם ואין להם מוטיבציה של סוכן. אין להם אישיות שמתבטאת בכוונותיהם ובמעשיהם, והאינטלקט הנתפס שלהם אינו אלא סימולקרום של אינטלקט. בבסיסו, סימולקרום זה הוא רק מילוי אוטומטי למילים הבאות, המשקף במראה ההסתברותי שלו את הקורפוס העצום והבלתי מסונן של טקסטים שנכתבו על ידי אדם מהאינטרנט.
- אם כן, אז אין סיכוי קרוב להופעתו של מודיעין-על וגם לא הסיכונים הכרוכים בכך (אם כי, כמובן, צריך להתכונן לכך, ככל הנראה באופק של עשרות שנים).
תשובתו של הול לטיעון זה היא כדלקמן:
- העובדה כי ChatGPT, למשל, הוא פשוט השלמה אוטומטית של המילים הבאות לא אומר שהוא לא יכול להפוך (או כבר הפך) לסוכן אינטליגנטי. בניגוד לתודעה, אינטליגנציה היא מושג מתפקד במלואו: אם משהו פועל בתבונה, הוא אינטליגנטי. אם הוא פועל כסוכן, הוא סוכן.
- הנה דוגמה מסבירה. יש קבוצה משפיעה של מדענים - קרל פריסטון (מדען המוח המצוטט ביותר) ושלל שמות מפורסמים אחרים - שטוענים שמטרת המוח שלנו היא למזער את ההפתעה. "השערת המוח הבייסיאני" הזו היא אחת מהזרמים המרכזיים כיום. התיאוריה קובעת שברמה הגלובלית, צמצום ההפתעה הוא תפקידו העיקרי של המוח. ולמרות שזו רק אחת מכמה השערות מובילות לגבי אופן פעולת המוח, בואו נניח שזה נכון. תארו לעצמכם עכשיו שחייזרים מוצאים מוח אנושי, מסתכלים עליו ואומרים: "הו, הדבר הזה רק ממזער את ההפתעה! זה לא יכול להיות הבסיס של האינטלקט ולכן לא יכול להיות מסוכן עבור נושאי הנפש האמיתיים. חשבו: האם "מזעור הפתעות" באמת מטרה הרבה יותר קשה מהשלמה אוטומטית של טקסט? או שבעצם זה מאוד דומה?
- ואם כן, אז אולי המודיעין הלא אנושי כבר נמצא בקרבת מקום. והסיכונים הנלווים כבר די אמיתיים. מה עוד יש להוסיף? אוּלַי ChatGPT ואחרים כבר מגוונים יותר בם אינטליגנציה מכל בן אדם. ChatGPT ואחרים ככל הנראה יהיו פעילים באותו זמן מהסיבות הבאות: סבירות, לא אמינות, ולא דומות למוח האנושי, בלתי נשלטות בשום מובן בסיסי, למעט כמה גדרות שתוכננו בחופזה.
ואם כל זה נכון, אז אפוקליפסת ה-AI כבר החלה.
קרא עוד נושאים קשורים:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
