GPTפלטפורמות מקוונות של אתגר בוטים מונעי דואר זבל
בקיצור
GPTבוטים של ספאם מונעים הפכו לבעיה משמעותית בפלטפורמות כמו טוויטר וטלגרם, המכוונים לקידום לא רצוי.
תוכניות AI מתוחכמות אלו יכולות לנתח ולשכפל את ההקשר של פוסט, ולגרום להפרעות שלהן להיראות אורגניות יותר וקשות יותר לזיהוי.
סוג חדש של הפרעה הופיע בצורה של GPT-בוטי דואר זבל מונעים. תוכניות הבינה המלאכותית המתוחכמות הללו הפכו דף חדש בספר המשחקים של ספאם, ומכוונות לעתים קרובות לפוסטים בפלטפורמות כמו טוויטר וטלגרם עם קידום מכירות לא רצוי.
אלה GPT-בוטי דואר זבל יכולים לנתח ולשכפל את ההקשר של פוסט, מה שגורם להפרעה שלהם להיראות טבעית וקשה יותר לזהות מאשר הספאם הפשוט של העבר. אמצעי ההגנה המסורתיים מאותגרים על ידי זה מכיוון שרבים מהם אינם יעילים. נכון לעכשיו, ניתן לזהות את הבוטים הללו רק לפי זמני התגובה המהירים שלהם, מה שמאפשר התערבות והסרה ידנית.
המטח התמידי של ספאם מתלבט על יוצרים ומנהלים. מפעילי ערוצים רבים בפלטפורמות כמו טלגרם הצהירו על רצונם בשירות מיוחד שיוכל לזהות ולמחוק את הערות הספאם המתוחכמות הללו בתגובה לצורך הגובר הזה. מפעילים אלו, אשר רואים עצמם כ"מנחים כשירות", מוכנים להשקיע בפתרון והביעו נכונות לשלם 20-30 דולר לחודש או להשתמש במודל חיוב מבוסס שימוש המבוסס על כמות הפוסטים או ההודעות שצופים בהם.
אולם הקושי אינו מסתיים כאן. יש גל מתקרב של GPT- שולחי דואר שצפויים להיות מיומנים עוד יותר ככל שהטכנולוגיה מתקדמת, אולי באמצעות אסטרטגיות כמו עיכובי תגובה או שימוש באישיות בינה מלאכותית שונות המתקשרות זה עם זה. ההבחנה בין משתמשים אנושיים לבוטים בנסיבות כאלה הופכת למשימה מאתגרת.
אֲפִילוּ ענקיות טק מתחבטים בנושא. OpenAI לקח צעד לקראת פתרון זה עם פיתוח של גלאי טקסט שנועד לזהות תוכן שנוצר בינה מלאכותית. לרוע המזל, המאמצים שלהם עמדו בפני נסיגה מכיוון שהפרויקט נגנז בגלל הדיוק הנמוך של הגלאי, כפי שדווח על ידי TechCrunch ביולי 2023.
מנהלי הפלטפורמה אינם היחידים המודאגים מהגידול ב GPT-בוטי דואר זבל. האתגר של הפרדת תוכן אותנטי מהגשות שנוצרו בינה מלאכותית מתמודד כעת אפילו עם מנהלי מדיה חברתית וסטארט-אפים. הנסיבות מדגישות צורך דחוף ומציגות הזדמנות ליוזמות ופרויקטים חדשים שיכולים ליצור פתרונות יעילים להתמודדות עם שיטות הספאם המתקדמות של העידן המודרני.
התקדמות במודלים של שפה והשלכות על מידע שגוי באינטרנט
המעשיות וכשרון השיחה כמעט אנושי של GPT צוינו על ידי משתמשים. עם זאת, אותן יכולות שזכו להערצה מעלות גם חששות לגבי השימוש לרעה הפוטנציאלי שלה.
בהתחשב במיומנות של הבינה המלאכותית בחיקוי תגובות דמויות אדם, יש חששות סביב פריסתה למטרות זדוניות. מומחים ברחבי האקדמיה, אבטחת סייבר ומגזרי AI מדגישים את השימוש הפוטנציאלי של GPT על ידי אנשים עם כוונות רעות להפיץ תעמולה או לטפח תסיסה בפלטפורמות דיגיטליות.
מבחינה היסטורית, הפצת מידע מוטעה דרש התערבות אנושית משמעותית. הכנסת מערכות עיבוד שפה מעודנות יכולה להגדיל את קנה המידה והטווח של פעולות השפעה התמקדות במדיה החברתית, וכתוצאה מכך מסעות פרסום מותאמים יותר, ולכן, פוטנציאליים יותר משכנעים.
פלטפורמות מדיה חברתית היו, במקרים קודמים, עדות למאמצים מתואמים להפיץ מידע מוטעה. לדוגמה, במהלך ההכנה לבחירות בארה"ב 2016, סוכנות המחקר לאינטרנט, שבסיסה בסנט פטרסבורג, השיקה קמפיין נרחב. המטרה שלהם, כפי שהסיקה ועדת המודיעין של הסנאט ב-2019, היה אמור להשפיע על תפיסת ציבור הבוחרים כלפי המועמדים לנשיאות.
הדו"ח של ינואר הדגיש כי הופעתה של מונעי בינה מלאכותית מודלים של שפה יכול להגביר את הפצת תוכן מטעה. התוכן יכול לא רק להגדיל את נפחו אלא גם להשתפר באיכות המשכנעת, מה שהופך אותו לאתגר עבור משתמשי אינטרנט ממוצעים להבחין באותנטיות שלו.
ג'וש גולדשטיין, המזוהה עם מרכז ג'ורג'טאון לאבטחה וטכנולוגיה מתעוררת ותורם למחקר, הזכיר את היכולת של מודלים גנרטיביים לייצר כמויות גדולות של תוכן ייחודי. יכולת כזו יכולה לאפשר לאנשים עם כוונות זדוניות להפיץ נרטיבים מגוונים מבלי להזדקק לתוכן שחוזר על עצמו.
למרות המאמצים של פלטפורמות כמו טלגרם, טוויטר ופייסבוק כדי להתמודד עם חשבונות מזויפים, האבולוציה של מודלים לשפות מאיימת להרוות את הפלטפורמות הללו בפרופילים מטעים יותר. וינסנט קוניצר, פרופסור למדעי המחשב באוניברסיטת קרנגי מלון, ציין כי טכנולוגיות מתקדמות, כגון ChatGPT, יכול להגביר משמעותית את התפשטות הפרופילים המזויפים, מטשטשת עוד יותר את הקווים בין משתמשים אמיתיים לחשבונות אוטומטיים.
מחקרים אחרונים, כולל מאמרו של מר גולדשטיין ודו"ח של חברת האבטחה WithSecure Intelligence, הדגישו את המיומנות של מודלים של שפה גנרטיבית ביצירת מאמרי חדשות מטעים. הנרטיבים הכוזבים האלה, כשהם הופצו הלאה פלטפורמות חברתיות, יכול להשפיע על דעת הקהל, במיוחד בתקופות בחירות קריטיות.
עליית המידע השגוי הנעזר במערכות בינה מלאכותית מתקדמות כמו צ'אט-GPT מעלה את השאלה: האם על פלטפורמות מקוונות לנקוט באמצעים יזומים יותר? בעוד שיש הטוענים שפלטפורמות צריכות לסמן בקפדנות תוכן מפוקפק, האתגרים נמשכים. לואיס א נונס אמרל, המשויך למכון נורת'ווסטרן למערכות מורכבות, התייחס למאבקי הפלטפורמות, וציטט גם את עלות המעקב אחר כל פוסט וגם את הגברת המעורבות בשוגג שפוסטים מפצלים כאלה מביאים.
קרא עוד על AI:
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
מאמרים נוספים
דמיר הוא ראש הצוות, מנהל המוצר והעורך ב Metaverse Post, המכסה נושאים כגון AI/ML, AGI, LLMs, Metaverse ו Web3-בתחומים משיקים. המאמרים שלו מושכים קהל עצום של למעלה ממיליון משתמשים מדי חודש. נראה שהוא מומחה עם ניסיון של 10 שנים בקידום אתרים ושיווק דיגיטלי. דמיר הוזכר ב-Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ופרסומים אחרים. הוא נודד בין איחוד האמירויות, טורקיה, רוסיה וחבר העמים כנווד דיגיטלי. דמיר סיים תואר ראשון בפיזיקה, שלדעתו נתן לו את כישורי החשיבה הביקורתית הדרושים כדי להצליח בנוף המשתנה ללא הרף של האינטרנט.
