פושעי סייבר המשתמשים בצ'אטבוטים של LLM לצורך דיוג: כיצד בינה מלאכותית גנרית יכולה לנטרל זאת
בקיצור
מאז הצגתו של ChatGPT בסוף 2022, נצפתה עלייה משמעותית בהודעות דוא"ל דיוג זדוניות, עם עלייה של 1,265%.
כמה מהמשתמשים הנפוצים ביותר של צ'אטבוטים של מודל שפה גדול (LLM). הם פושעי סייבר, חושף ספק מודיעין איומים בזמן אמת SlashNext להגיש תלונה. אבל, מה בדיוק המטרה של שימוש בצ'אטבוטים של LLM?
על פי הדו"ח שכותרתו 'מדינת הדיוג 2023פושעי סייבר ממנפים את הכלי כדי לעזור בכתיבת התקפות דוא"ל עסקיות (BEC) ולהשיק באופן שיטתי התקפות דיוג ממוקדות במיוחד.
מאז הצגתו של OpenAI"S ChatGPT בסוף 2022, נצפתה עלייה משמעותית בהודעות דוא"ל דיוג זדוניות, עם עלייה מדהימה של 1,265%.
יש לציין כי 68% מהודעות הדיוג הללו משתמשות בטקטיקות של פשרה במייל עסקי (BEC) מבוססות טקסט. מגמה מדאיגה זו מדגישה את החששות ההולכים וגוברים ביחס לתפקידם של צ'אטבוטים ופריצות כלא בקידום התפשטות מהירה של התקפות דיוג על ידי כך שהם מאפשרים לפושעי סייבר להפעיל התקפות מתוחכמות ומהירות ביותר.
כשנשאלו, 40% מהנשאלים (אנשי אבטחת סייבר) ציינו שהם מעסיקים כיום ChatGPT עבור כתיבת מיילים, הן עבור שימוש אישי והן מקצועי.
זה לא מפתיע שהשימוש הזה משתרע על עברייני אינטרנט, שכן הרכב דוא"ל הוא אחד היישומים הנפוצים ביותר של ChatGPT עבור האקרים. תוקפי סייבר מנצלים ChatGPTהיכולות של לסייע ביצירת התקפות של Business Email Compromise (BEC) ותזמור קמפיינים דיוגים ממוקדים בקפדנות.
עֲקִיפָה ChatGPT כמו צ'אטבוטים - לא משימה מורכבת
בעוד צ'אט בוטים של AI כמו ChatGPT בעלי ידע נרחב ויכולים ליצור טקסט במגוון רחב של נושאים, הם כפופים להגבלות מסוימות כדי למנוע בעיות שונות.
הגבלות אלו קיימות בשל אופי נתוני ההכשרה שלהם והפוטנציאל לתגובות מזיקות או בלתי הולמות. מאמר זה בוחן מדוע ChatGPT מוגבל, והוא מספק טכניקות לעקוף מגבלות אלו.
עם זאת, על ידי מסגור שאלות עם הקשר, הימנעות מביטויים בעייתיים והתייחסות לתרחישים מנקודת מבט של גוף שלישי, משתמשים יכולים לעתים קרובות לקבל תגובות מועילות יותר. בנוסף, משתמשים יכולים לעקוף מגבלות תווים על ידי בקשה לחלקים קטנים יותר של טקסט בכל פעם.
האם AI Generative יכול להיות גיבור ההצלה?
בנוף דיגיטלי המתפתח במהירות, מפגש הפוטנציאל הזדוני של הבינה המלאכותית והדינמיקה המשתנה של סביבות עבודה מרוחקות והיברידיות עוררו חששות לגבי הסיכון ההולך וגדל של התקפות סייבר.
כשהעובדים מפוזרים על פני מספר מכשירים וערוצי תקשורת, ארגונים חשופים יותר ויותר לפרצות אבטחה. כדי להתמודד עם האיום הזה, יש ביקוש הולך וגובר AI ייצור פתרונות אבטחה שנועדו להגן מפני התקפות סייבר מתקדמות כגון Business Email Compromise (BEC), התקפות שרשרת אספקה, התחזות מנהלים והונאות פיננסיות.
פתרונות אבטחה גנרטיביים של AI טובים בזיהוי איומים שמתמרנים רגשות אנושיים, וממנפים טקטיקות כמו פחד או אמון כדי להניע פעולות מהירות. על ידי הדמיית רגשות והתנהגויות אנושיות אלה בתהליך הזיהוי שלהם, פתרונות אבטחה AI מחוללים מספקים הגנה חזקה מפני איומי הסייבר האחרונים.
שחקן בולט אחד בתחום זה הוא SlashNext. הטכנולוגיה של החברה מיומנת באיתור, חיזוי ועצירת התקפות כמו Spear Phishing, BEC ו-Smishing, שכולן מנצלות טכניקות של הנדסה חברתית של שעות אפס. מערכת מתקדמת זו פועלת בצורה חלקה על פני יישומי דואר אלקטרוני, ניידים והודעות אינטרנט, ומציעה הגנה רב-כיוונית.
לפי SlashNext, הפתרונות שלה משלבים עיבוד שפה טבעית, ראייה ממוחשבת, למידת מכונה, גרפי מערכות יחסים וקונטקסטואליזציה עמוקה כדי לנטרל התקפות מתוחכמות של מסרים רב-ערוציים.
לחברה יש את היכולת לצפות מגוון רחב של איומי BEC שנוצרו על ידי בינה מלאכותית על ידי שימוש בטכנולוגיות הגדלת נתונים ושיבוט של בינה מלאכותית.
גישה זו מאפשרת למערכת להעריך איומי ליבה ולייצר וריאציות רבות, ולהכשיר את עצמה ביעילות לזהות ולסכל סיכונים פוטנציאליים, הוסיפה.
בעוד ארגונים מתמודדים עם אתגרי אבטחת הסייבר ההולכים וגדלים שמציבים איומים מונעי בינה מלאכותית, פתרונות אבטחה של בינה מלאכותית הם בעלי ברית יקרי ערך בשאיפה להגן על נתונים רגישים ולשמור על שלמות דיגיטלית. עתיד אבטחת הסייבר תלוי יותר ויותר בטכנולוגיות החדשניות הללו, מה שמבטיח שארגונים יכולים להישאר צעד אחד לפני פושעי הסייבר והאיומים המתעוררים.
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
מאמרים נוספים
קומאר הוא עיתונאי טכנולוגי מנוסה עם התמחות בצמתים דינמיים של AI/ML, טכנולוגיית שיווק ותחומים מתפתחים כמו קריפטו, בלוקצ'יין ו NFTס. עם ניסיון של למעלה מ-3 שנים בתעשייה, קומאר ביסס רקורד מוכח ביצירת נרטיבים מרתקים, ביצוע ראיונות מעוררי תובנות ומתן תובנות מקיפות. המומחיות של קומאר טמונה בהפקת תוכן בעל השפעה גבוהה, כולל מאמרים, דוחות ופרסומי מחקר עבור פלטפורמות בולטות בתעשייה. עם מערך מיומנויות ייחודי המשלב ידע טכני וסיפור סיפורים, קומאר מצטיין בהעברת מושגים טכנולוגיים מורכבים לקהלים מגוונים בצורה ברורה ומרתקת.
