مخاطر الذكاء الاصطناعي: كيف سيستخدم المتسللون ChatGPT في السنوات القليلة المقبلة
في سطور
يمكن أن يتحول الذكاء الاصطناعي إلى منشئ برامج ضارة لا يمكن السيطرة عليه
يمكن استخدام الذكاء الاصطناعي لإنشاء برامج ضارة قوية دون تدخل بشري
خطر تصيد ذكاء اصطناعي لا يمكن السيطرة عليه لأنه يكتسب المزيد من القوة
يعد التطور السريع للذكاء الاصطناعي (AI) أحد أكثر التطورات التكنولوجية التحويلية في التاريخ الحديث. ومع ذلك ، مع استمرار تطور الذكاء الاصطناعي وأصبح أكثر تطوراً ، هناك خطر متزايد من أن يصبح غير خاضع للسيطرة أو سيستخدمه المتسللون.
مع الوضع الحالي لتقنية الذكاء الاصطناعي ، أصبح من الممكن الآن إنشاء برامج ضارة مستقلة يمكنها تحديد الأهداف والتعامل معها دون تدخل بشري. هناك أيضًا خطر إمكانية استخدام الذكاء الاصطناعي لتعزيز قدرات مجرمي الإنترنت. يمكن استخدام الذكاء الاصطناعي لإنشاء برامج ضارة قوية يصعب اكتشافها والدفاع عنها. يمكن استخدام البرمجيات الخبيثة التي تدعم الذكاء الاصطناعي لشن هجمات يستحيل على البشر الدفاع عنها. هل أنت متأكد من الذكاء الاصطناعي أم ChatGPT لا يمكن أن ينتج شيئًا ضارًا ، نظرًا لأنه ينشئ بالفعل برامج وتطبيقات وألعابًا ونصوصًا؟
المخاطر المحتملة التي يشكلها الذكاء الاصطناعي ليست نظرية فقط. إنها مخاطر حقيقية وقائمة يجب أن نتصدى لها قبل فوات الأوان.
كما يعتقد الخبراء في فنلندا ، سيبدأ المهاجمون قريبًا في استخدام الذكاء الاصطناعي لتنفيذ هجمات تصيد فعالة مميتة. WithSecure ، أعدت وكالة النقل والاتصالات الفنلندية والوكالة الفيدرالية لإدارة الطوارئ ملف تقرير تحليل الاتجاهات والتطورات الحالية في مجال الذكاء الاصطناعي والهجمات الإلكترونية وأين يتقاطع الاثنان.
يقول مؤلفو التقرير إنه على الرغم من ندرة الهجمات التي تستخدم الذكاء الاصطناعي حاليًا ، إلا أنها تتم بطريقة لا يمكن للباحثين والمحللين ملاحظتها. ومع ذلك ، في غضون السنوات المقبلة ، من المحتمل أن يقوم المهاجمون بتطوير خوارزميات ذكاء اصطناعي يمكنها بشكل مستقل العثور على نقاط الضعف ، وتخطيط الحملات الخبيثة وتنفيذها ، وتجاوز أنظمة الأمان ، وجمع المعلومات من الأجهزة المخترقة.
توقعت WithSecure أن المتسللين الذين ترعاهم الدولة سيكونون أول من يستخدم الذكاء الاصطناعي في الهجمات الإلكترونية ، مع وقوع التكنولوجيا في نهاية المطاف في أيدي مجموعات أصغر ستستخدمها على نطاق أوسع. نتيجة لذلك ، يحتاج متخصصو أمن المعلومات إلى البدء في تطوير أنظمة يمكنها الحماية من هذه الأنواع من الهجمات.
ذكر مؤلفو التقرير أن الهجمات الإلكترونية التي يتم تشغيلها بواسطة الذكاء الاصطناعي ستكون فعالة بشكل خاص عندما يتعلق الأمر بتقنيات انتحال الهوية ، والتي تُستخدم غالبًا في هجمات التصيد الاحتيالي والتصيد الاحتيالي.
سوف يستخدم قراصنة ChatGPT في الهندسة الاجتماعية للحصول على بيانات حساسة
كان هناك اتجاه متزايد من المتسللين الذين يستخدمون الذكاء الاصطناعي لتنفيذ هجماتهم لأن هذه التكنولوجيا توفر لهم القدرة على أتمتة هجماتهم وجعلها أكثر فاعلية.
أحد أحدث الأمثلة على ذلك هو ChatGPT chatbot، والذي يستخدمه المتسللون لتنفيذ هجمات الهندسة الاجتماعية. تم تصميم روبوت المحادثة هذا لتقليد المحادثة البشرية وهو قادر على إجراء محادثات معقدة وواقعية ومتماسكة. هناك احتمال لسوء استخدام هذه التكنولوجيا. يمكن للقراصنة استخدام روبوت المحادثة لإنشاء محادثات مقنعة من أجل جمع البيانات الحساسة والتفاصيل الشخصية وكلمات المرور من الضحايا المطمئنين.
حتى الآن ، تم استخدام chatbot لانتحال شخصية ممثلي خدمة العملاء وتنفيذ هجمات التصيد الاحتيالي. إنها مسألة وقت فقط قبل أن نرى هجمات أكثر تطوراً يتم تنفيذها بهذه التكنولوجيا.
هذه قضية خطيرة تحتاج إلى معالجة. لو ChatGPT غير مؤمن بشكل صحيح ، يمكن استخدامه لاستغلال الناس بطريقة معقدة للغاية. نظرًا لأن روبوتات المحادثة أصبحت أكثر تقدمًا ، فمن المهم أن تكون على دراية بالمخاطر التي تشكلها. سيستمر المتسللون في إيجاد طرق جديدة لاستخدامهم في تنفيذ هجماتهم. تأكد من تحديث برنامج الأمان لديك وكن حذرًا من أي محادثات تجريها مع الغرباء عبر الإنترنت.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
