دسامبر 20، 2022

خطرات هوش مصنوعی: نحوه استفاده هکرها ChatGPT در چند سال آینده

تاریخ انتشار: 20 دسامبر 2022 ساعت 10:30 به روز رسانی: 20 دسامبر 2022 ساعت 10:05 ق.ظ.

به طور خلاصه

هوش مصنوعی می تواند به تولید کننده بدافزار غیرقابل کنترل تبدیل شود

هوش مصنوعی می تواند برای ایجاد بدافزار قدرتمند بدون دخالت انسان استفاده شود

خطر فیشینگ غیرقابل کنترل هوش مصنوعی با افزایش قدرت بیشتر

توسعه سریع هوش مصنوعی (AI) یکی از دگرگون‌کننده‌ترین پیشرفت‌های فناوری در تاریخ اخیر است. با این حال، با ادامه تکامل و پیچیده تر شدن هوش مصنوعی، این خطر فزاینده وجود دارد که غیرقابل کنترل شود یا توسط هکرها استفاده شود.

با وضعیت فعلی فناوری هوش مصنوعی، اکنون امکان ایجاد بدافزار مستقلی وجود دارد که می تواند اهداف را بدون دخالت انسان انتخاب کرده و درگیر کند. همچنین این خطر وجود دارد که از هوش مصنوعی برای تقویت قابلیت های مجرمان سایبری استفاده شود. از هوش مصنوعی می توان برای ایجاد بدافزار قدرتمندی استفاده کرد که شناسایی و دفاع در برابر آن دشوار است. بدافزار مجهز به هوش مصنوعی می تواند برای راه اندازی حملاتی استفاده شود که دفاع در برابر آن برای انسان غیرممکن است. آیا از هوش مصنوعی مطمئن هستید یا ChatGPT با توجه به اینکه قبلاً برنامه ها، برنامه ها، بازی ها و اسکریپت ها را ایجاد می کند، نمی تواند چیزی مضر تولید کند؟

خطرات هوش مصنوعی: چگونه ماشین‌ها می‌توانند در سال‌های آینده غیرقابل کنترل شوند؟ — از هوش مصنوعی می توان برای ایجاد بدافزاری استفاده کرد که شناسایی و دفاع در برابر آن دشوار است

خطرات احتمالی ناشی از هوش مصنوعی فقط تئوری نیست. آنها خطرات واقعی و فعلی هستند که ما باید قبل از اینکه خیلی دیر شود به آنها رسیدگی کنیم.

همانطور که کارشناسان فنلاند معتقدند، مهاجمان به زودی شروع به استفاده از هوش مصنوعی برای انجام حملات فیشینگ مرگبار خواهند کرد. WithSecure، آژانس حمل و نقل و ارتباطات فنلاند، و آژانس فدرال مدیریت اضطراری آماده کرده اند گزارش تحلیل روندها و تحولات فعلی در هوش مصنوعی، حملات سایبری و محل تلاقی این دو.

هوش مصنوعی می تواند به تولید کننده بدافزار غیرقابل کنترل تبدیل شود

نویسندگان این گزارش می گویند اگرچه حملاتی که از هوش مصنوعی استفاده می کنند در حال حاضر بسیار نادر هستند، اما به گونه ای انجام می شوند که محققان و تحلیلگران نمی توانند آنها را مشاهده کنند. با این حال، در سال‌های آینده، احتمالا مهاجمان الگوریتم‌های هوش مصنوعی را توسعه خواهند داد که می‌توانند به طور مستقل آسیب‌پذیری‌ها را پیدا کنند، کمپین‌های مخرب را برنامه‌ریزی و اجرا کنند، سیستم‌های امنیتی را دور بزنند و اطلاعات را از دستگاه‌های هک شده جمع‌آوری کنند.

هوش مصنوعی با افزایش قدرت، خطر فیشینگ غیرقابل کنترل را دارد

WithSecure پیش‌بینی کرده است که هکرهای دولتی اولین کسانی هستند که از هوش مصنوعی در حملات سایبری استفاده می‌کنند و این فناوری در نهایت به دست گروه‌های کوچک‌تری می‌افتد که از آن در مقیاس بزرگ‌تری استفاده می‌کنند. در نتیجه، متخصصان امنیت اطلاعات باید شروع به توسعه سیستم هایی کنند که بتوانند در برابر این نوع حملات محافظت کنند.

نویسندگان گزارش بیان کرده‌اند که حملات سایبری مبتنی بر هوش مصنوعی به ویژه در مورد تکنیک‌های جعل هویت، که اغلب در حملات فیشینگ و ویشینگ استفاده می‌شوند، موثر خواهند بود.

روند رو به رشدی وجود دارد که هکرها از هوش مصنوعی برای انجام حملات خود استفاده می کنند زیرا این فناوری به آنها امکان خودکارسازی حملات و موثرتر کردن آنها را می دهد.

یکی از آخرین نمونه های این مورد است ChatGPT chatbot، که توسط هکرها برای انجام حملات مهندسی اجتماعی استفاده می شود. این چت بات برای تقلید از مکالمات انسانی طراحی شده است و قادر به انجام مکالمات پیچیده، واقع بینانه و منسجم است. امکان سوء استفاده با این فناوری وجود دارد. هکرها می توانند از چت بات برای ایجاد مکالمات قانع کننده به منظور جمع آوری داده های حساس، اطلاعات شخصی و رمز عبور از قربانیان غیرقابل اطمینان استفاده کنند.

تاکنون از چت بات برای جعل هویت نمایندگان خدمات مشتری و انجام حملات فیشینگ استفاده شده است. فقط زمان زیادی است که شاهد انجام حملات پیچیده تری با این فناوری باشیم.

این یک موضوع جدی است که باید به آن رسیدگی شود. اگر ChatGPT به درستی ایمن نشده است، می توان از آن برای استثمار افراد به روشی بسیار پیچیده استفاده کرد. همانطور که چت بات ها پیشرفته تر می شوند، مهم است که از خطرات آنها آگاه باشید. هکرها به یافتن راه‌های جدید برای استفاده از آنها برای انجام حملات خود ادامه خواهند داد. مطمئن شوید که نرم افزار امنیتی خود را به روز نگه دارید و مراقب هر گونه مکالمه ای که با غریبه ها به صورت آنلاین دارید باشید.

درباره هوش مصنوعی بیشتر بخوانید:

برچسب ها:

سلب مسئولیت

در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.

درباره نویسنده

Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.

مقالات بیشتر

دامیر یالالوف