رصدخانه استنفورد: هوش مصنوعی در سال 2023 به دروغ‌های فراگیر و تبلیغات غیرقابل مقاومت منجر خواهد شد
به طور خلاصه
فناوری‌های AICG (تولید محتوای هوش مصنوعی) حقیقت و دروغ را هم برای افراد و هم برای جوامع در هر مقیاسی غیرقابل تشخیص می‌سازد.
این یک محیط «پسا حقیقت» ایجاد می کند که در آن دروغ و تبلیغات همه جا حاضر می شود.defiتوانا و مقاومت ناپذیر
این واقعیت که بسیاری از مردم به اطلاعاتی که از اینترنت می‌آیند بیشتر از رسانه‌های سنتی اعتماد دارند، یک نگرانی عمده است.
تولیدکننده‌های تصویر و ویدیو مبتنی بر هوش مصنوعی به طور فزاینده‌ای برای استفاده راحت‌تر، بسیار قابل اعتماد و کارآمدتر می‌شوند.
این باعث می شود که آنها برای اهداف تبلیغاتی بسیار مفید باشند.
در سخنرانی خود خطاب به جامعه جهانی هوش مصنوعی، استاد چینی هوش مصنوعی، کای فو لی، هشدار داد که جهان در اوایل سال 2023 با خطری جدی تر از خطرات جنگ هسته ای، قحطی یا یک بیماری همه گیر مواجه خواهد شد. خطر تولید محتوای هوش مصنوعی است. (AICG). فناوری‌های AICG می‌توانند حقیقت و دروغ را هم برای افراد و هم برای جوامع در هر مقیاسی غیرقابل تشخیص کنند.
La گزارش جدید توسط مرکز امنیت و فناوری های نوظهور، OpenAIو رصدخانه اینترنتی استنفورد، «مدل‌های زبانی مولد و عملیات نفوذ خودکار: تهدیدات نوظهور و اقدامات کاهش بالقوه»، بینشی استراتژیک از سناریوی فاجعه‌بار توصیف‌شده توسط کای فو لی ارائه می‌دهد.
گزارش به جزئیات چگونگی سقوط بشر به ورطه AICG احتمالا رخ می دهد. فن‌آوری‌های AICG تولید مقادیر زیادی از محتوای غیرقابل تشخیص از محتوای تولید شده توسط انسان را ممکن می‌سازد. این یک محیط «پسا حقیقت» ایجاد می کند که در آن دروغ و تبلیغات همه جا حاضر می شود.defiتوانا و مقاومت ناپذیر
این گزارش تعدادی از اقدامات کاهشی از جمله تنظیم استفاده از فناوری‌های AICG، افزایش شفافیت در مورد استفاده از آنها و توسعه استانداردهایی برای استفاده از آنها را توصیه می‌کند. با این حال، نویسندگان گزارش هشدار می دهند که این اقدامات تنها در صورتی موثر خواهند بود که در مقیاس جهانی اجرا شوند.
انتشار این گزارش در زمانی است که جهان از قبل برای مقابله با انتشار اطلاعات نادرست و اطلاعات نادرست دست و پنجه نرم می کند. همه‌گیری COVID-19 با گسترش اطلاعات نادرست درباره ویروس و منشأ آن همراه بوده است و پلتفرم‌های رسانه‌های اجتماعی برای جلوگیری از انتشار این اطلاعات نادرست تلاش می‌کنند.
هوش مصنوعی وب را به طور قابل توجهی تغییر خواهد داد
دروغ و تبلیغات همیشه بخشی از جامعه بشری بوده است. با این حال، در دسترس بودن و اثربخشی هر گونه عملیات نفوذ (هم بر افراد و هم بر جوامع) به دلیل توسعه فناوری های پیچیده تر، به ویژه در زمینه هوش مصنوعی (AI) در حال افزایش است.
سه عامل اصلی در ظهور، گسترش و پذیرش دروغ به عنوان حقیقت در جهان نقش دارند:
- توسعه تصویر و ویدیو مبتنی بر هوش مصنوعی ژنراتور که می تواند تصاویر و ویدیوهای بسیار واقعی از افراد و رویدادهایی ایجاد کند که هرگز واقعاً اتفاق نیفتاده اند.
- استفاده از رسانه های اجتماعی برای انتشار سریع اطلاعات نادرست به تعداد زیادی از مردم.
- این واقعیت که اکنون بسیاری از مردم به اطلاعاتی که از اینترنت می‌آیند بیشتر از منابع رسانه‌ای سنتی اعتماد دارند.
در نتیجه این عوامل، تولیدکننده‌های تصویر و ویدیو مبتنی بر هوش مصنوعی به طور فزاینده‌ای برای استفاده راحت‌تر، بسیار قابل اعتماد و کارآمدتر می‌شوند. این باعث می شود که آنها برای اهداف تبلیغاتی بسیار مفید باشند.
اکنون برای هر کسی که یک کامپیوتر و اتصال به اینترنت دارد، امکان ایجاد تصاویر و ویدیوهای جعلی وجود دارد که عملاً از واقعیت قابل تشخیص نیستند. این منجر به وضعیتی شده است که در آن تشخیص اینکه چه چیزی درست است و چه چیزی نیست بسیار دشوار است.
استفاده از رسانه های اجتماعی برای انتشار اطلاعات نادرست نیز یک نگرانی بزرگ است. با توجه به نحوه عملکرد رسانه های اجتماعی، اطلاعات نادرست می توانند بسیار سریع و آسان منتشر شوند. این امر باعث می‌شود مردم نتوانند به چه چیزی اعتقاد داشته باشند.
موارد زیر نشان می دهد که چگونه یک تحول انقلابی در سال 2022 امکان ساخت جعلی را فراهم کرد تصاویر که با توضیحاتی مانند «راکون با لباس رسمی با کلاه بالا، عصا و کیسه زباله مطابقت داشت. "نقاشی رنگ روغن به سبک رامبراند (نتیجه در سمت چپ) و ون گوگ (نتیجه در سمت راست است)."
ساده‌سازی افراطی فرآیند پاک کردن مرز بین حقیقت و دروغ همراه با ناتوانی تفکر انتقادی مردم در مقابله با تبلیغات هوش مصنوعی منجر به تسلط همه‌جا خواهد شد.defiعملیات نفوذ ناپذیر و غیرقابل عبور، هم در سیاست و هم در تجارت.
درباره هوش مصنوعی بیشتر بخوانید:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
