روندهای فناوری 2024: رهبران صنعت از هوش مصنوعی برای مقابله با تهدیدات Deepfake استقبال می کنند
به طور خلاصه
در نبرد با فناوری دیپ‌فیک، صنایع از ابزارها و راه‌حل‌های هوش مصنوعی برای مبارزه با تکثیر محتوای دستکاری شده استفاده می‌کنند.
در جریان جنگ روسیه و اوکراین، ویدئویی از ولودیمیر زلنسکی، رئیس‌جمهور اوکراین منتشر شد که از سربازانش می‌خواهد در میانه جنگ تسلیم شوند. بعدا معلوم شد که این یک فیلم عمیق.
در نبرد همیشه در حال تکامل علیه فناوری عمیق، صنایع به طور فزاینده ای به یک زرادخانه فناوری پیشرفته روی می آورند تا با تکثیر محتوای دستکاری شده مبارزه کنند. از ابتکارات اصالت محتوا گرفته تا تکنیک‌های واترمارک نامرئی، ابزارهای تشخیص الگوریتمی، پروژه‌های مشترک و تغییرات خط‌مشی پلتفرم - مبارزه با دیپ‌فیک‌ها چند وجهی و پویا می‌شود.
اصالت محتوا و منشأ محتوا
Content Authenticity Initiative، که توسط بازیگران صنعت رهبری می‌شود، با هدف مهر و موم کردن رمزنگاری اطلاعات اسناد مربوط به محتوا، امکان تأیید از ایجاد تا مصرف را فراهم می‌کند. به طور همزمان، ائتلاف برای منشأ و احراز هویت محتوا (C2PA) یک مشخصات فنی استاندارد باز منتشر کرده است که بر ارائه داده‌های مربوط به منشأ، تغییرات و مشارکت‌کنندگان محتوا تمرکز دارد.
مایکروسافت با اعلام «معتبر محتوا به‌عنوان یک سرویس»، از اعتبارنامه‌های واترمارک دیجیتال C2PA برای کمک به کاندیداها و کمپین‌های انتخاباتی در حفظ کنترل محتوای خود، گامی فراتر برداشته است.
تکنیک های واترمارکینگ
متا Sable Signature را معرفی کرد، یک تکنیک واترمارک نامرئی که برای تشخیص محتوای ایجاد شده توسط منبع باز طراحی شده است مدل های مولد هوش مصنوعی. این واترمارک نامرئی که با چشم غیرمسلح قابل تشخیص نیست اما توسط الگوریتم ها قابل ردیابی است، به شناسایی تصاویر دستکاری شده کمک می کند. Google DeepMind همچنین با SynthID وارد معارضه شده است و به کاربران اجازه می دهد واترمارک دیجیتال را مستقیماً در تصاویر یا صداهای تولید شده توسط هوش مصنوعی جاسازی کنند.
این فناوری به کاربران امکان می‌دهد محتوا را برای یافتن واترمارک اسکن کنند و بینش‌هایی درباره ایجاد یا تغییر محتوا با استفاده از مدل‌های هوش مصنوعی Google ارائه دهد.
تشخیص الگوریتمی
این صنعت با تکیه بر استراتژی‌های مختلف مبتنی بر هوش مصنوعی مانند تشخیص بلندگو، تشخیص زنده بودن صدا، نرم‌افزار تشخیص خودکار را برای دیپ‌فیک‌ها به کار می‌گیرد. تشخیص چهرهو تحلیل زمانی Video Authenticator مایکروسافت و FakeCatcher با پشتیبانی اینتل نمونه های قابل توجهی هستند.
با این حال، چالش در ماهیت گذرا ابزارهای تشخیص نهفته است زیرا در حال تکامل تکنیک های تولید دیپ فیک به طور مداوم قابلیت اطمینان آنها را به چالش می کشند. آ مطالعه سطوح دقت متفاوتی (30 تا 97 درصد) را در بین مجموعه‌های داده پیدا کرد که نشان‌دهنده نیاز به نوآوری مداوم برای همگام شدن با فناوری‌های در حال ظهور عمیق است.
مبدا پروژه
سازمان های رسانه ای از جمله بی بی سی و مایکروسافت، در Project Origin همکاری کرد. این ابتکار به دنبال ایجاد یک رویکرد مهندسی برای رسانه های مصنوعی است، و پیوندهایی با امضای دیجیتالی برای ردیابی قابل تأیید محتوای رسانه به ناشر ارائه می دهد. هدف این پروژه نیز اجرای بررسی های اعتبارسنجی است تا اطمینان حاصل شود که محتوا در طول توزیع بدون تغییر باقی می ماند.
تغییرات خط مشی پلتفرم
در پاسخ به زمینه پرخطر تبلیغات سیاسی، پلتفرم های بزرگ مانند متا و گوگل تغییرات سیاستی را برای افزایش شفافیت اعلام کرده اند. خط مشی افشای تبلیغات سیاسی به‌روزشده متا، تبلیغ‌کنندگان را موظف می‌کند که محتوای تغییر یافته دیجیتالی را در تبلیغات سیاسی یا مرتبط با انتخابات افشا کنند.
یوتیوب سازندگان را ملزم به افشای استفاده از محتوای رسانه مصنوعی می‌کند و عدم رعایت این موارد ممکن است منجر به جریمه‌هایی از جمله حذف محتوا یا تعلیق از برنامه شریک YouTube شود. فروشگاه Google Play همچنین سیاستی را برای محتوای تولید شده توسط هوش مصنوعی معرفی کرده است که بر جلوگیری از ایجاد و توزیع محتوای مضر یا فریبنده از طریق برنامه های کاربردی هوش مصنوعی تمرکز دارد.
با تشدید نبرد علیه دیپ فیک، مداخلات صنعتی و راه حل های تکنولوژیکی برای حفظ اصالت و قابل اعتماد بودن محتوای دیجیتال ضروری است. تلاش های مشترک بازیگران اصلی در بخش های مختلف نشان دهنده تعهد به جلوتر ماندن از چشم انداز در حال تحول رسانه های مصنوعی است.
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTس کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
مقالات بیشتر
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTس کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
