روابط عمومی شرکت ایدکو (توزیع‌کننده‌ی محصولات کسپرسکی در ایران)؛ جرم سایبری به سرعت فناوری‌های جدید را به خود جذب می‌کند. یکی از نگران‌کننده‌ترین ترندها در جرم‌های سایبری، دیپ‌فیک[1] است- تصاویر و محتوای ویدیویی و صوتی جعل‌شده با کمک هوش مصنوعی که آن‌ها را کاملاً واقعی جلوه می‌دهد (دست کم با چشم غیرمسلح). این مسئله اخیراً بحرانی‌تر شده زیرا ابزارهای تولید هوش مصنوعی دارند روز به روز شایع‌تر و برای عموم قابل‌دسترسی‌تر می‌شوند. در عین حال فناوری‌های AI با هر نسخه جدید پیشرفته‌تر و سخت‌تر می‌شوند و حالا ساختن تصاویر و صداهای ضبط‌شده که با واقعی‌شان مو نمی‌زنند بسیار راحت شده است.

دیپ‌فیک‌ها برای مقاصد مختلف مورد استفاده قرار می‌گیرند از جمله انتقام، کلاهبرداری مالی، دستکاری سیاسی یا ایجاد اختلال. در جهان به شدت اینترنتیِ ما، کلاهبرداران براحتی می‌توانند تصاویر و حتی ویدیوهایی از قربانیان احتمالی جمع کنند- خصوصاً وقتی صحبت چهره‌های شناس به میان می‌آید. با این وجود، مجرمان سایبری مدرن بیشتر دوست دارند روی برخی حوزه‌های خاص تخصص داشته باشند. ساخت دیپ‌فیک‌های کیفیت بالا نیازمند مهارت فنی و نرم‌افزارهای پیشرفته است؛ اینجاست که متخصصین زیرزمینی و خدمات غیرقانونی پا می‌گیرند. اکنون افرادی که به دنبال ساختن ویدیوها و تصاویر فیک هستند می‌روند سراغ متخصصین- آن‌ها همیشه آماده به یراق هستند (و خوب می‌دانید که جولانگاه‌شان کجاست؟ بله همانطور که حدس زده می‌شود دارک‌وب[2]). تصمیم گرفتیم این بازار زیرزمینی را با استفاده از متود دیجیتالی قوم‌نگاری (یعنی مستقیم پرداختن به زیستگاه آنلاین مجرمان سایبری: تالارهای گفتمان دارک‌نت[3]) بررسی کنیم. با ما همراه بمانید.

ابزار اصلی‌ای که در تحلیل دارک‌وب استفاده می‌کنیم، سرویس خودمان است که Kaspersky Digital Footprint Intelligence نام دارد و برای ارائه بینش‌هایی در خصوص تکنیک‌ها و اهداف مجرمان سایبری از تکنیک‌های OSINT به همراه تحلیل هم خودکار و هم دستیِ سرفیس وب[4]، دیپ‌ وب[5] و دارک‌وب استفاده می‌کند؛ همینطور در این میان دانسته‌های متخصصین‌مان نیز بسیار راهگشاست. ما برای اطلاعاتی در رابطه با ساخت دیپ‌فیک، تالارهای گفت‌وگوی زیرزمینی را جست‌وجو کردیم. برای متوجه شدن وضعیت فعلی این خطر، تمرکزمان را روی آفرهای دیپ‌فیک که امسال پدید آمدند گذاشتیم و به طور دستی برخی از نمونه‌های درخشان خدمات تولید دیپ‌فیک را گلچین کردیم.

بازار دیپ‌فیکِ دارک‌نت: عرضه و تقاضا

در تحقیق خود پی بردیم برای دیپ‌فیک‌ها تقاضای بسیاری وجود دارد- که ای بسا از عرضه نیز بیشتر است. افرادی که توافق خواهند کرد ویدیوهای جعلی درست کنند به شدت مورد نیازند و سرچ می‌شوند. و این بسیار خبر بدی است زیرا همه ما می‌دانیم تقاضا، عرضه را در پی دارد. از این رو پیش‌بینی می‌کنیم در آینده نزدیک شاهد افزایش قابل‌ملاحظه‌ی رخدادهایی باشیم که پای اصلی آن دیپ‌فیک‌های کیفیت بالا هستند. و با قضاوت محتوای پست‌های تالاهاری دارک‌وب، مجرمان سایبری نیز دنبال نتایجی با کیفیت بالا هستند. علیرغم در دسترس بودن ابزارهای ایجاد دیپ‌فیک، مجرمان سایبری فقط دنبال سازندگانی هستند که بتوانند ویدیوهای عالی با صدای باکیفیت و بدون تأخیر و گاف بین صدا و تصویر تولید کنند.

بخش اعظمی از تبلیغات سرچ دیپ‌فیک به کریپتو اسکم[6] مربوط می‌شود. معمولاً اینها مربوط می‌شوند به اسکم‌های اعطای ارز دیجیتال اما گاهی شاهد تبلیغات خاص‌تر هم هستیم. برای مثال به پستی برخوردیم که دنبال فردی می‌گشتند متخصص تولید ویدیوی باکیفیت دیپ‌فیک که بتواند برای دور زدن سیستم اعتبارسنجی شناسایی چهره استفاده شود. از این رو مجرمان سایبری در تلاشند از دیپ‌فیک‌ها برای دور زدن سیستم‌های امنیتی بیومتریک و دسترسی به اکانت‌های قربانی (جهت سرقت مستقیم پول) استفاده کنند.

در مورد عرضه باید گفت هزینه ساختن یا خرید دیپ‌فیک‌های آماده بسته به میزان پیچیدگی پروژه مربوطه و کیفیت محصول نهایی قیمت‌ها متفاوت است. قابل توجه بودن مورد جعل‌شده همچنین می‌تواند بر برچسب قیمت (معمولاً افراد مشهور یا شخصیت های سیاسی) تأثیر بگذارد. قیمت هر دقیقه ویدیوی دیپ‌فیک می‌تواند بین 300 تا 20000 دلار باشد. اگر خریدار آماده پرداخت باشد، سازندگان دیپ‌فیک می‌توانند ویدیوهایی را ارائه دهند که به‌طور باورنکردنی واقع‌گرایانه هستند و می‌توانند احساسات واقعی را منتقل کرده و آن‌ها را از فیلم واقعی متمایز نکنند.

در اینجا نمونه های درخشانی هستند که پیشتر قولشان را داده بودیم:

جعل هویت ویتالیک بوترین[7]

ما تامین‌کننده‌ای را کشف کردیم که یک سرویس ممتاز برای ایجاد دیپ‌فیکی با کیفیت بالا از بنیان‌گذار اتریوم، ویتالی بوترین، با صدا و ویدیوی کاملاً ترکیب‌شده ارائه می‌کرد. مشخص شد که تولید صرفاً شامل دوبله ویدیوهای موجود نبوده؛ بلکه یک سرویس تولید کامل است. زمان تخمینی تولید ویدیو در این سرویس کمتر از دو هفته بود و محصول نهایی یک ویدیوی انگلیسی زبان بود که هزینه آن 20000 دلار در دقیقه احتساب شد.

پخش رمزارز

یکی دیگر از ارائه‌دهنده‌ها به قدرتش در کلاهبرداری از ارزهای دیجیتال می‌نازد. این ارائه‌دهنده دیپ‌فیک‌هایی با بالاترین کیفیت‌ها می‌سازد و خدماتش شامل کریپتو اسکم یا اعطای کریپتوی فیک می‌شود. این نوعی اسکم محبوب است که در آن کلاهبرداران با پخش برنامه‌های هدیه جعلی ارزهای دیجیتال، ارزهای دیجیتال را جمع‌آوری کرده و قول می‌دهند که هر گونه پرداخت ارز دیجیتالی که به آنها ارسال می‌شود دو برابر کنند. برای ایجاد چنین دیپ فیک‌هایی، کلاهبرداران معمولاً از فیلم افراد مشهور برای راه‌اندازی استریم‌های زنده جعلی در  رسانه‌های اجتماعی استفاده می‌کنند. ارائه‌دهنده حتی صفحه‌ای از پیش ساخته‌شده را نشان می‌دهد که در آن با وعده‌ی دوبل شدن پول، از قربانیان خواسته می‌شود بین 2500 تا یک میلیون XPR انتقال دهند. در نتیجه قربانی می‌تواند خسارتی بین 1000 تا 460 هزار دلار ببیند!

ویدیوهای پورن جعلی

یکی دیگر از شاخه‌های صنعت تولید دیپ‌فیک، ساخت پورن جعلی است. معمولاً پورن جعلی فقط فیلم‌های پورن معمولی با چهره‌های مبادله شده است که به دلایل مختلف ساخته شده‌اند: گاهی اوقات صرفاً محض سرگرمی، اما می‌توانند برای اهداف بسیار شوم‌تری مانند آزار و اذیت آنلاین، آزار و اذیت اینترنتی یا باج‌گیری نیز استفاده شوند. همچنین برخی از سازندگان دیپ‌فیک در حال ساختن آموزش‌هایی در مورد نحوه ساخت این ویدئوهای پورن جعلی هستند؛ همینطور راهنمایی‌هایی نیز در مورد نحوه انتخاب منبع و نحوه تعویض چهره برای ایجاد یک جعلی متقاعدکننده ارائه می‌شود.

پیامدهای احتمالی

استفاده از دیپ‌فیک برای اهداف مجرمانه می‌تواند زندگی ما را به طرق مختلف تحت تاثیر قرار دهد. این یک تهدید جدی برای افراد، سازمان‌ها و جامعه تلقی می‌شود. افزون بر این، هر داستان یا مقاله‌ای که بالقوه می‌تواند دیپ‌فیک باشد انسان را به هر منبع خبری بی‌اعتماد می‌کند (ایجاد حس شک و ناامنی). برخی پیامدهای احتمالی دیپ‌فیک به شرح زیر است:

اطلاعات نادرست

دیپ فیک می‌تواند برای انتشار گسترده اطلاعات نادرست و دستکاری افکار عمومی استفاده شود. می‌توان از آنها برای ایجاد اخبار جعلی، تبلیغات سیاسی یا تبلیغات گمراه کننده استفاده کرد. این می‌تواند عواقب جدی برای اعتماد عمومی داشته باشد.

مثال‌ها: یکی از بی‌ضررترین نمونه‌های استفاده از دیپ‌فیک، داستان گزارش تصویری فوق‌العاده واقعی از زلزله بزرگ Cascadia بود که در فضای اینترنت پخش شد، رویدادی که حتی هرگز رخ نداد!  اما نمونه بسیار خطرناک‌تری نیز وجود داشت – جالب است این ربطی به خود کاربرد دیپ‌فیک ندارد بلکه صرفاً سوءظنی است مبنی بر اینکه دیپ‌فیک سال 2018 در کشور گابن[8] استفاده شده بوده است. آن زمان شایعه‌ای وجود داشت مبنی بر اینکه علی بونگو رئیس جمهور گابن به شدت بیمار شده است. در پاسخ، دولت گابن ویدئویی را منتشر کرد که گمان می‌رفت دیپ‌فیک باشد - که باعث تنش بیشتر شد و به این ظن دامن زد که دولت چیزی را پنهان کرده است. این باور به عنوان یکی از دلایل کودتای یک هفته بعدش ذکر شد.

کلاهبرداری سایبری

دیپ‌فیک‌ها برای انواع کلاهبرداری‌های سایبری استفاده می‌شوند - از دوربین‌های دیجیتالی که در بالا ذکر شد گرفته تا حملات هدفمند به کسب‌وکارها.

مثال‌ها: ویدیوی مصنوعی ایجاد شده از ایلان ماسک که وعده بازدهی بالا از یک طرح سرمایه‌گذاری مشکوک در ارزهای دیجیتال را می‌داد، سال گذشته در فضای مجازی منتشر شد و باعث شد کاربران تمام پول خود را از دست بدهند. در سال 2019، کلاهبرداران یک صدای عمیق جعلی قانع کننده از صدای مدیر عامل شرکت انرژی بریتانیا ایجاد کردند. آنها یکی از مدیران ارشد شرکت را فریب دادند و 220000 یورو (243000 دلار) به یک تامین کننده مجارستانی انتقال دادند. مدیر اجرایی باور داشت دارد دستورات مدیرعامل را دنبال می‌کند، اما در واقع آن یک ضبط جعلی بود.

خدشه‌دار شدن اعتبار و نقض حریم خصوصی

از دیپ فیک می‌توان برای آسیب رساندن به شهرت افراد یا سازمان‌ها استفاده کرد. به عنوان مثال، یک ویدیوی دیپ فیک می‌تواند ایجاد شود تا فردی را در حال انجام فعالیت های غیرقانونی یا غیراخلاقی به تصویر بکشد. این می‌تواند منجر به خدشه‌دار شدن اعتبار و یا آسیب شخصی شود.

مثال: فیلم‌های دیپ‌فیک بازیگر اسکارلت جوهانسون در فضای مجازی منتشر شد که چهره‌اش را در صحنه‌های واضح بر روی بدن بازیگران زن فیلم‌های مستهجن نشان می‌دهد. در واقع، این یک ویدیوی دیپ‌فیک بود که با عکس‌های خصوصی که در اوایل سال 2011 به بیرون درز کرد، ایجاد شد. نماینده‌ی او، آن را "نقض فاحش" حقوق او خواند و گفت که در حال بررسی گزینه‌های قانونی برای حذف آنها است. حادثه فوق با مدیر عامل شرکت انرژی نیز به دلیل فریب کارمند برای انتقال آن وجوه منجر به از دست دادن اعتبار قابل توجهی شد. با انتشار اخبار کلاهبرداری، مشتریان این شرکت در مورد توانایی شرکت ها برای تامین امنیت داده‌ها و اطلاعات مالی خود ابراز نگرانی کردند.

سرقت هویت

پیشتر یک تبلیغ دارک‌وبی اشاره کرده‌ایم که به دنبال ابزاری برای دور زدن احراز هویت بیومتریک است. هر سرویسی دارای سیستم تأیید تشخیص چهره نیست، اما دیپ‌فیک می تواند حتی با خدمات پشتیبانی مشتری معمولی نیز کار خود را راه بیانداز: ابتدا، مجرم سایبری اطلاعات شخصی مالک حساب هدف را به دست می‌آورد: نام، آدرس، شماره تلفن و غیره. سپس با ارائه‌دهنده خدمات پرداخت تماس می‌گیرد و ادعا می‌کند مالک حسابی است که دسترسی به آن را از دست داده است. حساب کاربری آنها یا مشکلات فنی دارد. برای تأیید هویت، ارائه‌دهنده خدمات پرداخت ممکن است درخواست ضبط ویدیو یا صوتی از مالک حساب کند که اقدام خاصی را انجام می‌دهد. با استفاده از داده‌های جمع‌آوری‌شده، کلاهبرداران ممکن است یک ویدیو یا صدای دیپ‌فیک‌شده ایجاد کنند که هویت مالک واقعی حساب را جعل کرده و عمل درخواستی را انجام می‌دهد. در نتیجه، ارائه‌دهنده خدمات پرداخت می‌تواند فریب داده شود تا به آنها اجازه دسترسی به حساب و وجوه مرتبط با آن را بدهد.

چطور ایمن بمانیم؟

واضح‌ترین اما افسرده‌کننده‌ترین توصیه این است که هرگز به چشم یا گوش خود نیز اعتماد نکنید. با این حال هنوز جای امیدواری است. همان فناوری‌هایی که باعث ساخت دیپ‌فیک‌ها می‌شوند می‌توانند برای تشخیص ویدیوهای واقعی و متمایز کردنشان با موارد فیک نیز به کار روند. و چنین ابزارهایی دارند به آرامی در بازار پدید می‌آیند. امیدوار است در آینده نزدیک رسانه‌ها، پیام‌رسان‌ها و شاید حتی مرورگرها بتوانند به چنین فناوری‌هایی مجهز شوند. برای کسب و کارها اما توصیه عملی‌تری داریم:  با کمک راهکار ما به نام Kaspersky Digital Footprint Intelligence می‌توان تا حدی حملات دیپ‌فیک را روی کارمندان یا مشتریان تشخیص داد. از میان کلی مورد دیگر، این راهکار می‌تواند در مورد رخدادهای امنیت جهانی که مشخصاً برای دارایی‌های شما خطر محسوب می‌شوند، اطلاعاتی نزدیک به در لحظه ارائه دهد. همچنین داده‌های حساس را مدام در جوامع زیرزمینی و تالارهای گفتمان غیرقانونی ردیابی می‌کند.

[1]  Deepfake

[2] Darkweb

[3]  Darknet  forums

[4] Surface web

[5] Deep web

[6]  Cryptoscam

[7]بنیانگذار و خالق ارز اتریوم

[8]کشوری است واقع در غرب آفریقای مرکزی، که در کنار خلیج گینه و در سواحل شرقی اقیانوس اطلس قرار گرفته‌است و با کشورهای جمهوری کنگو، کامرون و گینه استوائی همسایه است.

منبع: کسپرسکی آنلاین (ایدکو)

کسپرسکی اسم یکی از بزرگترین شرکتهای امنیتی و سازنده آنتی ویروس است که برخی از کاربران اشتباهاً این شرکت و محصولات آنتی ویروس آن را با عناوینی نظیر کسپرسکای،کاسپرسکی، کسپراسکای، کسپراسکای، و یا کاسپراسکای نیز می‌شناسد. همچنین لازم به ذکر است مدیرعامل این شرکت نیز یوجین کسپرسکی نام دارد.