حامد اناری 
«تجارت‌نیوز» گزارش می‌دهد:
آیا دیپ فیک می‌تواند خطرناک باشد؟
هوش مصنوعی امروزه دست به کارهایی می‌زند که علاوه بر تحیر و شگفت‌زده کردن مخاطبان خود، آن‌ها را نگران هم می‌کند. دیپ فیک یا جعل تصویر یا صدا توسط هوش مصنوعی ابتدا هیجان‌انگیز و حالا ظاهرا ترسناک است. پرسش اصلی همین است که آیا دیپ فیک می‌تواند خطرناک باشد؟
به گزارش تجارت‌نیوز، دیپ فیک نوعی تکنولوژی هوش مصنوعی است که برای جعل ویدیو و صدا به صورت بسیار واقع‌گرایانه استفاده می‌شود. این تکنولوژی به شما امکان می‌دهد تا چهره یا صدای یک شخص را در یک ویدیو یا فایل صوتی جایگزین کنید، به طوری که به نظر می‌رسد آن شخص واقعاً در حال صحبت یا انجام آن عمل است.
دیپ فیک ها می‌توانند برای اهداف مختلفی از جمله سرگرمی، آموزش، و یا حتی فریب استفاده شوند. برای مثال، می‌توان از دیپ فیک برای ایجاد ویدیوهای طنز یا آموزشی استفاده کرد. همچنین می‌توان از آن برای تغییر چهره یک بازیگر در یک فیلم یا سریال استفاده کرد.
با این حال، دیپ فیک ها می‌توانند برای اهداف مخرب نیز استفاده شوند. برای مثال، می‌توان از آن‌ها برای ایجاد اخبار جعلی یا فریب مردم برای انجام کاری استفاده کرد.
نحوه عملکرد دیپ فیک:
دیپ فیک ها با استفاده از دو نوع شبکه عصبی به نام‌های "شبکه مولد" و "شبکه تمایز" کار می‌کنند. شبکه مولد، تصاویر و صداهای جعلی را تولید می‌کند، در حالی که شبکه تمایز، تصاویر و صداهای جعلی را از تصاویر و صداهای واقعی تشخیص می‌دهد.
شبکه مولد با استفاده از یک مجموعه داده از تصاویر و صداهای واقعی آموزش داده می‌شود. این مجموعه داده شامل تصاویر و صداهای افراد مختلف از زوایای مختلف و با حالات مختلف چهره و لحن صدا است.
شبکه تمایز نیز با استفاده از دو مجموعه داده از تصاویر و صداهای واقعی و جعلی آموزش داده می‌شود. این مجموعه داده به شبکه تمایز کمک می‌کند تا یاد بگیرد که چگونه تصاویر و صداهای جعلی را از تصاویر و صداهای واقعی تشخیص دهد.
دیپ فیک کجا به درد می‌خورد؟
- سرگرمی: دیپ فیک ها می‌توانند برای ایجاد ویدیوهای طنز، موزیک ویدیو و یا جلوه‌های ویژه در فیلم‌ها و سریال‌ها استفاده شوند.
- آموزش: دیپ فیک ها می‌توانند برای ایجاد ویدیوهای آموزشی جذاب و تعاملی استفاده شوند.
- تجارت: دیپ فیک ها می‌توانند برای ایجاد ویدیوهای تبلیغاتی و بازاریابی جذاب و متقاعد کننده استفاده شوند.
- خدمات اجتماعی: دیپ فیک ها می‌توانند برای ایجاد ویدیوهای آموزشی برای افراد دارای معلولیت استفاده شوند.
دیپ فیک، ابزار کلاهبرداران؟
کلاهبرداران حلقه جدانشدنی زنجیره تجارت و جامعه بوده‌اند. انگار همیشه افرادی در طول تاریخ منتظر فرصتی برای به دست آوردن مال و تصاحب آن به روش‌های غیراخلاقانه یا راحت‌طلبانه بوده‌اند.
کلاهبرداری مسئله تازه‌ای نیست. ابزار کلاهبرداران در زمان متغیر بوده است. این هم چیز تازه‌ای نیست. امروزه شاید همگی ما با اس‌ام‌اس‌های شیادانه آشنایی داشته باشیم. راه حل مقابله با این دست از کلاهبرداری‌ها گول نخوردن است.
به نظر می‌رسد علت تغییر ابزار کلاهبرداران در طول زمان همین آگاهی مردم است. قربانیانی که دیگر فریب نمی‌خورند و دیگر قربانی نخواهند بود. بنابراین هر ترفندی برای کلاهبرداری به کسانی آسیب می‌زند که احتیاط کافی را ندارند. البته این تمام ماجرا نیست. در ادامه به چند نمونه از این کلاهبرداری‌ها با استفاده از دیپ فیک اشاره می‌کنیم.
کلاهبرداری ۲۵ میلیون دلاری:
اخیراً یک کلاهبرداری با استفاده از دیپ فیک انجام شد که در آن، یک کارمند با دریافت تماس‌های جعلی از دو مدیر ارشد که می‌شناخت، متقاعد شد تا ۲۵ میلیون دلار از یک مؤسسه‌ی مالی در هنگ‌کنگ به یک سازمان غیرقانونی حواله کند. دو هفته طول کشید تا این کلاهبرداری کشف شود.
بررسی دقیق این اتفاق نشان می‌دهد که چند عامل در این کلاهبرداری نقش داشته‌اند:
عدم وجود "تفکیک وظایف" در سیستم‌های مالی شرکت: این موضوع باعث شده بود که یک نفر به تنهایی بتواند مجوز پرداخت چنین مبلغ هنگفتی را صادر کند.
فریب و اعتماد کارمند: تماس‌های جعلی با صدای مدیران ارشد، باعث شده بود که کارمند بدون تردید به درخواست آن‌ها عمل کند.
کلاهبرداری آدم‌ربایی: یکی از کلاهبرداری‌های رایج که ممکن است با استفاده از دیپ فیک انجام شود، "کلاهبرداری آدم‌ربایی" است. در این نوع کلاهبرداری، مجرمان با استفاده از دیپ فیک، وانمود می‌کنند که یکی از عزیزان شما در خطر است و برای نجات او، باید پول را به حساب آن‌ها واریز کنید. این نوع کلاهبرداری با ایجاد حس اضطراب، قربانی را از فکر کردن منطقی باز می‌دارد و او را به انجام اقدامات عجولانه وادار می‌کند.
راهکار چیست؟
تقویت "تفکیک وظایف" در سیستم‌های مالی: با اجرای این قانون، می‌توان از صدور مجوز پرداخت‌های بزرگ توسط یک نفر جلوگیری کرد.
هوشیاری و دقت: با هوشیاری و دقت می‌توانیم از گول خوردن توسط دیپ فیک ها جلوگیری کنیم. در صورت دریافت تماس‌های مشکوک، قبل از هر اقدامی، با فرد مورد نظر یا مراجع قانونی تماس بگیرید.
معرفی Otherweb:
"Otherweb" یک محصول شبکه‌ی اجتماعی است که در حذف اخبار جعلی عملکرد موفقی دارد. این سرویس با استفاده از الگوریتم‌های پیشرفته، اخبار جعلی را شناسایی و حذف می‌کند.
اخبار حوزه استارتاپ و فناوری اطلاعات را در صفحه استارتاپ تجارت نیوز بخوانید.
نظرات