تبلیغات نئونازی‌ها در تیک‌تاک برای جذب جوانان رو به افزایش است

به گزارش تجارت نیوز،

گزارش ISD نشان می‌دهد که صدها حساب کاربری افراطی در تیک‌تاک به طور آشکار ویدیوهایی را با موضوع تمجید از هیتلر و آلمان نازی منتشر و ایدئولوژی نازی را به عنوان راه‌حلی برای مسائل مدرن مثل مهاجرت به کشورهای غربی پیشنهاد می‌کنند. همچنین، این حساب‌ها از تیراندازان برتری‌طلب سفیدپوست حمایت می‌کنند و فیلم‌های زنده یا بازسازی‌شده کشتارهای آنان را به اشتراک می‌گذارند. نمادهای نازی در پروفایل‌ها و کدهای برتری‌طلبی سفیدپوستان در نام‌های کاربری این حساب‌ها نیز به چشم می‌خورد.

شبکه گسترده حساب‌های نئونازی در تیک‌تاک

نان داکتر، محقق ISD گفت که درحال انجام پژوهش برای پروژه دیگری بود که به یک حساب نئونازی در تیک‌تاک برخورد کرد و تصمیم گرفت به این موضوع بپردازد. او به سرعت توانست شبکه‌ای بسیار گسترده‌تر از حساب‌های کاربری را شناسایی کند که به نظر می‌رسید فعالانه از طریق لایک کردن، به اشتراک‌گذاری و نظر دادن در حساب‌های یکدیگر، به دیده‌شدن خود کمک می‌کنند.

گروه‌هایی که روایت‌های نئونازی را ترویج می‌دهند، معمولاً در پلتفرم‌های حاشیه‌ای‌تر مثل تلگرام هم فعالیت می‌کنند. این پلتفرم‌های حاشیه‌ای به مکانی برای بحث درمورد تکنیک‌های جذب نیرو در تیک‌تاک تبدیل شده است. در این پلتفرم‌ها ویدیوها، تصاویر و فایل‌های صوتی‌ای را به اشتراک می‌گذارند تا اعضای دیگر از آن‌ها در حساب‌های تیک‌تاک خود استفاده کنند. آن‌ها به صراحت به یکدیگر می‌گویند که این محتوا در تیک‌تاک منتشر شود.

یکی از حساب‌های کاربری در یک گروه نئونازی در تلگرام درباره فعالیت‌های خود در تیک‌تاک نوشت: «ما مطالبی را در حساب تیک‌تاک جدید خود با 0 دنبال‌کننده منتشر کردیم، اما بازدیدهای بیشتری نسبت به BitChute یا توییتر داشتیم. این محتوا به افراد بیشتری می‌رسد.» نئونازی دیگری از هزاران دنبال‌کننده خود در تلگرام خواسته تا ویدیوهای تیک‌تاک او را "juice" کنند تا وایرال شود. کانال افراطی تلگرامی‌ای با ۱۲,۰۰۰ دنبال‌کننده از اعضایش خواست با مستند نئونازی «اروپا: آخرین نبرد» ویدیوهای واکنشی در تیک‌تاک منتشر کنند تا این فیلم نیز وایرال شود. محققان ISD ده‌ها ویدیو در تیک‌تاک پیدا کردند که شامل کلیپ‌هایی از این فیلم بودند و برخی از آنها بیش از ۱۰۰,۰۰۰ بازدید داشتند.

تیک‌تاک و چالش‌های مقابله با محتوای افراطی

این اولین باری نیست که نقش الگوریتم تیک‌تاک در ترویج محتوای افراطی فاش شده است. اوایل این ماه، شبکه جهانی افراط‌گرایی و فناوری گزارش داد که الگوریتم تیک‌تاک «ستایش ایدئولوژی‌های فاشیستی کوچک» را ترویج می‌دهد. همان محققان سال گذشته دریافتند که این الگوریتم روایت‌های برتری‌طلبانه یورو-مرکزی را در جنوب شرق آسیا تقویت می‌کند. همچنین تیک‌تاک، رأی‌دهندگان جوان در آلمان را به سمت حزب راست‌گرای آلترناتیو برای آلمان هدایت می‌کند.

جیمی فوازا، سخنگوی تیک‌تاک، گفت: «رفتارهای نفرت‌انگیز سازمان‌ها و ایدئولوژی‌های آنها جایی در تیک‌تاک ندارد و ما بیش از ۹۸ درصد از این طیف محتوا را قبل از گزارش‌شدن حذف می‌کنیم. ما با کارشناسان همکاری می‌کنیم تا از ترندهای جدید جلوتر باشیم و به طور مداوم محافظت‌های خود را در برابر ایدئولوژی‌ها و گروه‌های نفرت‌انگیز تقویت کنیم.»

یکی از دلایلی که پلتفرم‌هایی مثل تیک‌تاک در گذشته نتوانستند به طور مؤثر با محتوای افراطی مقابله کنند، استفاده این گروه‌ها از زبان کد، ایموجی‌ها، مخفف‌ها و اعداد است. به عنوان مثال، بسیاری از حساب‌های نئونازی از ایموجی جعبه آبمیوه برای اشاره به یهودیان استفاده می‌کردند. به گفته محققان: «نازی‌ها در حال بحث در مورد تیک‌تاک به عنوان پلتفرمی مناسب برای گسترش ایدئولوژی خود هستند و از مجموعه‌ اقدامات متقابلی برای فرار از نظارت و تقویت محتوا به عنوان یک شبکه استفاده می‌کنند.»

داکتر اشاره می‌کند که حتی هنگام مشاهده محتوای غیرانگلیسی، شناسایی این الگوها باید ممکن باشد. او گفت: «با وجود مشاهده محتوا به زبان‌های دیگر، شما هنوز هم می‌توانید به سرعت متوجه شوید که منظور چیست. ماهیت کدگذاری شده این محتواها بهانه است، زیرا اگر برای کسی بکه زبان دیگری دارد، مشخص باشد، باید برای تیک‌تاک نیز مشخص است.»

تیک‌تاک گفت که بیش از «۴۰,۰۰۰ متخصص اعتماد و ایمنی» در سراسر جهان دارد که روی نظارت کار می‌کنند. تیم اعتماد و ایمنی این شرکت متخصصانی در زمینه افراط‌گرایی خشونت‌آمیز دارد که به طور مداوم تحولات این جوامع را، از جمله استفاده از زبان کدگذاری شده جدید، رصد می‌کنند.

داکتر بیان کرد: «قطعا این تلاش‌های نئونازی‌ها جهانی است. ما مطالبی به زبان‌های فرانسوی، مجاری و آلمانی پیدا کردیم. برخی از این‌ها در کشورهایی قرار دارند که نازیسم در آنها غیرقانونی است. روسیه یکی از مهم‌ترین این کشورهاست، اما چیزهای شگفت‌انگیزی هم پیدا کردیم؛ مثل گروه‌های نازی مکزیکی یا در سراسر آمریکای لاتین.»

داکتر هیچ مدرکی پیدا نکرد که نشان دهد گروه‌های بین‌المللی به طور فعال با یکدیگر هماهنگ هستند، اما آنها از حضور یکدیگر در تیک‌تاک آگاه بودند: «این حساب‌ها قطعاً با محتوای یکدیگر در ارتباط هستند. شما می‌توانید بدر بخش نظرات ببینید که حساب‌های طرفدار نازی انگلیسی، محتوای طرفدار نازی روسی را تحسین می‌کنند.»

همچنین مشخص شد فراتر از حساب‌ها و گروه‌های فردی که محتوای افراطی را ترویج می‌کنند، برخی از سازمان‌های فاشیستی یا راست‌گرا نیز به طور آشکار در این پلتفرم دست به جذب نیرو می‌زنند. ISD مثال زد که حساب کاربری‌ای که نام کاربری آن توهینی ضدیهودی و بیوگرافی آن خواستار انقلاب مسلحانه و نابودی کامل یهودیان است، دستورالعمل‌های ناقصی برای ساخت دستگاه‌های انفجاری دست‌ساز، اسلحه‌های چاپ سه‌بعدی و «ناپالم با بودجه کم» به اشتراک گذاشت. برای دریافت دستورالعمل‌های کامل، صاحب حساب از دنبال‌کنندگان خود خواسته است که به یک "گروه چت امن" در پلتفرم‌های پیام‌رسان رمزنگاری شده Element و Tox بپیوندند. داکتر می‌گوید که نظرات زیر ویدیوهای صاحب حساب نشان می‌دهد که تعدادی از دنبال‌کنندگان او به این گروه‌های چت پیوسته‌اند.

الگوریتمی که نفرت را ترویج می‌دهد

مؤسسه ISD در ماه ژوئن 50 حساب کاربری را به‌خاطر نقض سیاست‌های تیک‌تاک در مورد سخنان نفرت‌انگیز، تشویق به خشونت، ترویج ایدئولوژی‌های نفرت‌انگیز، تجلیل از افراط‌گرایانِ خشونت‌طلب گزارش داد. در همه موارد، تیک‌تاک هیچ نقضی پیدا نکرد و همه حساب‌ها فعال ماندند. یک ماه بعد، تیک‌تاک ۲۳ حساب را مسدود کرد که نشان می‌دهد این پلتفرم حداقل برخی از محتوای نقض‌کننده را با گذشت زمان حذف می‌کند. قبل از حذف شدن، آن ۲۳ حساب مسدود شده حداقل ۲ میلیون بازدید داشتند. محققان همچنین حساب‌های جدیدی در تیک‌تاک ایجاد کردند تا متوجه شوند چگونه الگوریتم قدرتمند تیک‌تاک محتوای نازی را  به کاربران جدید پیشنهاد می‌کند.

محققان با استفاده از حسابی که در اواخر ماه مه ایجاد شده بود، ۱۰ ویدیو از شبکه کاربران طرفدار نازی را تماشا کردند و گاهی نظرات را خواندند، اما از هرگونه تعامل واقعی مثل نظردادن، لایک یا بوکمارک خودداری کردند. آن‌ها پس از سه ویدیو، وقتی به بخش For You درون اپلیکیشن رفتند، الگوریتم، ویدیو سخنرانی هیتلر را با پوستر جذب نیرو برای یک گروه ملی‌گرای سفیدپوست نشان داد.

در حساب کاربری دیگری که باز هم محققان ISD آن را ایجاد کرده بودند، محتوای افراطی بیشتری مشاهده شد. به طوری که ۷۰ درصد از ویدیوها درمورد نازی‌ها بود. پس از اینکه پژوهشگران چندین حساب طرفدار نازی را دنبال کردند تا به محتوای کانال‌های خصوصی دسترسی پیدا کنند، الگوریتم تیک‌تاک نیز حساب‌های نازی دیگری را برای دنبال کردن پیشنهاد داد. هر ۱۰ حساب اولی که تیک‌تاک به این حساب پیشنهاد داد، نمادهای نازی و کلمات کلیدی در نام‌های کاربری و عکس‌های پروفایل خود داشتند یا در ویدیوهای خود به نازیسم را تبلیغ می‌کردند.

ابی ریچاردز، محقق اطلاعات نادرست که در زمینه تیک‌تاک تخصص دارد، گفت: «این موضوع اصلاً تعجب‌آور نیست. این‌ها چیزهایی هستند که ما بارها و بارها پیدا کرده‌ایم.» ریچاردز در سال ۲۰۲۲ درباره محتواهای برتری‌طلبان سفیدپوست و تسریع‌گرایان نظامی، از جمله پل میلرِ نئونازی در این پلتفرم نوشت. میلر که در حال گذراندن حکم ۴۱ ماهه خود به دلیل اتهامات مربوط به اسلحه بود، در یک ویدیوی تیک‌تاک ظاهر شد. در طول سه ماهی که اودر این پلتفرم بود، بیش از ۵ میلیون بازدید و ۷۰۰,۰۰۰ لایک به دست آورد و سپس حسابش حذف شد.

مارکوس بوش، محققی از دانشگاه هامبورگ که بر تیک‌تاک نظارت می‌کند، گفت که یافته‌های این گزارش «تعجب‌آور نیست» و او امیدی ندارد که تیک‌تاک بتواند کاری برای حل این مشکل انجام دهد. بوش گفت: «من دقیقاً نمی‌دانم مشکل کجاست. تیک‌تاک می‌گوید که حدود ۴۰,۰۰۰ ناظر محتوا دارد و باید درک چنین نقض‌های آشکاری از سیاست‌ها آسان باشد. با این حال، به دلیل حجم زیاد محتوا و توانایی بازیگران برای تطبیق سریع، من متقاعد شده‌ام که مشکل اطلاعات نادرست به طور کامل قابل حل نیست، نه با هوش مصنوعی و نه با ناظران بیشتر.» تیک‌تاک گفت که برنامه‌ای آموزشی با گروه Tech Against Terrorism دارد تا به این پلتفرم در شناسایی تهدیدات آنلاین کمک کند.

آدام هدلی، مدیر اجرایی Tech Against Terrorism، گفت: «با وجود اقدامات پیشگیرانه‌ای که انجام شده، تیک‌تاک همچنان هدفی برای سوءاستفاده گروه‌های افراطی است، زیرا محبوبیت آن افزایش می‌یابد.» او ادامه داد که یافته‌ها نشان می‌دهد که در سیاست‌های فعلی شرکت نیز شکاف‌های قابل توجهی وجود دارد.

اخبار حوزه استارتاپ و فناوری اطلاعات را در صفحه استارتاپ تجارت‌نیوز بخوانید.