به گزارش تجارت‌نیوز، شرکت‌های فناوری از جمله «اسنپ‌چت»، «تیک تاک» و «هوش مصنوعی استبیلیتی» با امضای بیانیه‌ای مشترک متعهد شدند که برای مقابله با انتشار تصاویر آزار جنسی کودکان توسط پایشگر هوش مصنوعی، با یکدیگر همکاری کنند.
همچنین دولت‌هایی مانند بریتانیا، آمریکا و استرالیا نیز این بیانیه را امضا کرده‌ند. بیانیه مورد اشاره، پیش از نشست جهانی «ایمنی هوش مصنوعی» که دوشنبه این هفته توسط بریتانیا برگزار شد، به امضا این شرکت‌ها و کشورها رسید.
در متن این بیانیه آمده است: «ما مصمم هستیم که نوآوری‌های فنی پیرامون مقابله با انتشار محتوای آزار جنسی کودکان را در عصر هوش مصنوعی ایجاد و حفظ کنیم. ما تصمیم داریم با همکاری یکدیگر به این اطمینان برسیم که از هوش مصنوعی برای مقابله با تهدیدهای سوءاستفاده جنسی از کودکان بهره بگیریم و این همکاری را تا رسیدن به نتیحه ادامه می‌دهیم.»
تولید 3هزار تصویر آزار جنسی کودکان توسط هوش مصنوعی
بریتانیا در گزارشی با استناد به داده‌های بنیاد دیده‌بان اینترنت، نشان داد که در یک «دارک وب»، کاربران حدود سه هزار تصویر سوءاستفاده جنسی از کودکان را به اشتراک گذاشته‌اند که این تصاویر توسط هوش مصنوعی تولید شده بود.
اکنون جلوگیری از انتشار محتوای آزار جنسی کودکان در شبکه‌های اجتماعی در بسیاری از کشورها به یک مسئله جدی تبدیل شده است و در نتیجه، سران کشورها هشدارهایی جدی را به برخی از پلتفرم‌های شبکه اجتماعی ارسال کرده‌اند
استفاده از ابزار تحریم برای مقابله با محتوای آزار جنسی کودکان
برای مثال حدود دو هفته پیش خبری مبنی بر هشدار رسمی کشور هند به بعضی پلتفرم‌ها مانند ایکس، تلگرام و یوتیوب منتشر شده بود که نشان می‌داد اگر این پلتفرم‌ها در جلوگیری از انتشار محتوای نامناسب برای کودکان همکاری نکنند در آن کشور با تحریم مواجه می‌شوند.
همچنین، دادستان ایالت یوتای آمریکا بدلیل تاثیرات نامطلوب از تیک تاک شکایت کرد و گفت: آنچه که کودکان و والدین آنها درباره این شبکه اجتماعی نمی‌دانند این است که تیک تاک در مورد ایمنی برنامه خود به کاربران دروغ می‌گوید و از آنها برای بررسی و تماشای برنامه به طور اجباری سوءاستفاده می‌کند؛ بدون توجه به اثرات وحشتناکی که بر سلامت روان‌شان می‌گذارد.»
شان ریس دادستان کل یوتا، در جریان پرونده‌ای گفت: «تیک تاک به تاثیرات وحشتناکی که بر سلامت روان، رشد جسمی، خانواده و زندگی اجتماعی کاربران می‌گذارد بی‌توجه است. ویدیوهای تیک تاک از الگوریتم‌های بسیار قدرتمندی استفاده می‌کنند و نتیجه استفاده از این تاکتیک‌ها این است که مصرف‌کنندگان درگیر آن می‌شوند.»
تیک تاک در آن زمان در واکنش به این شکایت اعلام کرد که اقدامات حفاظتی را برای قشر جوان پیش‌بینی کرده است؛ از جمله محدودیت زمانی خودکار برای کاربران زیر 18 سال و همچنین راه‌هایی برای کنترل بیشتر حساب کاربران نوجوان توسط والدین.
اما بزرگترین چالش قانونی که تا کنون برای پلتفرم‌های جهانی وضع شده توسط اتحادیه اروپا بوده که به قانون خدمات دیجیتال اروپا معروف شد.
قانون خدمات دیجیتال اروپا چیست؟
هدف کلی این قانون ایجاد محیط‌های آنلاین امن برای کاربران اروپایی است. طبق قوانین جدید، پلتفرم‌های آنلاین باید راه‌هایی را برای جلوگیری و حذف پست‌های حاوی کالاها، خدمات یا محتوای غیرقانونی اجرا کنند و در عین حال ابزاری را برای گزارش این نوع محتواها در اختیار کاربران قرار دهند.
این قانون علاوه بر موارد بالا، تبلیغات هدفمند براساس گرایش جنسی، مذهب، قومیت یا عقاید سیاسی افراد را ممنوع و محدودیت‌هایی برای نشان دادن تبلیغات به کودکان اعمال می‌کند. اتحادیه اروپا همچنین پلتفرم‌های آنلاین را ملزم کرده است که شفافیت بیشتری در مورد نحوه عملکرد الگوریتم‌های خود ارائه کنند.
چه شرکت‌هایی ملزم به رعایت قوانین هستند؟
این قانون؛ پلتفرم‌ها یا موتورهای جستجوی بسیار بزرگ که ماهانه بیش از 45میلیون کاربر را داشته باشند، در لیست شرکت‌های مشمول آورده است.
در حال حاضر 19 شرکت علی بابا، فروشگاه آمازون، اپ‌استور اپل، بوکینگ، فیس‌بوک، گوگل‌پلی، گوگل‌مپ، گوگل‌شاپ، اینستاگرام، لینکدین، پینترست، اسنپ‌چت، تیک‌تاک، توییتر، ویکی‌پدیا، یوتیوب، زالاندو، بینگ و موتور جستجوی گوگل در این لیست قرار دارند.
اگر این پلتفرم‌ها قوانین را اجرا نکنند، چه اتفاقی می‌افتد؟
پلتفرم‌های آنلاینی که قانون خدمات دیجیتال اروپا را رعایت نکنند تا 6درصد از گردش مالی جهانی خود را جریمه می‌شوند.
به گفته کمیسیون اتحادیه اروپا، هماهنگ‌کننده خدمات دیجیتال و کمیسیون این اختیار را خواهند داشت در صورتی که یک پلتفرم به‌طور مستمر از قوانین پیروی نکند برای جلوگیری از آسیب جدی، آن را در ابتدا تعلیق و سپس جریمه نقدی کنند.
واکنش تیک تاک به قانون خدمات دیجیتال اتحادیه اروپا
تیک‌تاک اعلام کرد که الگوریتم خود را برای کاربران اتحادیه اروپا اختیاری می‌کند. وقتی این الگوریتم غیرفعال شود، کاربران می‌توانند به جای ویدیوهای مبتنی بر علایق شخصی، ویدیوهایی را هم از مکان زندگی خود و هم از سراسر جهان در فیدهای «For You» و «Live» براساس زمان ارسال محتوا مشاهده کنند.
همچنین تیک‌تاک در سیاست‌های تبلیغاتی خود نیز تغییراتی ایجاد کرده است و برای کاربران اروپایی 13 تا 17 ساله، تبلیغات شخصی‌سازی شده براساس نوع فعالیت آنها را متوقف می‌کند.
