به گزارش تجارت نیوز، مایکروسافت اقدامات قانونی علیه گروهی از مجرمان سایبری انجام داده است که به طور غیرقانونی از کلیدهای API سرویس Azure OpenAI این شرکت دزدیده و از آنها برای ساخت دیپ‌فیک‌های صریح ستارگان استفاده می‌کردند. این گروه که با نام «آژور آبیوس انترپرایز» (Azure Abuse Enterprise) شناخته می‌شود، بخشی از یک شبکه جهانی مجرمان سایبری است که توسط مایکروسافت تحت ردیابی Storm-2139 قرار گرفته است.
افراد شناسایی‌شده در این پرونده شامل آریان یادگرنیا (مستعار «Fiz») از ایران، آلن کریسیاک (مستعار «Drago») از بریتانیا، ریکی یوئن از هنگ کنگ، و فاط فونگ تن (مستعار «Asakuri») از ویتنام هستند. این افراد متهم به توسعه و توزیع ابزارهای مخربی هستند که محدودیت‌های هوش مصنوعی تولیدی را دور زده و محتوای مضر و غیرقانونی تولید می‌کنند.
شکایت و فعالیت‌های مجرمانه
واحد جرائم دیجیتال مایکروسافت (DCU) علیه ۱۰ فرد ناشناس که با عنوان «جان دوز» شناخته می‌شدند، شکایتی تنظیم کرد که به اتهام نقض قوانین ایالات متحده و سیاست استفاده مجاز خدمات هوش مصنوعی تولیدی مایکروسافت متهم شده‌اند. این شکایت اکنون با اضافه کردن نام و هویت متهمان به‌روزرسانی شده است.
این گروه به طور غیرقانونی از کلیدهای API مربوط به مشتریان مختلف مایکروسافت استفاده کرده‌اند تا به سرویس Azure OpenAI دسترسی پیدا کنند. سپس قابلیت‌های این سرویس را تغییر داده و دیپ‌فیک‌های صریح، از جمله تصاویر حساس غیرمجاز از ستارگان و محتوای صریح جنسی، تولید کرده‌اند.
این مجرمان سایبری به عنوان بخشی از یک شبکه جهانی عمل می‌کردند که نقش‌های مختلفی از جمله سازندگان، ارائه‌دهندگان و کاربران را بر عهده داشتند. متهمان شناسایی‌شده به طور غیرقانونی اطلاعات مشتریان را از منابع عمومی، احتمالاً از نشت داده‌ها، جمع‌آوری و از این اطلاعات برای دسترسی غیرمجاز به حساب‌هایی با خدمات هوش مصنوعی تولیدی استفاده کرده‌اند.
سپس دسترسی به این خدمات را به سایر فعالان مخرب فروخته و دستورالعمل‌های دقیقی برای تولید محتوای مضر ارائه داده‌اند. این عملیات منجر به توزیع گسترده محتوای غیرقانونی و آسیب‌زا شد و قابلیت‌های هوش مصنوعی تولیدی را برای مقاصد مجرمانه بهره‌برداری کرد.
پاسخ مایکروسافت و اقدامات قانونی
در راستای تلاش برای مقابله با سوءاستفاده از خدمات خود، واحد جرائم دیجیتال مایکروسافت اقدامات قانونی حتمی انجام داد. شرکت شکایتی ارائه داد و موفق به دریافت دستور موقت و ممنوعیت اولیه از دادگاه شد که به آن اجازه داد وب‌سایتی را که برای عملیات مجرمانه حیاتی بود ضبط کند. این اقدام توانست عملیات این گروه را مختل کند و گامی مهم در نبرد مداوم مایکروسافت علیه جرایم سایبری به شمار آید.
استیون ماسادا، مشاور کل حقوقی کمکی در واحد جرائم دیجیتال مایکروسافت، بر شدت اعمال این گروه تاکید کرد. او اظهار کرد متهمان نه‌تنها به خدمات هوش مصنوعی تولیدی دسترسی پیدا کرده و آنها را تغییر دادند، بلکه دستورالعمل‌هایی نیز برای سایر فعالان مخرب ارائه دادند تا محتوای مضر ایجاد کنند. این شامل دیپ‌فیک‌های صریح و سایر مواد غیرقانونی بود که پیامدهای جدی برای قربانیان و جامعه گسترده‌تر دارد.
پیامدهای گسترده سوءاستفاده از هوش مصنوعی
این پرونده نشان‌دهنده چالش‌های روزافزون مرتبط با سوءاستفاده از فناوری‌های هوش مصنوعی تولیدی است. در حالی که هوش مصنوعی پتانسیل حل مسائل پیچیده و ایجاد نوآوری را دارد، می‌تواند برای مقاصد مضر مانند ساخت دیپ‌فیک‌ها و سایر اشکال سوءاستفاده دیجیتال نیز به کار رود. شکایت مایکروسافت بر اهمیت اجرای اقدامات امنیتی قوی و سیاست‌های سخت‌گیرانه برای جلوگیری از سوءاستفاده از خدمات هوش مصنوعی تاکید می‌کند.
این حادثه همچنین سؤالاتی درباره مسئولیت شرکت‌های فناوری در محافظت از پلتفرم‌های خود در برابر سوءاستفاده مطرح می‌کند. با انجام اقدامات قانونی علیه «آژور آبیوس انترپرایز»، مایکروسافت پیام روشنی می‌فرستد که سوءاستفاده از فناوری‌های خود را تحمل نخواهد کرد. با این حال، این پرونده نیز بر نیاز به بررسی مداوم و همکاری بین شرکت‌های فناوری، اجرای قانون و سیاست‌گذاران برای مقابله با تهدیدات در حال تکامل مجرمان سایبری تاکید می‌کند.
شناسایی و اقدامات قانونی مایکروسافت علیه «آژور آبیوس انترپرایز» گامی مهم در مبارزه با جرائم سایبری و سوءاستفاده از هوش مصنوعی تولیدی است. با نام بردن افراد پشت ساخت دیپ‌فیک‌های صریح و اختلال در عملیات آنها، مایکروسافت ایستادگی خود را در برابر سوءاستفاده از فناوری‌هایش نشان می‌دهد.
این پرونده یادآور دوگانگی هوش مصنوعی است که می‌تواند ابزاری قدرتمند برای نوآوری و در عین حال سلاحی برای آسیب باشد. در حالی که صنعت فناوری با این چالش‌ها دست‌وپنجه نرم می‌کند، نیاز به اقدامات امنیتی قوی، دستورالعمل‌های اخلاقی و تلاش‌های همکارانه برای مقابله با جرائم سایبری هرگز این‌قدر حیاتی نبوده است.
