مایکروسافت علیه سوءاستفاده از سرویس هوش مصنوعی خود شکایت کرد

به گزارش تجارت نیوز،

مایکروسافت از گروهی از افراد به دلیل توسعه و استفاده از ابزارهایی برای دور زدن مکانیزم‌های امنیتی محصولات هوش مصنوعی مبتنی بر ابر این شرکت، شکایت کرده است.

این شکایت که در دسامبر ۲۰۲۴ در دادگاه منطقه‌ای شرقی ویرجینیا در ایالات متحده ثبت شده، ادعا می‌کند که متهمان از اعتبارات سرقت‌شده مشتریان و نرم‌افزارهای سفارشی برای دسترسی غیرمجاز به سرویس Azure OpenAI استفاده کرده‌اند.

این سرویس که به‌طور کامل مدیریت می‌شود، از فناوری‌های شرکت OpenAI، از جمله ChatGPT، بهره می‌برد. مایکروسافت این گروه را به نقض قانون کلاهبرداری و سوءاستفاده کامپیوتری، قانون حق تکثیر هزاره دیجیتال و قوانین فدرال مرتبط با فعالیت‌های سازمان‌یافته مجرمانه متهم کرده است.

بر اساس این شکایت، مایکروسافت در ژوئیه ۲۰۲۴ متوجه شد که از کلیدهای API سرقت‌شده مشتریان برای تولید محتوایی که با سیاست‌های قابل قبول استفاده از سرویس Azure OpenAI مغایرت دارد، استفاده شده است.

سرقت کلیدهای API و ایجاد طرح «هک به‌عنوان سرویس»

تحقیقات مایکروسافت نشان داد که کلیدهای API از مشتریان پرداخت‌کننده سرقت شده‌اند و به متهمان امکان انجام فعالیت‌های غیرقانونی را داده‌اند.

متهمان از این کلیدها برای ایجاد یک طرح «هک به‌عنوان سرویس» استفاده کرده‌اند و ابزاری به نام de3u توسعه داده‌اند که به کاربران امکان تولید تصاویر با استفاده از مدل DALL-E شرکت OpenAI را بدون نیاز به نوشتن کد می‌دهد.

این ابزار همچنین سعی در دور زدن مکانیزم‌های فیلتر محتوای مایکروسافت داشته است که برای اصلاح یا مسدود کردن درخواست‌های حاوی کلمات ممنوعه طراحی شده‌اند. یک مخزن GitHub حاوی کد پروژه de3u که روی پلتفرم GitHub متعلق به مایکروسافت میزبانی می‌شد، در زمان گزارش‌دهی دیگر در دسترس نبود.

توقیف وب‌سایت و اقدامات امنیتی مایکروسافت  

مایکروسافت در یک پست وبلاگی اعلام کرد که دادگاه به این شرکت اجازه داده است تا یک وب‌سایت کلیدی در عملیات متهمان را توقیف کند. این اقدام به مایکروسافت امکان جمع‌آوری شواهد، درک نحوه درآمدزایی از خدمات ادعایی و اختلال در زیرساخت‌های فنی مرتبط با این گروه را می‌دهد.

همچنین، مایکروسافت اقدامات متقابلی را اجرا کرده و اقدامات امنیتی بیشتری را به سرویس Azure OpenAI اضافه کرده است تا فعالیت‌های مشاهده‌شده را برطرف کند.

این شکایت چالش‌های شرکت‌های فناوری در محافظت از خدمات هوش مصنوعی خود در برابر سوءاستفاده را برجسته می‌کند و نشان‌دهنده تعهد مایکروسافت به محافظت از پلتفرم‌ها و مشتریان خود در برابر فعالیت‌های مخرب است.

نتیجه این پرونده می‌تواند به عنوان یک سابقه برای نحوه برخورد شرکت‌ها با سوءاستفاده از فناوری‌های هوش مصنوعی در آینده عمل کند.