هوش مصنوعی در خدمت جنگ/ چرا همه باید نگران باشند؟

به گزارش تجارت نیوز،

هوش مصنوعی به‌سرعت در حال تغییر بسیاری از صنایع است، اما شاید هیچ صنعتی به اندازه نظامی با چالش‌های اخلاقی و ژئوپولیتیکی روبه‌رو نباشد. در حالی که سلاح‌های خودمختار مانند موشک‌های گرمایاب و اژدرها طی دهه‌ها وجود داشته‌اند، این سیستم‌ها بر اساس مکانیسم‌های بازخوردی ساده عمل می‌کردند. اکنون، با ورود هوش مصنوعی، سلاح‌ها به سطحی بی‌سابقه از خودمختاری دست یافته‌اند که نگرانی‌های بسیاری برانگیخته است.

طبق گفته کاناکا راجان، استاد نوروبیولوژی در دانشکده پزشکی هاروارد، سلاح‌های خودمختار مبتنی بر هوش مصنوعی تهدیدی جدی برای ثبات جهانی و پیشرفت علمی محسوب می‌شوند. وی به همراه همکارانش در مقاله‌ای که در کنفرانس بین‌المللی یادگیری ماشینی 2024 ارائه شد، این خطرات را بررسی و راه‌حل‌هایی برای کاهش آنها پیشنهاد کرده است.

بخش دوم این گزارش به بررسی وضعیت عمومی و چهره کلی آن خواهد پرداخت و پیشگامان استفاده از هوش مصنوعی را در بین کشورهای جهان بررسی می‌کنیم و با این پرسش روبه‌رو می‌شویم که جایگاه ایران در توسعه فناوری‌های مرتبط با هوش مصنوعی در جهان کجاست.

چرا همه باید نگران باشند؟

سلاح‌های مبتنی بر هوش مصنوعی اغلب شامل پهپادها یا ربات‌هایی هستند که از الگوریتم‌های پیشرفته یادگیری ماشینی استفاده می‌کنند. کاناکا راجان هشدار می‌دهد که این سیستم‌ها نه تنها در حال توسعه‌اند بلکه در حال حاضر نیز در میدان‌های جنگ مورد استفاده قرار گرفته‌اند. او پیش‌بینی می‌کند که این سلاح‌ها روز‌به‌روز پیشرفته‌تر، در دسترس‌تر و گسترده‌تر خواهند شد. توسعه یا گسترش خطرات متعددی در پی خواهد داشت که برخی از آنها به شرح زیر است:

کاهش آستانه آغاز جنگ

یکی از بازدارنده‌های اصلی جنگ، هزینه انسانی آن است، یعنی جان سربازان. سلاح‌های مبتنی بر هوش مصنوعی که بدون نیاز به حضور انسان در میدان جنگ عمل می‌کنند، این بازدارندگی را از بین می‌برند. راجان توضیح می‌دهد: «وقتی تعداد کمتری از سربازان در جنگ کشته می‌شوند، ارتباط بین جنگ و هزینه انسانی تضعیف می‌شود.»

این موضوع تصمیم‌گیری برای آغاز جنگ را برای دولت‌ها آسان‌تر کرده و در نتیجه ممکن است منجر به افزایش درگیری‌ها و تخریب گسترده‌تر شود.

سانسور و سوءاستفاده از پژوهش‌ها

تاریخ نشان داده است که چگونه حوزه‌های علمی مانند فیزیک هسته‌ای و فناوری موشکی در دوران جنگ سرد به‌شدت محدود شدند. پژوهشگران با ممنوعیت سفر، سانسور انتشارات و نیاز به مجوزهای امنیتی برای انجام تحقیقات اولیه مواجه شدند. 

مثلاً با تبدیل شدن هوش مصنوعی به بخشی اساسی از برنامه‌ریزی دفاع ملی، پژوهش‌های غیرنظامی ممکن است دچار محدودیت‌های مشابهی شوند و نوآوری در حوزه‌های سلامت، آموزش و سایر کاربردهای مدنی را متوقف کنند.

تضعیف مسئولیت انسانی

سیستم‌های هوش مصنوعی در جنگ‌ها اغلب شبیه «جعبه سیاه» عمل می‌کنند، به این معنا که فرایند تصمیم‌گیری آنها برای کاربران‌شان شفاف نیست. در حالی که ارتش‌ها ممکن است ادعا کنند که انسان‌ها در فرایند تصمیم‌گیری دخیل هستند، این دخالت ممکن است به تأیید صرف تصمیم‌گیری‌های ماشین محدود شود، بدون اینکه کاربران بتوانند این فرایند را درک یا بررسی کنند.

این عدم شفافیت می‌تواند به اشتباهات فاجعه‌باری منجر شود که هیچ‌کس مسئولیت آن را نمی‌پذیرد.

عدم شفاف‌سازی ارتش‌ها و سازمان‌های نظامی می‌تواند در آینده چالش‌های جدی به‌ وجود بیاورد!

راجان توضیح می‌دهد که سلاح‌های مبتنی بر هوش مصنوعی پدیده‌ای نسبتاً جدید و در حال تغییر هستند. از سال 2023، چندین کشور به‌ طور علنی استفاده از هوش مصنوعی در کاربردهای نظامی را پذیرفته‌اند. با این حال، از آنجا که سیستم‌های جداگانه ممکن است به‌تنهایی تهدیدآمیز به نظر نرسند، پیامدهای گسترده‌تر اغلب نادیده گرفته می‌شوند.

یکی دیگر از عوامل پیچیده‌کننده، شفاف نبودن پروژه‌های نظامی مرتبط با هوش مصنوعی است. شرکت‌های فناوری معمولاً میزان خودمختاری سیستم‌های خود را آشکار نمی‌کنند و این امر باعث می‌شود محققان و سیاست‌گذاران نتوانند پیامدهای اخلاقی آن را به‌ طور کامل ارزیابی کنند.

ما به نهادهای نظارتی و متمرکز بین‌المللی نیاز داریم

تیم راجان تأکید می‌کند که سلاح‌های هوش مصنوعی یک پدیده یکپارچه نیستند و باید بر اساس قابلیت‌هایشان بررسی شوند. او می‌گوید: «ما به نهادهای نظارتی متمرکز و همکاری بین‌المللی برای تعیین مرزهای واضح نیاز داریم.»

با وجود چالش‌ها، امید به آینده‌ای وجود دارد که در آن تحقیقات هوش مصنوعی در کنار کاهش سوءاستفاده‌ها پیشرفت کند. از طریق برقراری گفت‌وگو بین دانشمندان، سیاست‌گذاران و عموم مردم، می‌توانیم این لحظه حساس در تاریخ فناوری را مسئولانه مدیریت کنیم. 

استفاده از هوش مصنوعی در تمامی صنایع حالا ضرورت دارد. با عبور از این بحث، مرور کوتاهی بر وضعیت عمومی کشورهای جهان در این حوزه خواهیم داشت. 

ایالات متحده آمریکا و چین/ دوقطبی جدید!

ایالات متحده در توسعه و کاربرد هوش مصنوعی نظامی در صدر جهان قرار دارد. وزارت دفاع آمریکا (پنتاگون) و سازمان‌های وابسته، برنامه‌های گسترده‌ای برای ادغام فناوری هوش مصنوعی در تمام جنبه‌های دفاعی و نظامی اجرا می‌کنند. به نظر می‌رسد با بازگشت دونالد ترامپ به کاخ سفید و ارتباط نزدیک او با ایلان ماسک، دولت آمریکا حرکت دوباره‌ای برای برنامه‌ریزی و جهت‌دهی به فعالیت‌های تحقیقاتی و غیره آغاز کند. فارغ از موضع‌گیری‌ سیاسی، عمده دغدغه ترامپ مهار چین است. 

چین سرمایه‌گذاری عظیمی در هوش مصنوعی نظامی انجام داده و استراتژی «جنگ هوشمند» را برای ادغام فناوری‌های جدید با تاکتیک‌های نظامی خود دنبال می‌کند. این کشور سعی دارد تا سال 2030 به قدرت برتر در زمینه هوش مصنوعی تبدیل شود. تقابل آمریکا و چین شاید در سال‌های آینده پیچیده‌تر از آن چیزی باشد که امروزه مشاهده می‌کنیم و نبرد سیاسی و اقتصادی، به جنگی تمام‌عیار تبدیل شود. وزارت دفاع آمریکا در 2021 نشان می‌دهد که چین در حال تشکیل ساختار و تعریف جنگ هوشمند است. جنگی که با استفاده از هوش مصنوعی هدایت و کنترل می‌شود و با جنگ امروزی تفاوت‌های ویژه دارد. 

هوش مصنوعی در ارتش چین برای تحلیل داده‌های ماهواره‌ای، شناسایی اهداف و پیش‌بینی تهدیدات استفاده می‌شود. این فناوری‌ها به‌خصوص در دریای جنوبی چین برای نظارت بر فعالیت‌های نظامی دیگر کشورها به‌ کار گرفته شده‌اند. چینی‌ها ظاهراً به دنبال تجهیز مکانیکی تجهیزات خود با هوش مصنوعی هستند. چین با آمریکا در تمام سطوح رقابت می‌کند و این رقابت را حتی به فضا هم کشانده است. 

روسیه

روسیه یکی از رقبای اصلی آمریکا و چین در توسعه هوش مصنوعی نظامی است. این کشور روی سامانه‌های تسلیحاتی مستقل و ارتقای فناوری‌های دفاعی تمرکز کرد و تانک‌های خودران و سامانه‌های موشکی پیشرفته مجهز به هوش مصنوعی توسعه داده است.

هوش مصنوعی در ارتش روسیه برای پردازش سریع داده‌های میدانی و تصمیم‌گیری تاکتیکی به‌کار می‌رود.

البته این‌طور نیست که فقط روسیه چنین استفاده و استخراجی از هوش مصنوعی و ابزارآلات مرتبط با آن داشته باشد. 

رژیم صهیونیستی

گفته می‌شود در تکنولوژی گنبد آهنین و سامانه‌های دفاع موشکی استفاده‌هایی از هوش مصنوعی شده است. در نبود شفاف‌سازی، یکی از ابتدایی‌ترین موضوعات استفاده از هوش مصنوعی که بیشتر کاربرد غیرنظامی دارد، در مسائل محاسباتی است. البته نزدیکی سیاسی این رژیم با ایالات متحده آمریکا هم می‌تواند نقش اساسی در انتقال دانش داشته باشد.  

ایران

ایران از نظر تحقیقاتی جزو کشورهای برتر جهان به حساب می‌آید. آنچه کشور در آن ضعف دارد، قسمت پرخرج ماجراست. جدا از بحثی که در مورد توسعه هوش مصنوعی در جنگ‌افزارها داریم، سیاست‌گذاری درباره توسعه هوش مصنوعی و سرمایه‌گذاری در این حوزه بین نهادهای مختلفی پخش شده. عملکرد سازمان ملی هوش مصنوعی خالی از ضعف نیست. میزان سرمایه‌‌گذاری دولتی در این مورد بسیار پایین‌تر از کشورهای حاشیه خلیج فارس است. 

به هر حال، ایران در صنعت نظامی جایگاه ویژه‌ای دارد. پهپادهای ایرانی به جهانیان شناخته شده و این موضوع محل بحث نیست. ایران با بهره‌گیری از الگوریتم‌های یادگیری ماشین، پهپادهایی با قابلیت‌های پیشرفته شناسایی و نظارت توسعه داده است که می‌توانند در عملیات‌های مختلف مورد استفاده قرار گیرند.

همچنین، هوش مصنوعی در بهبود سیستم‌های دفاع سایبری ایران نقش مهمی ایفا می‌کند. به‌ طور کلی هوش مصنوعی ابزاری است که در حوزه‌های مختلفی کاربرد دارد. شایان ذکر است بسیاری از کشورها اطلاعات دقیقی درباره پیشرفت‌های خود در این حوزه منتشر نمی‌کنند. با این حال، کشورهای فوق بر اساس منابع معتبر، از جمله پیشگامان در به‌کارگیری هوش مصنوعی در صنایع نظامی محسوب می‌شوند.

این مقاله بر ضرورت پرداختن به چالش‌های اخلاقی، عملی و ژئوپولیتیکی ناشی از سلاح‌های خودمختار مبتنی بر هوش مصنوعی تأکید می‌کند. همان‌طور که راجان و همکارانش اشاره می‌کنند، تصمیماتی که امروز می‌گیریم نه‌تنها آینده جنگ‌ها، بلکه مسیر پیشرفت علمی را نیز شکل خواهند داد.