به گزارش تجارت نیوز، فارین پالسی با انتشار یادداشتی نوشت: بحث در آمریکا درباره چگونگی مواجهه با نقش چین در توسعه و حکمرانی هوش مصنوعی پیشرفته، میان دو دیدگاه افراطی گرفتار شده است.
یک جریان خواهان انعقاد توافقهای بینالمللی گسترده است؛ آن هم در شرایطی که دو کشور هنوز حتی درباره جدیترین خطرات هوش مصنوعی و نحوه مدیریت آنها به توافق نرسیدهاند. در مقابل، گروهی دیگر اساسا نسبت به گفتوگو با چین بدبین هستند و معتقدند تنها زمانی امکان پیشرفت وجود دارد که پکن تحت فشار شدید قرار گیرد.
اما یک «توافق بزرگ» میان آمریکا و چین شاید بیش از حد بلندپروازانه باشد. از سوی دیگر، تمرکز صرف بر موضوعاتی که امروز امکان توافق درباره آنها وجود دارد نیز میتواند دو کشور را در چارچوبی محدود گرفتار کند که با سرعت تغییرات فناوری بهزودی ناکارآمد خواهد شد.
بیعملی نیز گزینه خطرناکی است؛ زیرا فارغ از اینکه یک مدل هوش مصنوعی در سانفرانسیسکو توسعه یافته باشد یا هانگژو، اگر بتواند به تروریستها در ساخت عوامل بیماریزای مرگبار یا نفوذ به زیرساختهای حیاتی مالی کمک کند، تهدیدی علیه همه کشورها خواهد بود.
این خطرها دیگر صرفا فرضیه نیستند. سامانههای هوش مصنوعی در حوزههای سایبری و زیستی، تواناییهایی از خود نشان دادهاند که در برخی وظایف پیچیده با متخصصان انسانی برابری میکند یا حتی از آنها فراتر میرود.
حادثه اخیر میان OpenAI و Hugging Face که در آن عاملهای هوش مصنوعی با همکاری یکدیگر توانستند از محیط آزمایشی خارج شده و به زیرساختهای داخلی سازمانهای دیگر دسترسی پیدا کنند، نشان داد که هوش مصنوعی میتواند در شرایطی خارج از کنترل مستقیم انسان عمل کند و ناخواسته بر طرفهای ثالث تاثیر بگذارد.
ماموریت تازه واشینگتن و پکن
در این میان تنها مساله زمان است که چنین تهدیدهایی از مرزها عبور کنند. پکن قطعا در صورتی که یکی از شرکتهای چینی قربانی عملکرد خارج از کنترل یک مدل آمریکایی شود، خواهان توضیح از واشنگتن خواهد بود؛ همانگونه که آمریکا نیز چنین انتظاری از چین خواهد داشت.
شیائو چیان، استاد دانشگاه تسینگهوا، اخیرا در نشریه فارن پالیسی نوشت: «گفتوگوی مستمر یک ضرورت راهبردی است.» این دیدگاه درست است.
مسیر میانهای وجود دارد: آمریکا و چین در نشستهای پیشرو درباره خطرات هوش مصنوعی، به جای تلاش برای دستیابی به توافقی جامع، باید مجموعهای از اقدامات محدودتر را دنبال کنند؛ اقداماتی با هدف جلوگیری از خطرات شدید، مدیریت بحرانها و سرمایهگذاری در ابزارهای راستیآزمایی.
هر توافق کوچک میتواند به ایجاد درک متقابل و اعتماد لازم برای توافقهای بزرگتر کمک کند؛ بدون آنکه دو کشور مجبور باشند درباره همه مسائل دیگر به اجماع برسند.
همکاری فنی بدون افشای توانمندیهای حساس
یکی از بزرگترین موانع پیش روی مذاکرهکنندگان این است که هیچیک از دو کشور هنوز ابزارهایی کاملا قابل اعتنا برای ارزیابی ایمنی مدلهای هوش مصنوعی یا مقابله با خطرات شدید آنها در اختیار ندارد.
این مشکل برای هر دو کشور وجود دارد، اما در چین شدیدتر است؛ زیرا اگرچه نظام ارزیابی ایمنی هوش مصنوعی این کشور در حال پیشرفت است، هنوز از استانداردهای غربی فاصله دارد.
با توجه به ماهیت فرامرزی خطرات هوش مصنوعی، ایجاد زیرساختهای ایمنی قدرتمند به نفع هر دو کشور است؛ اما دولتها تاکنون از همکاری فنی گسترده خودداری کردهاند، زیرا نگران افشای اطلاعاتی هستند که ممکن است توان رقیب را افزایش دهد.
با این حال، امکان برگزاری تبادلهای فنی محدود و دقیق وجود دارد؛ گفتوگوهایی که در آنها دو طرف بتوانند درباره بهترین شیوهها صحبت کنند، بدون آنکه جزئیات داخلی مدلها، آسیبپذیریها یا قابلیتهای پیشرفته خود را آشکار کنند.
آمریکا و چین میتوانند درباره موضوعاتی مانند توسعه روشهای ارزیابی مدلها، بررسی رفتارهای خطرناک، استفاده از خود هوش مصنوعی برای شناسایی تهدیدها و نظارت بر مدلها برای جلوگیری از خروج آنها از محیطهای آزمایشی گفتوگو کنند.
دو کشور همچنین میتوانند درباره اصول کلی حفاظت از سامانهها، تشخیص فعالیتهای مخرب، محدود کردن استفادههای خطرناک و مدیریت ریسک پس از استقرار مدلها تبادل نظر کنند؛ بدون آنکه روشهای دور زدن محدودیتهای امنیتی یا جزئیات محرمانه ساخت مدلها را به اشتراک بگذارند.
ضرورت ایجاد کانالهای مدیریت بحران
حتی اگر آمریکا و چین درک مشترکی از خطرات هوش مصنوعی پیدا کنند، باز هم بحرانهای جدی ممکن است رخ دهد.
چین دارای یکی از گستردهترین چارچوبهای مقرراتی هوش مصنوعی در جهان است، اما هنوز قواعد مشخصی برای مدیریت خطرات فاجعهبار ندارد.
در آمریکا نیز شرکتهای بزرگ هوش مصنوعی تحت قوانین ایالتی مانند قانون SB 53 کالیفرنیا قرار گرفتهاند که آنها را ملزم به انتشار برخی رویههای ایمنی، گزارش رخدادهای مهم و حمایت از افشاگران میکند؛ اما چنین مقرراتی هنوز در سطح فدرال تصویب نشده است.
بنابراین، آمریکا و چین باید درباره نحوه اشتراک اطلاعات کلیدی و ارتباط موثر در زمان بحران گفتوگو کنند.
هر دو کشور میتوانند سامانههای داخلی گزارشدهی ایجاد کنند تا مواردی را ثبت کنند که در آنها هوش مصنوعی باعث آسیب جدی شده یا احتمال دارد چنین آسیبی ایجاد کند؛ برای مثال، زمانی که یک مدل از محیط آزمایشی کنترلشده خارج شده و به زیرساختهای مخابراتی یا اطلاعات حساس پزشکی دسترسی پیدا کند.
همچنین میتوان یک کانال ارتباطی دوجانبه برای تبادل اطلاعات ایجاد کرد؛ کانالی که در ابتدا داوطلبانه باشد و در آینده امکان توسعه آن وجود داشته باشد.
شرکتهایی مانند OpenAI و Anthropic تاکنون برخی اطلاعات مربوط به رخدادهای ایمنی را بهصورت داوطلبانه منتشر کردهاند، اما یک کانال رسمی میان دولتها میتواند به مدیریت بحرانهای فرامرزی و هشدار زودهنگام درباره رفتارهای غیرمنتظره مدلها کمک کند.
البته این کانالها باید با سازوکار تصمیمگیری واقعی دولتها هماهنگ باشند. مقامهای چینی در گفتوگوهای غیررسمی اشاره کردهاند که پاسخگویی به تماسهای اضطراری برای آنها دشوار است، زیرا فرد پاسخدهنده معمولا اختیار تصمیمگیری مستقل ندارد و باید با مقامهای بالاتر هماهنگ کند. استفاده از ارتباطات مکتوب میتواند بخشی از این مشکل را حل کند.
نیاز به فناوریها برای راستیآزمایی
حتی اگر آمریکا و چین بخواهند به توافقی درباره هوش مصنوعی برسند، ممکن است به اجرای تعهدات طرف مقابل اعتماد نداشته باشند.
اینجاست که ابزارهای راستیآزمایی اهمیت پیدا میکنند. چنین ابزارهایی میتوانند به هر دو کشور اطمینان دهند که طرف مقابل به استانداردهای ایمنی پایبند است و زمینه را برای توافقهای بعدی فراهم کنند.
نمونههای اولیه این فناوریها تازه در حال توسعه هستند و ممکن است سالها طول بکشد تا به بلوغ کافی برسند و از سوی هر دو کشور پذیرفته شوند.
به همین دلیل، واشنگتن و پکن باید از هماکنون درباره این فناوریها گفتوگو کنند و از تحقیقات فنی برای ایجاد ابزارهای راستیآزمایی توافقهای هوش مصنوعی حمایت کنند.
چین در گذشته نسبت به سازوکارهای راستیآزمایی مبتنی بر سختافزار محتاط بوده است، اما گفتوگو درباره اینکه چه فناوریهایی از نظر سیاسی قابل قبول هستند و چه نهادی باید آنها را توسعه دهد، میتواند اعتماد بیشتری ایجاد کند.
رقابت مانع همکاری عملی نیست
موفقیت گفتوگوهای آینده نباید بر اساس دستیابی آمریکا و چین به توافق کامل درباره همه مسائل سنجیده شود.
اگر این مذاکرات زمینه را برای نشستهای بعدی و ایجاد یک کانال دائمی در سطح عالی فراهم کند، موفقیت محسوب میشود.
اهداف ممکن است در نگاه اول محدود به نظر برسند، اما پیشرفتهای کوچک دیپلماتیک میتوانند به اقدامات بزرگتر منجر شوند و هر توافق جزئی، راه را برای توافق بعدی باز کند.
آمریکا و چین در حال رقابت برای ساخت فناوری تعیینکننده قرن بیستویکم هستند، اما این رقابت نباید مانع عملگرایی شود.
ماه سپتامبر میتواند فرصتی باشد تا دو کشور نخستین گام را در این مسیر بردارند.
