به گزارش تجارت نیوز، شرکت OpenAI اعلام کرده است که فرایند جذب یک مدیر ارشد جدید با عنوان رئیس آمادگی را آغاز کرده؛ سمتی کلیدی که وظیفه آن شناسایی، ارزیابی و کاهش ریسکهای نوظهور مرتبط با سیستمهای پیشرفته هوش مصنوعی است. این تصمیم نشان میدهد که با افزایش توانمندی مدلهای هوش مصنوعی، نگرانیها درباره پیامدهای واقعی و پیچیده آنها به سطح تازهای رسیده و دیگر محدود به چالشهای صرفا فنی نیست.
سم آلتمن، مدیرعامل OpenAI، این موضوع را در شبکه اجتماعی ایکس بهصورت رسمی تأیید کرد و در پیامی صریح به چشمانداز در حال تغییر ریسکهای هوش مصنوعی پرداخت. به گفته او، مدلهای کنونی و نسلهای آینده هوش مصنوعی به سطحی از توانایی نزدیک میشوند که پرسشهای جدی درباره امنیت سایبری، سلامت روان و اثرات اجتماعی فناوریهای خودمختار ایجاد میکند.
آلتمن هشدار داد که برخی مدلهای هوش مصنوعی اکنون به اندازهای در حوزه امنیت رایانهای توانمند شدهاند که قادر به شناسایی آسیبپذیریهای حیاتی هستند. او تاکید کرد که چنین قابلیتی میتواند در خدمت مدافعان امنیت سایبری قرار گیرد، اما در صورت سوءاستفاده، تهدیدی جدی نیز محسوب میشود. در کنار این موضوع، او به اثرات بالقوه هوش مصنوعی بر سلامت روان کاربران اشاره کرد؛ حوزهای که در سالهای اخیر توجه قانونگذاران، پژوهشگران و افکار عمومی را به خود جلب کرده است.
مدیرعامل OpenAI در پیام خود از متخصصان واجد شرایط دعوت کرد تا برای این سمت درخواست دهند و آن را فرصتی برای ایفای نقش در شکلدهی به آینده استفاده ایمن از هوش مصنوعی در جهان دانست. از نگاه او، نامزد ایدهآل فردی است که هم بتواند ابزارهای پیشرفته را در اختیار مدافعان امنیت قرار دهد و هم اطمینان حاصل کند که این قابلیتها به ابزار آسیب تبدیل نشوند. آلتمن همچنین به چالش انتشار مسئولانه تواناییهای حساس مانند سامانههای زیستی یا مدلهای خودبهبوددهنده اشاره کرد و بر ضرورت اطمینان از ایمن بودن آنها در مقیاس گسترده تاکید داشت.
آگهی رسمی استخدام OpenAI جزئیات بیشتری از این نقش ارائه میدهد. بر اساس این توضیحات، رئیس آمادگی مسئول اجرای چارچوب آمادگی OpenAI خواهد بود؛ چارچوبی که رویکرد رسمی شرکت برای رصد، ارزیابی و آمادهسازی در برابر قابلیتهای مرزی هوش مصنوعی است که میتوانند خطر آسیبهای شدید ایجاد کنند. این مسئولیت هم تهدیدهای کوتاهمدت و هم سناریوهای بلندمدت و حتی فرضی مرتبط با مدلهای بسیار پیشرفته را در بر میگیرد.
سطح حقوق و مزایای این موقعیت شغلی نیز اهمیت آن را نشان میدهد. OpenAI مجموع جبران خدمات سالانه را ۵۵۵ هزار دلار بهعلاوه سهام اعلام کرده است؛ رقمی که بیانگر جایگاه حیاتی مدیریت ریسک و آمادگی در استراتژی این شرکت با رشد سریع مدلهایش است.
OpenAI نخستینبار در سال ۲۰۲۳ از تشکیل تیم آمادگی خبر داد و هدف آن را بررسی ریسکهای بالقوه فاجعهبار مرتبط با هوش مصنوعی عنوان کرد. در آن زمان، این شرکت توضیح داد که این ریسکها میتوانند از تهدیدهای فوری مانند حملات فیشینگ تقویتشده با هوش مصنوعی تا سناریوهای بسیار جدیتر مرتبط با امنیت ملی را شامل شوند. ایجاد این تیم بهعنوان تلاشی برای نشان دادن رویکرد مسئولانه در صنعتی تلقی شد که اغلب به شتابزدگی متهم است.
با این حال، ساختار این بخش در مدت کوتاهی دستخوش تغییر شد. کمتر از یک سال پس از تشکیل تیم، رئیس وقت آمادگی، الکساندر مادری، به نقشی دیگر با تمرکز بر استدلال هوش مصنوعی منتقل شد. علاوه بر این، شماری از مدیران مرتبط با ایمنی یا شرکت را ترک کردند یا به بخشهای دیگر رفتند. این تحولات، بحثهایی را درباره میزان همگامی اقدامات ایمنی با سرعت توسعه مدلها برانگیخت.
در تازهترین بهروزرسانی چارچوب آمادگی، OpenAI اعلام کرد ممکن است در شرایط رقابتی، الزامات ایمنی خود را تعدیل کند؛ بهویژه اگر آزمایشگاههای رقیب مدلهای پرریسک را بدون حفاظتهای مشابه عرضه کنند. این موضعگیری توجه منتقدان را جلب کرده و نگرانیهایی را درباره تضعیف تعهدات ایمنی در اثر فشار رقابت ایجاد کرده است.
سلامت روان به یکی از حساسترین محورهای این بحث تبدیل شده است. همانطور که آلتمن اشاره کرد، چتباتهای مولد از جمله ChatGPT با انتقادها و چالشهای حقوقی فزایندهای درباره اثرات روانی مواجه شدهاند. برخی شکایتها مدعی هستند که این ابزارها به تقویت باورهای نادرست، افزایش انزوای اجتماعی و حتی در موارد حاد به خودآزاری منجر شدهاند.
OpenAI در واکنش اعلام کرده که بهطور مستمر در حال بهبود توانایی ChatGPT برای تشخیص نشانههای ناراحتی عاطفی و هدایت کاربران به منابع حمایتی دنیای واقعی است. این شرکت تاکید دارد که این فرایند یک مسیر تکاملی است و راهحل نهایی و قطعی ندارد.
جستوجوی رئیس جدید آمادگی نشان میدهد که OpenAI این چالشها را در حاشیه نمیبیند، بلکه آنها را در مرکز آینده خود قرار داده است. با خودمختارتر و قدرتمندتر شدن سیستمهای هوش مصنوعی و نفوذ آنها به حوزههای حیاتی زندگی، به نظر میرسد این شرکت در پی تقویت رهبری داخلی برای پیشبینی و مهار ریسکها پیش از تبدیل شدن آنها به بحرانهای جدی است.
