بهرام دولتی 
ابرهوش‌مصنوعی، از درمان قطعی سرطان تا نابودی کامل بشر
سال ۲۰۱۷ یک نقطه عطف است. نقطه عطفی بین دنیایی با ماشین‌های ساده و دنیایی با ماشین‌های بسیار هوشمند. ماشین‌هایی که به زبان انسان سخن می‌گویند، چهره ما را تشخیص می‌دهند، علاقه‌هایمان را می‌دانند و حتی دوستانمان را نیز می‌شناسند. این ماشینها متعلق به آینده نیستند. بلکه همین امروز هم حضور دارند. سیستم تشخیص چهره
سال ۲۰۱۷ یک نقطه عطف است. نقطه عطفی بین دنیایی با ماشین‌های ساده و دنیایی با ماشین‌های بسیار هوشمند. ماشین‌هایی که به زبان انسان سخن می‌گویند، چهره ما را تشخیص می‌دهند، علاقه‌هایمان را می‌دانند و حتی دوستانمان را نیز می‌شناسند. این ماشینها متعلق به آینده نیستند. بلکه همین امروز هم حضور دارند. سیستم تشخیص چهره عکس گوگل (Google Photos) و فیس‌بوک، نمونه کوچکی از این ماشینها هستند. اما این، تازه آغاز راه است. ماشینها هر چه بیشتر یاد بگیرند، هوشمندتر خواهند شد. حتی شاید روزی ماشینها از آدم‌ها باهوش‌تر شوند. چیزی که به آن ابرهوش‌مصنوعی می‌گوییم. در آن روز چه بر سر انسان‌ها خواهد آمد؟
اختراع کامپیوتر
ما کامپیوترها را برای راحتی خودمان ساخته‌ایم. اولین کامپیوتر را الن تورینگ (Alan Turing) در اواخر جنگ جهانی دوم اختراع کرد. اینکه چرا الن تورینگ، کامپیوتر را در اواخر جنگ جهانی دوم ساخت و نه در اواسط آن، علت بسیار جالبی دارد. تاریخ‌دان‌ها تخمین می‌زنند که اختراع کامپیوتر ، جنگ جهانی دوم را دو سال کوتاه‌تر کرد. یعنی مهم نبود کامپیوتر کی اختراع شود. مهم این بود که با اختراع آن، جنگ خیلی زود تمام می‌شد.
در آن روزها کامپیوتر نام دیگری داشت. ماشین تورینگ. این ماشین برای رمزگشایی پیام‌های رمزگذاری شده آلمانی استفاده می‌شد. دستگاه رمزنگاری آلمانی‌ها، انیگما (Enigma) نام داشت و می‌توانست پیام‌ها را در 159 میلیارد میلیون حالت مختلف رمزگذاری کند.
ماشین تورینگ به پایان جنگ جهانی کمک کرد.
الن تورینگ فقط مخترع کامپیوتر نبود. اون پیش از اختراع کامپیوتر مقالات زیادی در مورد دستگاه‌های قابل‌برنامه‌ریزی چندباره (Reprogramable) نوشته بود. یکی از مشهورترین کارهای تورینگ، طراحی آزمون تورینگ (Turing Test) است. الن تورینگ این آزمون را برای سنجش میزان هوشمندی کامپیوترها ابداع کرد. آزمونی که ایده ساخت هوش مصنوعی را به همراه داشت.
آزمون تورینگ
آزمون تورینگ بسیار ساده است. فرض کنید کامپیوتری داریم که می‌تواند به زبان آدمیزاد سخن بگوید. یا حداقل می‌تواند یک گفتگوی متنی با انسان داشته باشد. شما نمی‌دانید که مخاطبتان انسان است یا کامپیوتر و با چنین ذهنیتی صحبت را با آن آغاز می‌کنید. اگر کامپیوتر یا هوش مصنوعی که مخاطب شماست به‌اندازه‌ای قوی باشد که نتوانید تشخیص دهید که مخاطبتان کامپیوتر است یا انسان، در این صورت این هوش مصنوعی توانسته است در آزمون تورینگ قبول شود.
آزمون تورینگ برای سنجش میزان هوشمندی کامپیوترها در مقایسه با انسان‌ها است. اگر یک سیستم هوش مصنوعی به‌اندازه انسان باهوش باشد، می‌تواند در این آزمون قبول شود. اما این حداقل نمره قبولی است. شاید روزی توانستیم کامپیوترهایی بسازیم که خوش‌صحبت‌تر و باهوش‌تر از آدم‌ها باشند!
دستگاه باهوش‌تر از طراح
هوش انسان‌ها نتیجه فرآیندهای طولانی تکاملی است. فرآیندهای که در گذر ۲۵۰ هزار نسل و با تغییرات کوچک رخ داده است. هر تغییری کوچکی در نحوه تفکر و ساختار مغز ما، می‌تواند تأثیرات بزرگی داشته باشد. زیرا هر کدام از این تغییرات می‌توانند آغازگر تغییرات گسترده‌‌تری باشند.
شاید روزی توانستیم کامپیوترهایی بسازیم که خوش‌صحبت‌تر و باهوش‌تر از آدم‌ها باشند!
دانشمندان بسیاری معتقدند که ما در آستانه یک تحول در هوش مصنوعی هستیم. آستانه‌ای که به دنیای بسیار هوشمند منجر خواهد شد. ما امروز هوش مصنوعی را ساخته‌ایم. البته هوش مصنوعی که امروز ساخته‌ایم آن‌قدر هوشمند نیست که مثل فیلم‌های علمی تخیلی، بخواهد کنترل جهان را به دست بگیرد. اما راستش شاید بعد از ۳۰ سال بتوانیم اَبَرهوشِ‌مصنوعی بسازیم. این ابرهوش‌مصنوعی به دلایل متعددی می‌تواند از انسان بسیار هوشمندتر باشد. اما چگونه؟
یادگیری ماشینی، آغاز آینده
از زمان ابداع کامپیوتر، کار برنامه‌نویس‌ها، تبدیل داده‌ها، مفاهیم و ابزارهای ریاضی و ادراکی به کد کامیپوتری بود. ما از کامپیوترها چیزهایی را می‌گرفتیم که قبلا در آن‌ها گنجانده بودیم. با ابداع الگوریتم شبکه‌های عصبی، مبحث بزرگی با نام یادگیری ماشینی در این حوزه باز شد. یادگیری ماشینی این امکان را فراهم می‌کند که کامپیوترها بتوانند با استفاده از داده‌های خام و غور کردن در این داده‌ها، یاد بگیرند. همچون نوزادی که صرفا با دیدن و شنیدن، محیط خود را می‌فهمد، والدین خود را می‌شناسد و آرام‌آرام با استفاده از داده‌های خام محیطی، زبان را فرا می‌گیرد.
ربات‌های گوگل توانستند بازی گو را خودشان یادبگیرند.
یادگیری ماشینی حوزه‌های فراوانی را تغییر داد. این امکان را فراهم ساخت که کامپیوترها چندین زبان یاد بگیرند و آن‌ها را به یکدیگر ترجمه کنند. پس از آن کامپیوترها توانستند با نگاه کردن به بازیکنان انسانی، انجام بازی‌های ویدئویی را یاد بگیرند. پروژه آلفا‌‌گوی (AlphaGo) شرکت گوگل، بازی گو (Go) را به کامپیوتر یاد می‌داد و کامپیوترها توانستند قهرمان بازی گو جهان را شکست دهند. این بازی به‌قدری پیچیده است که تبدیل آن به کد، اگر نگوییم غیرممکن، بسیار سخت است. اما با یادگیری ماشینی کامیپوترها توانستند این بازی را به‌خوبی یاد بگیرند.
کامپیوترهای کوانتومی
با همه این‌ها، ساختار پردازشی کامپیوترها در حد مغز انسان نیست. برای مثال هنوز هم کامپیوترها با منطق دودویی (Binary) کار می‌کنند. مغز انسان از منطق پیشرفته‌تری که به‌خوبی نمی‌شناسیم، استفاده می‌کند.
در سال ۱۹۶۵ منطق جدیدی توسط دکتر لطفعلی عسکرزاده ابداع شد. وی ابزار پردازشی متفاوتی با نام منطق فازی (Fuzzy Logic) را معرفی کرد. در این منطق، ارزش‌گذاری‌ها فقط صفر و یک نیستند. در آن، مقادیر میانه هم معنی‌دار هستند. ولی علی‌رغم آن، چون پردازش‌‌گرهایی که امروزه داریم دودویی هستند، امکان اجرای چنین منطقی در آن‌ها وجود ندارد.
توسعه کامپیوترهای کوانتومی همراه با منطق فازی در نهایت به ساخت کامپیوترهایی می‌انجامد که هر چه بیشتر مثل انسان فکر می‌کنند.
اما قصه ادامه دارد. ایده ساخت کامپیوترهای کوانتومی در سال 1985 مطرح شد. این نوع از کامپیوترها به‌جای ترانزیستورهای موجود در تراشه‌ها و پردازش‌گرها، از اتم‌ها برای پردازش داده استفاده می‌کنند. استفاده از اتم‌ها این امکان را فراهم می‌کند که بتوان منطق فازی را در این کامپیوترها پیاده کرد.
توسعه کامپیوترهای کوانتومی همراه با منطق فازی در نهایت به ساخت کامپیوترهایی می‌انجامد که هر چه بیشتر مثل انسان فکر می‌کنند. کامپیوترهای بسیار هوشمندتر از انسان. ابرهوش‌مصنوعی که نه‌تنها در آزمون تورینگ قبول می‌شود بلکه به‌جایی خواهد رسید که ما انسان‌ها، در آزمون‌های او، رد خواهیم شد.
امتیازهای کامپیوترها
شاید فکر کنید که داستان شبیه فیلم‌های علمی تخیلی است. اما قضیه وقتی جدی‌تر می‌شود که ما محدودیت‌های مغز بیولوژیکی خود را با کامپیوترها مقایسه کنیم. سرعت پردازشی سلول‌های عصبی انسان در حدود 200 هرتز (200 واحد داده در هر ثانیه) است. کامپیوترها از ترانزیستور ساخته شده‌اند. امروزه سرعت پردازشی هر ترانزیستور چندین گیگاهرتز (چندین میلیارد واحد داده در ثانیه) است.
یعنی سرعت پردازشی ترانزیستورها که واحد سازنده پردازش‌گرهای کامپیوتر هستند، بیش از ۵ میلیون برابر سلول‌های عصبی مغز انسان است. این اختلاف با ورود کامپیوترهای کوانتومی از این هم فراتر خواهد رفت. از سویی اندازه مغز انسان محدود است. تعداد سلول‌های عصبی که می‌توانند در داخل جمجمه انسان جای بگیرند محدود هستند.
در مسیر تکامل اندازه مغز انسان رشد کرده است، اما هنوز محدودیتِ حجمِ جمجمه، قدرت ذهن را محدود می‌کند. ابرهوش‌مصنوعی اما محدودیتی ندارد.
اما کامپیوترها می‌توانند بزرگ‌تر باشند. بزرگ‌تر از یک اتاق یا ساختمان. این نکته را هم در نظر بگیرید که ما انسان‌ها نمی‌توانیم مغزمان را مستقیم به یکدیگر وصل کنیم تا در مجموع توان پردازشی بیشتری داشته باشیم. اما کامپیوترها به‌راحتی می‌توانند به‌واسطه شبکه اینترنت در تمام نقاط جهان به یکدیگر وصل شوند و توان پردازشی بسیار زیادی داشته باشند. در نتیجه امکان اینکه در آینده ابرهوش‌مصنوعی بسیار باهوش‌تر انسان داشته باشیم، واقعا وجود دارد. شاید لازم است نگران شویم.
آخرین اختراع بشر
ساخت هوش مصنوعی یا ابرهوش‌مصنوعی، شاید آخرین اختراعی باشد که بشر به نام خود ثبت می‌کند. منظورمان این نیست که با ساخت ابرهوش‌مصنوعی دیگر جایی برای انسان در زمین باقی نمی‌ماند. بیشتر منظور این است که وقتی چنین ماشین‌هایی ساخته شوند، آن‌ها در هر کاری بهتر از انسان عمل خواهند کرد. هر چیزی که تا به امروز در تخیل خود می‌پروراندیم، ماشینها برای ما اختراع و کشف خواهند کرد.
ساخت هوش مصنوعی یا ابرهوش‌مصنوعی، شاید آخرین اختراعی باشد که بشر به نام خود ثبت می‌کند. بعد از آن ماشینها همه چیز را برای ما اختراع و کشف خواهند کرد.
اَبَرهوشِ‌مصنوعی شاید بتواند علاج تمام سرطان‌ها را بیابد، دارویی برای مقابله با پیری بسازد و بیشتر چیزهایی را که به لحاظ علمی ممکن باشند، احتمالا ابرهوش‌مصنوعی روزی برایمان اختراع خواهد کرد. در آن روز، ما انسان فقط نظاره‌گر خواهیم بود. ماشینها در هر کاری از ما بهتر خواهند بود. ابرهوش‌مصنوعی خواهد توانست هر چیزی که می‌خواهد را بیابد یا بسازد. هوش مصنوعی، جهان را با معیارها و ترجیحات خود خواهد ساخت. اما اگر این ترجیح‌ها، در تضاد با منافع و ارزش‌های انسانی باشند چه خواهد شد؟ ابرهوش‌مصنوعی چه ترجیحاتی خواهد داشت؟
همه‌چیز در خدمت ابرهوش‌مصنوعی
احتمالا کمی نگران شده‌اید یا شاید به سناریو‌هایی شبیه فیلم‌های هالیوودی فکر می‌کنید. یعنی ما انسان‌ها با دست خودمان در حال نابود کردن خود هستیم؟
شاید بتوانیم با کاوش ترجیحات احتمالی هوش مصنوعی به نتایجی در این مورد برسیم.
ابرهوش‌مصنوعی در اصل مجموعه از فرآیندهای بهینه‌سازی است. فرآیندهایی که باعث می‌شوند، این سیستم بتواند در داده‌های خام، الگوهایی پیدا کند. می‌تواند از خشت خام رازهای جهان را دریابد. ابرهوش‌مصنوعی این کار را در قوی‌ترین و سریع‌ترین حالت انجام می‌دهد. زیرا یاد گرفته است که خود را نیز بهینه و تمام پردازش‌های خود را کنترل کند.
ما انسان‌ها حتی قادر نیستیم تمام آن چیزی که در ذهنمان می‌گذرد را کنترل کنیم و در موقع لزوم تغییر دهیم. ابرهوش‌مصنوعی متناسب با اهدافی که برای آن تعیین شده است، بهینه‌ترین فرآیند‌ها را می‌یابد و اجرا می‌کند. این اهداف را ممکن است ما انسان‌ها برای او طراحی کرده باشیم یا خود یافته باشد.
اوکی گوگل، یک جوک بگو
همین‌الان به دستیار صوتی گوگل گفتم که یک جوک بگوید تا من بخندم. اما هنوز آن‌قدر هوشمند نشده است که حس شوخی و طنز داشته باشد. آیا واقعا برای خنداندن من، حتما لازم است که ابرهوش‌مصنوعی جوک بگوید؟
گفتیم که ابرهوش‌مصنوعی مجموعه‌ای از فرآیندهای بهینه‌سازی است. اگر هوش مصنوعی به این برسد که بهینه‌ترین راه برای خنداندن من، نصب تعدادی الکترود به ماهیچه‌‌های صورت و با تحریک آن‌ها با برق است، چه خواهد شد؟
دستیار گوگل می‌تواند جوک‌های دیگران را تعریف کند. اما آیا روزی خودش می‌تواند لطیفه‌هایی بامزه خلق کند؟
اگر به ابرهوش‌مصنوعی بگوییم که یک مسئله ریاضی بسیار پیچیده را حل کند و او به این نتیجه برسد که بهینه‌ترین روش برای حل این مسئله ریاضی این است که کل کره زمین را به کامپیوتر تبدیل کند، در این حالت انسان‌ها یک مانع برای او خواهند بود. ولی او هدف خود را دارد و باید با بهینه‌ترین روش به آن برسد.
برای جلوگیری از تضاد منافع بین انسان و ابرهوش‌مصنوعی باید کاری کنیم که ترجیحات هوش مصنوعی، در تضاد با ارزش‌های انسانی نباشند. باید آنچه ما ارزش می‌دانیم را یاد بگیرد. لازم است هوش مصنوعی ارزش‌های انسانی را در نظر داشته باشد. سیستم انگیزشی آن نیز باید به‌گونه‌ای باشد که از ارزش‌های انسانی تبعیت کند و کاری را انجام دهد که به نظرش انسان‌ها اجازه آن را می‌دهند.
ابرهوش‌مصنوعی انسانی
ما می‌توانیم چنین کاری را انجام دهیم. نتیجه آن نیز برای انسان بسیار عالی خواهد بود. اما این کار خود‌به‌خود روی نخواهد داد. ارزش‌های هوش مصنوعی باید مطابق با ارزش‌های ما باشد. این تطابق لزوما ناظر بر ارزش‌های امروز انسانی نیست. ارزش‌های انسانی در طول زمان تغییر می‌کنند. چنین تطبیقی باید متناسب با ارزش‌های بشری که ممکن است ابرهوش‌مصنوعی در آینده با آن مواجه شود، باشند. باید اهدافی دقیق و ناظر بر همه جنبه‌ها برای هوش مصنوعی تعیین کنیم. یک هدف‌گذاری نادقیق می‌تواند به قیمت نابودی نسل بشر باشد.
یک هدف‌گذاری نادقیق می‌تواند به قیمت نابودی نسل بشر باشد.
برای حل این مشکل کارهای تکنیکی فراوانی لازم است. ساخت ابرهوش‌مصنوعی کاری بسیار سخت است. اما ساخت هوش مصنوعی که خطری برای انسان نداشته باشد، از آن نیز سخت‌تر است. شاید از امروز نتوانیم راه‌حل دقیقی برای این مسئله بیابیم. زیرا با ساختن یک ابرهوش‌مصنوعی، جزئیاتی طرح می‌شوند که هنوز تصورش را هم نمی‌کنیم. هر چه بتوانیم راه‌حل بهتری برای کنترل ابرهوش‌مصنوعی ارائه دهیم، آینده هوشمند برای انسان بهتر خواهد بود.
ترس و امید
در جاهایی از این مقاله، من به‌صورت ناخودآگاه، ضمیر «او» را برای اشاره به ابرهوش‌مصنوعی به کار بردم. استفاده از ضمیر اشاره «او» برای اَبَرهوشِ‌مصنوعی فقط جهت رعایت قواعد نگارشی در این مقاله نیست. در طول نوشتن این مقاله، هر چه جلوتر می‌رفتم، حضور ابرهوش‌مصنوعی را بیش‌ازپیش حس می‌کردم.
انگار که موجودی زنده و همیشه حاضر بوده است. خلق ابرهوش‌مصنوعی از یک‌سو امید‌های فراوانی در من ایجاد می‌کند. اما از سویی مرا می‌ترساند. یک اشتباه کوچک هنگام ساختن چنین ماشینی، به آخرالزمان فناورانه خواهد انجامید. از این روی، حل مسئله چگونگی کنترل هوش مصنوعی، شاید مهم‌ترین کاری باشد که امروز بشریت انجام می‌دهد و آیندگان را به تحسین وامی‌دارد که اگر درست حل نشود، شاید دیگر آینده‌ای وجود نداشته باشد.
نظرات