حق رای برای ربات‌ها؛ چالشی حقوقی درباره شخصیت‌های الکترونیک

از زمانی که یک سیاه‌پوست مجبور بود از روی صندلی اتوبوس بلند شود و جایش را به یک سفیدپوست بدهد، زمان زیادی نمی‌گذرد. آن روزها طبیعی بود که سیاه‌پوست‌ها حق ندارند مالک خانه باشند، رای بدهند یا از یک سفیدپوست شکایت کنند. جمله «یک روز یک سیاه‌پوست رئیس‌جمهور آمریکا می‌شود.» می‌توانست جایزه خنده‌دارترین جوک سال را از آن خود کند. امروز شاید دیگر کسی سیاه‌پوست‌ها را موجوداتی فاقد شان انسانی فرض نکند. اما وقتی بحث به شخصیت الکترونیک (e-person) و ربات هوشمند و هویت مصنوعی می‌رسد، حرف‌ها و استدلال‌ها بی‌شباهت به دوران سیاه نژادپرستی نیست. حتی اگر طرفدار حقوق ربات‌ها باشیم، باز هم باید بپذیریم که این موجودات هرچه باشند، انسان نیستند و روح ندارند. اما آیا این بدان معنا است که ربات‌ها هیچ حق و حقوقی ندارند؟ این پرسش یکی از مهم‌ترین سوالاتی است که بشر امروز دارد از خود می‌پرسد.

ربات هیچ، آیا می‌شود به انسان اعتماد کرد؟

این صحنه را تجسم کنید: یک ربات هوشمند طوری برنامه ریزی شده که بتواند نگران شود، از مرگ بترسد و وقتی شارژ باتری‌اش به زیر پنج درصد می‌رسد درد بکشد. صاحبان ربات دور او جمع شده‌اند، تخمه می‌شکنند و از زجر کشیدن این موجود مصنوعی کیف می‌کنند. ربات عاجزانه درخواست می‌کند پیش از آن که شارژش تمام شود، کابل شارژر را به او بدهند. «رئیس» درحالی‌که کابل را در هوا تکان می‌دهد از ربات می‌خواهد که بیشتر التماس کند. ربات با آخرین شارژ باقی‌مانده به صاحبش حمله می‌کند تا سیم را بگیرد. تیتر اخبار فردا از حمله یک ربات به انسان خبر می‌دهد…

ربات‌ها حالا می‌توانند درد را درک کنند، بترسند و به آینده امید ببندند.

تقریبا تمامی انسان‌ها در درون خود هیولایی دارند که می‌تواند دست به کارهای زشتی بزند. شاید عده‌ای توانسته‌اند این هیولا را به زنجیر بشکند، اما هیولا هنوز وجود دارد. آدم‌ها حیوانات خانگی و خیابانی را آزار می‌دهند، با همسر خود بدرفتاری می‌کنند. تجاوز، متلک انداختن، تنبیه بدنی کودکان، آزار کارگر و مزاحمت تلفنی از جمله مثال‌هایی هستند که در آن انسان‌هایی از آزار موجودی با توان فیزیکی کم‌تر لذت می‌برند. توجه کنید که هیچ‌کس از یک بازی کامپیوتری که در آن باید به گل‌ها آب دهیم و با سالمندان مهربان باشیم استقبال نخواهد کرد. اما بازی‌هایی پر از خشونت و قتل و آشوب در صدر پرفروش‌ترین باز‌های جهان هستند. آیا این انسان با ربات مهربان خواهد بود؟ قانون چطور می‌تواند از آزار شخصیت الکترونیک جلوگیری کند؟ آیا اصلا باید جلوی این رفتارهای زشت را گرفت؟

قانون؟! کدام قانون؟!

در جامعه مدنی ما قوانینی وجود دارد که از ما در مقابل آسیب حمایت می‌کند. از طرف دیگر قوانینی هستند که در مقابل ما محدودیت‌هایی قرار می‌دهند. کدام یک از این قوانین شامل حال ربات‌ها می‌شوند؟ آیا در کشورهای اسلامی ربات‌ها مونث برای حضور در خیابان یا اماکن عمومی موظف به رعایت پوشش اسلامی هستند؟ اگر کسی از یک رباتِ بدون مالک چیزی بدزدد، آیا خودِ ربات می‌تواند از فرد خاطی شکایت کند؟ آیا ربات می‌تواند بجای شما به بانک برود، نوبت بگیرد و به حساب شما پول واریز کند؟ آیا خودش می‌تواند حساب بانکی داشته باشد؟

شاید شما برای این پرسش‌ها جواب داشته باشید. اما هیچ قانونی در این مورد به تصویب نرسیده است. اگر مامور قانون با شخصیت الکترونیک برخوردی کند، رفتاری فراقانونی انجام داده است. چون در هیچ قانونی نیامده که ربات حق دارد این کار را بکند یا آن کار را نکند. به‌هرحال ربات‌های هوشمند می‌توانند مسائلی را درک کنند، تحلیل کنند و نتیجه بگیرند. ممکن است آن‌ها بخواهند برای خود حساب اینستاگرام افتتاح کنند. اگر آن‌ها بتوانند از پس آزمون «من یک ربات نیستم» بر بیایند، هیچ قانونی استفاده آن‌ها از شبکه‌های اجتماعی را محدود نکرده است.

اما اگر یکی از آن‌ها بدون برنامه‌ریزی قبلی و به طور خودسر، در فضای مجازی به نشر اکاذیب و محتوای مستهجن بپردازد، باید با چه کسی برخورد کنیم؟ ربات یا سازنده آن؟ آیا می‌توانیم ربات را به حبس محکوم کنیم؟ اگر شخصیت الکترونیکی ما بدن نداشته باشد و فقط یک برنامه باشد چه؟ اگر بخواهیم ربات را مجبور به پرداخت جریمه نقدی کنیم، چه کسی باید این جریمه را بپردازد؟

کار، دستمزد و مالیات

ممکن است در آینده به ربات‌ها مقداری پول بدهیم و بگذاریم آن را به تشخیص خودشان خرج کنند. ممکن است دارایی‌ای که در اختیار ربات‌های معامله‌گر در بورس قرار می‌گیرد بیش از چند میلیون دلار باشد. در یک آزمایش خیالی، مقداری پول را به ربات می‌بخشیم. پول مال خود او است. او با مطالعه و مشاهده، با بازار سرمایه آشنا می‌شوند و کارش را شروع می‌کند. بعد از چند سال معامله موفق، او به یکی از پولدارترین‌های جهان تبدیل می‌شود. خبر وقتی افشا می‌شود که این ربات سخت‌کوش و زیرک تمام سهام شرکت آمازون را می‌خرد و تصمیم می‌گیرد جف بیزس را از کار برکنار کند. در این موقعیت باید چه کار کنیم؟

هیچ قانونی نگفته که یک شخصیت الکترونیکی نمی‌تواند مالک شرکت باشد. از طرفی کسی که بیشتر سهام یک شرکت را دارد، می‌تواند برای تعیین مدیران نظر بدهد. حتی ممکن است یک شخصیت الکترونیک برای خودش یک استارت‌آپ راه بیندازد و در مدتی کوتاه میلیاردر شود. اگر آن روز به فکر تصویب قانون بیفتیم، قوانین جدید عطف بما سبق نمی‌شوند و نمی‌توانیم دارایی‌های این ربات‌ها را ضبط کنیم. به‌خصوص که آن‌ها به‌موقع و به بهترین شکل ممکن مالیات خود را پرداخت کرده‌اند. شاید بخواهیم آن‌ها را از هر نوع حق مالکیت منع کنیم. شاید هم بخواهیم در کنار شخصیت حقیقی و حقوقی، یک شخصیت مجازی با قوانین خاص خودش قرار دهیم. هر کار که می‌خواهیم بکنیم باید دست بجنبانیم. شاید ربات داستان ما خیلی وقت پیش کارش را شروع کرده باشد.

اول انسان، بعد هیچ‌کس!

شاید فکر کنید در هر پرونده حقوقی که یک سوی آن انسان باشد و سوی دیگرش هر چیز دیگر، بی‌شک حق با انسان است. به‌هرحال این شخصیت الکترونیک به وجود آمده تا در خدمت انسان باشد. پس نباید هیچ دادگاهی را از آدمیزاد ببرد. این پیش‌فرض درست نیست. در موارد زیادی ما حق را انسان گرفته و به موجودی دیگر داده‌ایم. مثلا در پرونده‌های زیست‌محیطی، انسان به خاطر آسیب‌زدن به دریاچه، پلنگ و درخت محکوم شده است. همچنین حیواناتی بوده‌اند که دادگاه به نفع آن‌ها رای داده باشد. پس می‌شود مواردی را تصور کرد که انسان به خاطر فریب یا آزار هوش مصنوعی مجرم شناخته شود.

پشت این چهره خوفناک چه تفکراتی پنهان شده است؟

اما وقتی ربات محکوم باشد، کار سخت‌تر می‌شود. چطور می‌توانیم ربات‌ها را جریمه کنیم؟ فرض کنید رباتی را به بیست سال زندان محکوم کنیم. آیا او از بودن در زندان رنج می‌کشد؟ آیا نمی‌تواند خود را به مدت بیست سال خاموش کند و گذر زمان را متوجه نشود؟ اگر قرار باشد به عنوان جریمه از او پولی بگیریم، آیا نباید اول به او حق داشتن پول را بدهیم؟ شاید بگوییم باید ربات‌های خاطی را شات‌داون کنیم. اما آیا می‌شود با هر اشتباه حکم اعدام این شخصیت‌های مجازی را امضا کرد؟ اگر آن‌ها دوست داشته باشند زنده بمانند چه؟ آیا می‌توانیم آن‌ها را به دارالتادیب بفرستیم و بعد از حذف داده‌های خرابکارانه، گناهشان را نادیده بگیریم؟ ماجرا از چیزی که در اولین نگاه به نظر می‌رسد پیچیده‌تر است.

محصول یا سازنده؟ کدام گناه‌کار هستند؟

تصوری که امروز ما از ربات داریم، هیچ شباهتی به ربات‌های آینده ندارد. اگر امروز یک ربات از خانه بیرون برود و مردم را به گلوله ببندد، بی‌تردید سازنده ربات مقصر است. اما در آینده ربات‌هایی به وجود خواهند آمد که می‌توانند تصمیم‌هایی خودسر بگیرند. مثلا ربات‌های معامله‌گر باید آزادی عمل داشته باشند تا بتوانند سود کنند. اما ممکن است آن‌ها برای خرید در پایین‌ترین قیمت و فروش در بالاترین قیمت مردم را فریب بدهند. صف‌های خریدوفروش کاذب تشکیل دهند. با هم تبانی کنند. حتی شاید در سیستم معاملاتی ما ایرادهایی پیدا کنند که خودمان از آن‌ها خبر نداشته باشیم. خودروهای خودران هم به این آزادی عمل نیاز دارند تا از تصادف اجتناب کنند.

یک خطر دیگر اتحاد پنهانی و تراست شخصیت‌های مجازی است. شاید آن‌ها روشی ارتباطی اختراع کنند که برای ما قابل‌درک نیست. مثلا شاید تعداد حروف کلماتی که در جمله قرار می‌دهند حاوی یک کد مخفی باشد. ما فکر می‌کنیم دو ربات دارند در مورد بازی‌های جام جهانی حرف می‌زنند، اما موضوع بحث آن‌ها تدارک یک تجمع اعتراضی باشد. کد کردن و خواندن چنین پیام‌هایی وقت زیادی از انسان می‌گیرد. اما شمارش تعداد حروف یک کلمه برای ربات کاری بسیار آسان است. یک روز از خواب بیدار می‌شویم و می‌بینیم هزاران ربات در خیابان هستند. در دست آن‌ها پلاکاردهایی است که روی آن نوشته‌شده «من خودم به این دنیا نیامده‌ام!» «دست از آزار ربات‌ها بردارید.» «من کار می‌کنم تا شما آسوده باشید، کابل شارژر را از من دور نکنید.» «شارژ وایرلس حداقل خواسته ما است.» آن روز با این ربات‌ها چه‌کار خواهیم کرد؟

2017، سالی که در تاریخ باقی می‌ماند

سال 2017 نقطه عطفی برای هوش‌های مصنوعی بود. اگر همین مقاله در سال 2016 نوشته می‌شد، به آن می‌خندیدیم. اما حالا موضوع شخصیت الکترونیکی در بزرگ‌ترین مجامع علمی و حقوقی جهان به بحث گذاشته می‌شود. فعلا موضوع مهم تصمیمی نیست که برای این شخصیت‌ها می‌گیریم. مهم این است که ما هم در ایران اهمیت موضوع را درک کنیم و به بحث و تبادل‌نظر بپردازیم.

نکته مهم این است که شخصیت الکترونیکی موضوعی مربوط به آینده نیست. همین حالا یک ربات شهروند قانونی عربستان سعودی است. مچ ربات‌های فیس‌بوک درحالی‌که سعی می‌کردند زبانی جدید اختراع کنند گرفته شد. ربات گوگل در تگ کردن ویدیو به نژادپرستی متهم شد. ربات‌های هوشمند از وسوسه هک کردن موشک کروز حرف زدند. همه این اتفاق‌ها به ما هشدار می‌دهند که اگر نسبت به شخصیت الکترونیک بی‌توجه باشیم، ممکن است فاجعه‌ای غیرقابل‌جبران پیش بیاید.