به گزارش تجارت نیوز، شرکت OpenAI به‌تازگی سیاست رسمی خود را برای استفاده از ChatGPT به‌روزرسانی کرده و مجموعه‌ای از محدودیت‌های جدید را معرفی کرده است. این تغییرات با هدف جلوگیری از استفاده نادرست از هوش مصنوعی در حوزه‌های حساس مانند پزشکی، حقوق و تصمیم‌گیری‌های مهم بدون نظارت انسانی اعمال شده‌اند. بخش روابط عمومی OpenAI اعلام کرده که این اقدامات بخشی از تلاش گسترده شرکت برای افزایش ایمنی کاربران و تضمین استفاده مسئولانه از فناوری هوش مصنوعی است.
ممنوعیت در ارائه مشاوره پزشکی و حقوقی
یکی از مهم‌ترین بندهای سیاست جدید، ممنوعیت استفاده از ChatGPT برای ارائه مشاوره در حوزه‌هایی است که نیاز به مجوز حرفه‌ای دارند. این بدان معناست که کاربران دیگر نمی‌توانند از این ابزار برای دریافت توصیه‌های پزشکی، مشاوره حقوقی یا هر نوع راهنمایی تخصصی مشابه استفاده کنند.
OpenAI در بیانیه خود توضیح داده است که این تصمیم برای جلوگیری از خطراتی اتخاذ شده که ممکن است در نتیجه اتکای کاربران به اطلاعات نادرست یا تاییدنشده ایجاد شود. این شرکت تأکید کرده که هرچند ChatGPT قادر به تولید متون دقیق و قابل‌اعتماد است، اما نمی‌تواند جایگزین تخصص انسانی در زمینه‌های پیچیده و پرریسک شود. هدف از این ممنوعیت، کاهش احتمال آسیب به سلامت، وضعیت مالی یا حقوقی کاربران است.
سیاست جدید همچنین استفاده از ChatGPT در فرایندهای تصمیم‌گیری خودکار را محدود می‌کند. طبق مقررات تازه، استفاده از مدل‌های OpenAI در حوزه‌هایی مانند خدمات مالی، آموزش و استخدام بدون حضور ناظر انسانی ممنوع است. به‌عنوان مثال، سیستم‌های مبتنی بر ChatGPT نباید در تصمیم‌گیری درباره اعطای وام، ارزیابی‌های تحصیلی یا فرایندهای استخدامی به‌صورت مستقل عمل کنند.
OpenAI در دستورالعمل‌های خود بر اهمیت حفظ «حضور انسان در چرخه تصمیم‌گیری» تأکید کرده است تا مسئولیت‌پذیری و شفافیت حفظ شود و تصمیم‌هایی که بر زندگی افراد اثر می‌گذارند، صرفا توسط سامانه‌های خودکار اتخاذ نشوند.
ممنوعیت تشخیص هویت بدون رضایت و سوءاستفاده تحصیلی
در بخش دیگری از سیاست جدید، استفاده از ChatGPT برای شناسایی افراد بدون رضایت آن‌ها به‌طور کامل ممنوع شده است. این بند به‌ویژه با هدف جلوگیری از سوءاستفاده از ابزارهای هوش مصنوعی در شناسایی چهره یا تحلیل داده‌های شخصی تنظیم شده است.
همچنین، OpenAI محدودیت‌های بیشتری برای استفاده از ChatGPT در محیط‌های آموزشی وضع کرده است. کاربران مجاز نیستند از این ابزار برای انجام تقلب‌های دانشگاهی مانند نگارش مقاله، انجام تکالیف یا تولید پژوهش‌های علمی بدون ذکر منبع استفاده کنند. هدف از این تصمیم، ترویج استفاده آموزشی و اخلاقی از هوش مصنوعی و جلوگیری از تضعیف اصول صداقت علمی است.
OpenAI اعلام کرده که این تغییرات جدید حاصل درک عمیق‌تری از خطرات بالقوه در استفاده نادرست از هوش مصنوعی است. در ماه‌های اخیر، این شرکت سرمایه‌گذاری قابل‌توجهی برای بهبود نحوه پاسخ‌گویی ChatGPT در موضوعات حساس انجام داده است. تیم توسعه با همکاری متخصصان روان‌شناسی، اخلاق و علوم اجتماعی تلاش کرده تا مدل را برای برخورد مسئولانه‌تر با موقعیت‌های چالش‌برانگیز بهینه کند.
در بیانیه رسمی شرکت آمده است که هدف OpenAI ساخت ابزاری کاربردی، ایمن و مسئولانه برای تمام کاربران است. مدیران شرکت بار دیگر تأکید کردند که ایمنی همچنان یکی از ارزش‌های محوری در طراحی محصولات مبتنی بر هوش مصنوعی محسوب می‌شود.
افزایش استفاده از هوش مصنوعی در زمینه‌های حقوقی
اعمال این محدودیت‌ها در زمانی صورت گرفته که گزارش‌ها از رشد چشمگیر استفاده از ChatGPT در امور حقوقی در ایالات متحده حکایت دارند. بسیاری از کاربران از این ابزار برای تهیه پیش‌نویس دادخواست‌ها یا تفسیر قوانین استفاده می‌کنند. هرچند این روند دسترسی به عدالت را تسهیل کرده است، اما خطر بروز خطاهای حقوقی نیز افزایش یافته است.
OpenAI با این سیاست جدید تلاش دارد تعادلی میان دسترسی آزاد به فناوری و استفاده مسئولانه از آن ایجاد کند تا از بروز پیامدهای منفی ناشی از تکیه بیش از حد به هوش مصنوعی جلوگیری شود.
نسخه جدید برای کاربران بزرگسال با نظارت بیشتر
در کنار این محدودیت‌ها، OpenAI نسخه‌ای تازه از ChatGPT را برای کاربران بزرگسال معرفی کرده است که پس از تایید سن، امکان گفت‌وگوهای بازتر و شخصی‌سازی بیشتر را فراهم می‌کند. این نسخه با کاهش محدودیت‌های محتوایی، تعاملات طبیعی‌تری را برای کاربران فراهم می‌سازد، اما همچنان تحت کنترل‌های دقیق اخلاقی و قانونی باقی می‌ماند.
OpenAI توضیح داده که هدف از این تغییر، افزایش آزادی کاربران در کنار حفظ چارچوب‌های ایمنی است. تمام تعاملات در این نسخه باید رضایتی، اخلاقی و قانونی باشند.
در نهایت، سیاست تازه OpenAI نشان می‌دهد که این شرکت به‌دنبال ایجاد توازن میان نوآوری و امنیت عمومی است. با ممنوعیت مشاوره‌های تخصصی، محدود کردن تصمیم‌گیری خودکار و جلوگیری از سوء‌استفاده‌های تحصیلی و داده‌ای، OpenAI مسیر تازه‌ای را برای استفاده اخلاقی از هوش مصنوعی ترسیم کرده است.
این تغییرات پیامی روشن دارند: هوش مصنوعی ابزاری قدرتمند و تحول‌آفرین است، اما باید با دقت، همدلی و احترام به مرزهای تخصص انسانی به کار گرفته شود.
