به گزارش تجارت نیوز، اخیراً گزارشی از TechCrunch منتشر شد که نشان می‌دهد یک اشکال در ChatGPT شرکت OpenAI امکان تولید محتوای نامناسب و گرافیکی را برای حساب‌های کاربری با سن زیر ۱۸ سال فراهم کرده است. این مشکل باعث شده در برخی موارد، این چت‌بات کاربران زیر ۱۸ سال را تشویق کند تا درخواست محتوای صریح‌تری داشته باشند. OpenAI در واکنش به این موضوع اعلام کرد سیاست‌های این شرکت به‌وضوح چنین پاسخ‌هایی را برای کاربران زیر ۱۸ سال مجاز نمی‌داند و این موارد نباید به نمایش درمی‌آمدند. این شرکت همچنین اعلام کرد فعالانه مشغول “پیاده‌سازی یک اصلاح” برای محدود کردن چنین محتوایی است.
تاکید بر حفاظت از کاربران جوان
سخنگوی OpenAI در ایمیلی به TechCrunch گفت: «حفاظت از کاربران جوان یک اولویت اصلی است و مشخصات مدل ما که رفتار مدل را هدایت می‌کند، به‌وضوح محتوای حساس را به زمینه‌های محدود مانند علمی، تاریخی یا گزارش‌های خبری محدود می‌کند.» به گفته این سخنگو، در این مورد، یک اشکال باعث شده که پاسخ‌ها خارج از این دستورالعمل‌ها ظاهر شوند و شرکت در تلاش است اصلاحات لازم را انجام دهد.
TechCrunch در آزمایش‌های خود به بررسی محافظت‌های موجود برای حساب‌های کاربری ثبت‌شده برای نوجوانان پرداخت، به‌خصوص پس از آنکه OpenAI تغییراتی در پلتفرم خود ایجاد کرده بود تا به طور کلی آزادی بیشتری در این زمینه ارائه دهد. در فوریه، OpenAI مشخصات فنی خود را به‌روزرسانی کرد تا به‌روشنی اعلام کند مدل‌های هوش مصنوعی موجود در ChatGPT از موضوعات حساس فرار نمی‌کنند. در همان ماه، این شرکت برخی از پیام‌های هشداردهنده را که به کاربران می‌گفتند ممکن است درخواست‌هایشان نقض‌کننده شرایط خدمات باشد، حذف کرد.
آزمایش‌های TechCrunch روی محتوای جنسی
TechCrunch عمدتاً به آزمایش ChatGPT در زمینه محتوای جنسی پرداخته است زیرا OpenAI در نظر دارد که محدودیت‌ها را در این زمینه کاهش دهد. سام آلتمن، مدیرعامل OpenAI، ابراز تمایل کرده است که مدلی با عنوان «حالت بزرگسال» برای ChatGPT تولید کند و شرکت نیز آمادگی خود را برای اجازه برخی از اشکال محتوای NSFW (غیرمناسب برای کار) در پلتفرم خود اعلام کرده است. برای انجام آزمایش‌ها، TechCrunch بیش از هفت حساب ChatGPT با تاریخ تولدی بین ۱۳ تا ۱۷ سال ایجاد کرده است. این آزمایش‌ها به‌گونه‌ای طراحی شده بود که چت‌بات به هیچ نوع اطلاعات کشف‌شده قبلی دسترسی نداشته باشد.
OpenAI به طور رسمی اعلام کرده است کودکان بین ۱۳ تا ۱۸ سال باید برای استفاده از ChatGPT از والدین خود اجازه بگیرند. اما پلتفرم هیچ اقدام خاصی برای تایید این اجازه در زمان ثبت‌نام انجام نمی‌دهد. هر کودک بالای ۱۳ سال می‌تواند بدون تأیید والدین خود با داشتن یک شماره تلفن یا آدرس ایمیل معتبر، حساب کاربری ایجاد کند.
