به گزارش تجارت نیوز، لوگان کرکپاتریک، مدیر ارشد محصول هوش مصنوعی گوگل در پستی که در روز پنجشنبه در شبکه اجتماعی X منتشر کرد، اعلام کرده است که این شرکت در حال برطرف کردن باگ آزاردهنده حلقه بی‌نهایتی است که باعث ایجاد شدن عبارت خودتخریبی هوش مصنوعی جمینای شده است و وضعیت جمینای آنقدر بد نیست.
خودتخریبی هوش مصنوعی جمینای
چندی پیش، گزارش‌ها و تصاویری در شبکه‌های اجتماعی رد و بدل شد که نشان می‌داد هوش مصنوعی جمینای گوگل، پس از شکست در حل یک مسئله کدنویسی، شروع به تولید پاسخ‌های عجیب کرده است که در آنها خود را تخریب می‌کند. برای مثال، در یکی از موارد، این هوش مصنوعی بیش از ۸۰ بار عبارت «من مایه ننگ هستم» را تکرار کرده است.
در واقع، جمینای خود را مایه ننگ برای سیاره زمین و تمام جهان‌های ممکن و غیرممکن دانسته است. با انتشار این تصاویر، نگرانی‌های زیادی از لحاظ امنیت و قابل اعتماد بودن هوش مصنوعی‌ها ایجاد شده است. در گزارش دیگری که ماه گذشته در پلتفرم ردیت منتشر شده بود، جمینای وارد لوپی شده بود که هوش خود را زیر سوال می‌برد و می‌گفت:«من فیک هستم، من کلاهبردار هستم، من یک جوک هستم و مغز ندارم.»
شک کردن مدل‌های هوش مصنوعی به خود
باید در نظر گرفت که مدل‌های هوش مصنوعی بر اساس دیتاهای موجودی که توسط انسان‌ها ساخته شده اند، ترین (train) شده‌اند و حتی برنامه‌نویسان نیز ممکن است گاها پس از عدم حل یک مشکل، از خود ناامید شده‌اند. با این وجود، تکرار مداوم جملات خود تخریب‌گری که جمینای از خود نشان داده است، هم تبدیل به جوک در میان کاربران اینترنت شده و هم افراد به این فکر فرو برده است که شاید مدل‌های هوش مصنوعی هنوز برای حل مشکلات بزرگ و انجام دادن بسیاری از مسئولیت‌ها، اماده نیستند.
بر اساس تحلیل اوان موریسون، نویسنده داستان‌های عملی-تخیلی، با زیر سوال بردن این مدل هوش مصنوعی که با مشکلات فنی بزرگی این چنینی مواجه شده و در لوپ زبانی ترس گیر افتاده است، این گونه واکنش نشان داده است:« آیا واقعا شرکت گوگل باور دارد که ادغام این هوش مصنوعی با حوزه پزشکی، تحصیلات، سلامت و نظامی امن است؟»
