چالش‌های جدی ابزار هوش مصنوعی Whisper در کاربردهای پزشکی

به گزارش تجارت نیوز،

ابزار تبدیل گفتار به متن OpenAI به نام Whisper به عنوان تکنولوژی‌ای با دقت و قابلیت نزدیک به انسان معرفی شده است. با اینکه OpenAI توصیه کرده ابزار تبدیل گفتار به متن Whisper در محیط‌های پرخطر به‌ کار گرفته نشود، مهندسان نرم‌افزار و پژوهشگران از مشاهده توهم‌های Whisper ابراز نگرانی کرده‌اند.

این توهمات ممکن است شامل محتوای نژادی نادرست، زبان خشن یا حتی توصیه‌های درمانی ساختگی باشند. در حوزه‌هایی مانند سلامت، عواقب چنین اطلاعات نادرستی می‌تواند بسیار جدی و خطرناک باشد.

خطرات ابزار Whisper برای بیماران و کم‌شنوایان

در حوزه پزشکی، برخی بیمارستان‌ها و سیستم‌های بهداشتی از Whisper برای ضبط مشاوره‌های پزشک و بیمار استفاده کرده‌اند. این ابزار که از سوی شرکت Nabla توسعه یافته، در حدود هفت میلیون مشاوره پزشکی را پردازش کرده است. اگرچه Nabla توصیه کرده که پزشکان قبل از استفاده از متن‌ها، آنها را ویرایش کنند، حذف فایل‌های صوتی اولیه مانع از بررسی دقیق خطاها می‌شود.

ابزار Whisper همچنین برای افراد ناشنوا و کم‌شنوا چالش‌های ویژه‌ای ایجاد می‌کند. این افراد به نسخه‌های مکتوب قابل اعتماد برای دسترسی نیاز دارند، اما وقتی محتوای نادرست در متن جای می‌گیرد، تشخیص خطا برای آنها ممکن نیست.

کریستین فوگلر، مدیر برنامه دسترسی به فناوری دانشگاه گالودت، تاکید کرده است این مساله می‌تواند ریسک بزرگی در استفاده از Whisper برای زیرنویس‌گذاری بسته ایجاد کند.

نگرانی‌های مربوط به حریم خصوصی بیماران

استفاده از Whisper در حوزه پزشکی همچنین نگرانی‌هایی در مورد حریم خصوصی بیماران ایجاد کرده است. ربکا باوئر-کهان، یکی از اعضای مجمع کالیفرنیا، به دلیل نگرانی از دسترسی شرکت‌های انتفاعی به اطلاعات پزشکی‌اش، از امضای رضایت‌نامه‌ای که اجازه اشتراک‌گذاری فایل‌های صوتی ملاقات با پزشک خود را می‌داد، خودداری کرد.

محبوبیت و نگرانی‌های آینده Whisper

با وجود این ریسک‌ها، Whisper همچنان به طور گسترده در صنایع مختلف مورد استفاده قرار می‌گیرد. تنها در ماه گذشته، نسخه‌ای از این ابزار در پلتفرم HuggingFace بیش از 4.2 میلیون بار دانلود شده است. کاربردهای این ابزار از مراکز تماس تا دستیارهای صوتی و ترجمه‌ متون به زبان‌های مختلف را دربر می‌گیرد.

با رشد تقاضا برای ابزارهای تبدیل گفتار به متن، نیاز به دقت و شفافیت بیشتر در این فناوری‌ها اهمیت بیشتری می‌یابد.