به گزارش تجارت نیوز، آنتروپیک جزئیات تازهای از فناوری واترمارک نامرئی کلاود منتشر کرده است؛ سیگنالی آماری که بدون افزودن کاراکتر یا اطلاعات مخفی به متن، میتواند احتمال تولید یا پردازش آن توسط کلود را مشخص کند.
آنتروپیک در توضیح جدید خود تلاش کرده به یکی از مهمترین ابهامهای مطرحشده درباره واترمارک متنی کلاود پاسخ دهد: اگر قرار نیست یک علامت قابل مشاهده یا حتی یک رشته کاراکتر مخفی داخل متن قرار بگیرد، پس این واترمارک دقیقاً کجاست و چگونه میتوان آن را پیدا کرد؟
پاسخ، برخلاف تصور اولیه، در خودِ شکل ظاهری متن نیست؛ بلکه در الگوی آماری انتخاب کلمات قرار دارد. کلاود هنگام تولید متن معمولاً برای ادامه جمله، چندین گزینه با احتمالهای مختلف پیش رو دارد. فناوری واترمارک میتواند در همین مرحله، انتخاب میان گزینههای مناسب را به شکلی بسیار ظریف تغییر دهد تا در حجم کافی از متن، یک الگوی آماری قابل تشخیص ایجاد شود؛ الگویی که برای خواننده عادی نامرئی است اما یک سامانه تشخیص میتواند آن را بررسی کند. گزارشهای منتشرشده درباره توضیحات آنتروپیک نیز این روش را به خانواده فناوریهایی مانند «سینثآیدی متن» نسبت میدهند.
نکته مهم این است که این فناوری کاراکتر اضافه، متادیتای مخفی یا توکن اضافی به متن اضافه نمیکند. در نتیجه، متن نهایی از نظر ظاهر، طول و خوانایی قرار نیست تفاوت محسوسی با خروجی عادی کلاود داشته باشد. آنتروپیک همچنین میگوید واترمارک نباید کیفیت یا خلاقیت خروجی را به شکل محسوسی تغییر دهد و هزینه یا تأخیر قابلتوجهی هم به فرایند تولید متن اضافه نمیکند.
این موضوع یک تفاوت مهم با واترمارکهای رایج در تصاویر دیجیتال دارد. در تصویر میتوان اطلاعاتی را در پیکسلها یا متادیتا قرار داد؛ اما در متن، چنین روشی بسیار دشوارتر است، چون کوچکترین تغییر در حروف، فاصلهها یا ساختار جمله میتواند نشانه را از بین ببرد. به همین دلیل آنتروپیک بهجای چسباندن یک «برچسب» به متن، سراغ اثر انگشت آماری رفته است.
واترمارک کلود با کپی و پیست چه میکند؟
یکی از نگرانیهای اصلی کاربران این بود که آیا با یک کپی ساده میتوان این نشانه را از بین برد یا نه. پاسخ آنتروپیک این است که واترمارک به خودِ متن تعلق دارد و هنگام کپی و پیست، همراه متن منتقل میشود. این شرکت پیشتر نیز اعلام کرده بود که نشانه ممکن است بعد از برخی ویرایشها همچنان باقی بماند.
اما «باقی ماندن» به معنی «غیرقابل حذف بودن» نیست. ویرایشهای سبک ممکن است بخشی از سیگنال را حفظ کنند، در حالی که بازنویسی گسترده میتواند آن را تضعیف یا حتی از بین ببرد. بنابراین قرار نیست هر متنی که یکبار وارد کلاود شده، برای همیشه و در هر شرایطی قابل شناسایی باشد.
همین نکته یکی از مهمترین محدودیتهای فناوری است. اگر کاربر متن را بهشدت بازنویسی کند یا بخش زیادی از آن را تغییر دهد، میزان اطلاعات آماری باقیمانده از خروجی اولیه کاهش پیدا میکند. در مقابل، اصلاحات جزئی، ویرایش نگارشی یا تغییرات محدود ممکن است هنوز بخش قابلتوجهی از الگوی اصلی را نگه دارد. آنتروپیک تأکید کرده که نتیجه سامانه تشخیص باید بهعنوان نشانهای از دخالت کلاود در نظر گرفته شود، نه یک اثبات قطعی درباره منشأ متن.
آیا این یعنی هر متنی که با کلاود ویرایش شده، «ساختهشده با هوش مصنوعی» محسوب میشود؟
نه لزوماً. این یکی از حساسترین بخشهای طراحی آنتروپیک است.
فرض کنید یک کاربر متنی را خودش نوشته و بعد آن را برای اصلاح نگارشی یا بهبود ساختار به کلاود میدهد. در چنین حالتی، بخش عمده متن از ابتدا توسط انسان نوشته شده است. اگر کلاود فقط مقدار محدودی از متن را تغییر دهد، سیگنال آماری ممکن است آنقدر ضعیف شود که تشخیص آن دشوار باشد.
از سوی دیگر، اگر کلاود متن را از ابتدا تولید کند یا بخش بزرگی از آن را بازنویسی کند، احتمال باقی ماندن یک الگوی قابل تشخیص بیشتر خواهد بود. بنابراین این فناوری بیشتر از آنکه یک «آشکارساز قطعی هوش مصنوعی» باشد، ابزاری برای برآورد احتمال دخالت کلاود است.
این تفاوت برای محیطهای دانشگاهی و کاری اهمیت زیادی دارد. یک سامانه تشخیص نمیتواند صرفاً با دیدن واترمارک نتیجه بگیرد که تمام ایدهها، اطلاعات یا متن توسط هوش مصنوعی ساخته شدهاند. نهایتاً میتواند نشان دهد که خروجی کلاود احتمالاً در شکلگیری متن نقش داشته است.
تکلیف کدنویسی چه میشود؟
موضوع برای کد حتی پیچیدهتر است. برخلاف متن معمولی، برنامهنویس نمیتواند همیشه یک کلمه یا توکن را با گزینهای تقریباً مشابه جایگزین کند. یک تغییر کوچک ممکن است باعث شود کد دیگر اجرا نشود یا رفتار متفاوتی داشته باشد.
به همین دلیل، واترمارکگذاری کد محدودیتهای بیشتری دارد. در بخشهایی که انتخاب میان توکنهای مختلف میتواند بدون تغییر عملکرد برنامه انجام شود، امکان ایجاد سیگنال بیشتر است؛ اما جایی که یک توکن مشخص از نظر نحوی یا منطقی ضروری است، آزادی مدل برای تغییر انتخاب کاهش پیدا میکند. در نتیجه، انتظار نمیرود تمام بخشهای یک قطعه کد با قدرت یکسان واترمارک شوند.
این موضوع اهمیت زیادی دارد، چون کلاود در سالهای اخیر به یکی از ابزارهای مهم برنامهنویسی تبدیل شده و محصولاتی مانند کلاود کد مستقیماً برای تولید و ویرایش کد استفاده میشوند. در چنین شرایطی، واترمارک فقط مسئله مقاله یا تکلیف دانشگاهی نیست؛ بلکه میتواند وارد فرایند توسعه نرمافزار، بررسی مالکیت کد و حتی سیاستهای شرکتها درباره استفاده از هوش مصنوعی شود.
ترجمه هم میتواند ردپای کلود را حفظ کند
ترجمه وضعیت متفاوتی دارد. اگر کاربر یک متن موجود را به کلاود بدهد و مدل آن را به زبان دیگری ترجمه کند، خروجی جدید تقریباً بهطور کامل توسط مدل تولید میشود. بنابراین فرصت بیشتری برای ایجاد الگوی آماری در متن مقصد وجود دارد.
این مسئله نشان میدهد که واترمارک کلاود لزوماً محدود به متن انگلیسی تولیدشده از صفر نیست. هرجا مدل آزادی کافی برای تولید توالی جدیدی از کلمات داشته باشد، امکان ایجاد سیگنال نیز بیشتر خواهد بود. در مقابل، هرچه متن خروجی بیشتر به محتوای از قبل موجود وابسته باشد و مدل آزادی کمتری در انتخاب توکنها داشته باشد، قدرت واترمارک نیز میتواند کاهش پیدا کند.
چرا آنتروپیک حالا این کار را انجام میدهد؟
این تغییر در خلأ اتفاق نیفتاده است. اتحادیه اروپا از ۲ اوت ۲۰۲۶ الزامات جدید شفافیت مرتبط با محتوای تولیدشده یا ویرایششده با هوش مصنوعی را در چارچوب مقررات هوش مصنوعی خود وارد مرحله اجرا کرده است. آنتروپیک اعلام کرده مدلهای جدید خود را به فناوریهای نشانهگذاری مجهز میکند و برای فایلها نیز از استاندارد باز «سی۲پیای» استفاده میکند.
اهمیت این تصمیم در آن است که واترمارک در سطح مدل اعمال میشود، نه صرفاً در یک محصول خاص. یعنی اگر خروجی از طریق سرویس یا رابط متفاوتی ارائه شود، اصل سازوکار میتواند همچنان همراه آن باشد. آنتروپیک پیشتر گفته بود این فناوری باید در محصولات مختلف کلاود و همچنین سرویسهایی که مدلهای این شرکت را ارائه میکنند، قابل اعمال باشد.
برای فایلها و تصاویر، سازوکار متفاوت است. در این بخش آنتروپیک بهجای واترمارک آماری متن از استاندارد «سی۲پیای» و اطلاعات مربوط به منشأ محتوا استفاده میکند؛ روشی که به فایل اجازه میدهد اطلاعات قابل بررسی درباره سابقه تولید یا تغییرات آن داشته باشد.
یک ابزار تشخیص عمومی هم در راه است
در حال حاضر، یکی از پرسشهای مهم این است که چه کسی میتواند واترمارک را تشخیص دهد. آنتروپیک گفته است در حال توسعه ابزارهایی برای تشخیص این نشانههاست و قصد دارد یک رابط برنامهنویسی کاربردی برای بررسی واترمارک در اختیار دیگران قرار دهد. این اتفاق میتواند تشخیص منشأ متن را از یک قابلیت داخلی آنتروپیک به ابزاری تبدیل کند که سرویسهای دیگر نیز بتوانند از آن استفاده کنند.
اما اینجا یک چالش جدی شکل میگیرد: تشخیص واترمارک با اثبات نویسندگی یکی نیست.
اگر سامانه بگوید یک متن احتمالاً دارای نشان کلاود است، این نتیجه الزاماً به این معنی نیست که کلاود نویسنده اصلی آن متن بوده است. ممکن است انسان متن را نوشته باشد و مدل فقط آن را بازنویسی یا ترجمه کرده باشد. از طرف دیگر، اگر واترمارک به دلیل ویرایش گسترده دیگر قابل تشخیص نباشد، نبودن آن نیز ثابت نمیکند که کلاود هیچ نقشی نداشته است. همین مسئله میتواند استفاده از این فناوری را در تصمیمهای حساس، مانند ارزیابی دانشجو یا بررسی تخلف کاری، پیچیده کند.
در نهایت، اقدام آنتروپیک را میتوان بخشی از حرکت بزرگتر صنعت هوش مصنوعی به سمت قابلردیابیکردن محتوای تولیدشده توسط مدلها دانست. کلاود قرار نیست روی صفحه یک برچسب بزرگ ساختهشده با هوش مصنوعی نمایش دهد؛ بلکه یک اثر انگشت آماری بسیار ظریف در فرایند تولید ایجاد میکند که انسان آن را نمیبیند، اما یک ابزار تخصصی میتواند به دنبال آن بگردد.
این رویکرد از یک سو میتواند به مقابله با جعل منشأ محتوا و افزایش شفافیت کمک کند و از سوی دیگر، پرسشهای تازهای درباره حریم خصوصی، مالکیت محتوا، استفاده از هوش مصنوعی در محیط کار و دانشگاه و اعتبار ابزارهای تشخیص هوش مصنوعی ایجاد میکند. مهمتر از همه، آنتروپیک خودش نیز این فناوری را یک مدرک مطلق نمیداند؛ واترمارک قرار است احتمال دخالت کلاود را نشان دهد، نه اینکه بهتنهایی درباره نویسنده واقعی یک متن حکم صادر کند.
منبع: فارس
