OpenAI از پیاده‌سازی واترمارک در متون ChatGPT صرف‌نظر کرد

واترمارک کردن یا «نشانه‌گذاری» متون ChatGPT به‌گونه‌ای طراحی شده که پیش‌بینی‌های مدل از کلمات و عبارات بعدی را به نحوی تنظیم می‌کند که الگویی قابل شناسایی ایجاد کند. این تکنیک می‌تواند به معلمان کمک کند تا متون نوشته شده توسط هوض مصنوعی را از آثار انسانی تفکیک کنند، که می‌تواند در محیط‌های آموزشی مفید واقع شود. با این حال، نگرانی‌هایی درباره تأثیر منفی احتمالی این تکنیک بر کیفیت متن‌ها و تجربه کاربران وجود دارد. گزارش‌ها نشان می‌دهند که استفاده از واترمارک‌ها تأثیری بر کیفیت متن‌های تولید شده نداشته، اما ممکن است در مواردی مشکلاتی برای کاربران به وجود آورد.

نگرانی‌ها و واکنش کاربران

OpenAI تأیید کرده که روی سیستم نشانه‌گذاری متون کار کرده است و این روش را بسیار دقیق و تا 99.9% مؤثر ارزیابی کرده است. این تکنیک به گفته شرکت، مقاوم به «دستکاری‌هایی مانند بازنویسی» است. با این حال، شرکت نگران است که تکنیک‌های تغییر واژگان با مدل‌های دیگر ممکن است به راحتی توسط افراد بدخواه دور زده شود. همچنین، OpenAI نگران است که استفاده از واترمارک‌ها ممکن است به اعتبار ابزارهای AI آسیب بزند و کاربران را تحت تأثیر قرار دهد. طبق نظرسنجی‌ها، تقریباً 30 درصد از کاربران چت‌جی‌پی‌تی اعلام کرده‌اند که اگر واترمارک متون ChatGPT پیاده‌سازی شود، از نرم‌افزار کمتر استفاده خواهند کرد.

با توجه به نگرانی‌های کاربران، برخی از کارکنان OpenAI پیشنهاد داده‌اند که روش‌های «کمتر بحث‌برانگیز ولی اثبات‌نشده» را بررسی کنند. در بروزرسانی اخیر وبلاگ، شرکت اعلام کرد که «در مراحل ابتدایی» بررسی پیاده‌سازی متادیتا است. این روش به دلیل امضا شدن به صورت رمزنگاری شده، احتمال وجود فواید کاذب را به حداقل می‌رساند و می‌تواند راه‌حلی برای چالش‌های پیش رو ارائه دهد.

در نتیجه OpenAI در حال بررسی گزینه‌های جدیدی است که هم به نیازهای کاربران پاسخ دهد و هم به مسائل امنیتی و کیفیت توجه کند.