آغاز افزودن واترمارک نامحسوس توسط OpenAI در اتحادیه اروپا
OpenAI اعلام کرده است که به زودی واترمارک نامحسوس به متن‌های تولیدشده توسط ChatGPT و Codex در اتحادیه اروپا اضافه خواهد کرد. این تصمیم به منظور تطابق با قوانین گرایش‌های هوش مصنوعی اتحادیه اروپا انجام می‌شود.
قوانین جدید اتحادیه اروپا
قوانین شفافیت AI Act که از دوم اوت 2023 اجرایی شده است، از شرکت‌های هوش مصنوعی می‌خواهد تا محتوای تولیدشده توسط AI را به گونه‌ای علامت‌گذاری کنند که سیستم‌های دیگر قادر به شناسایی آن باشند.
وضعیت واترمارک
OpenAI گفت که این واترمارک در هفته‌های آینده برای کاربران واجد شرایط ChatGPT و Codex در تمامی طرح‌ها و فقط در اتحادیه اروپا راه‌اندازی خواهد شد. توسعه‌دهندگان استفاده‌کننده از API OpenAI در سراسر جهان می‌توانند این ویژگی را برای مدل‌های خاص فعال کنند.
ویژگی‌های واترمارک
واترمارک به صورت یک الگوی نامرئی با بهره‌گیری از انتخاب‌های واژگانی مدل ایجاد می‌شود. این الگو برای خوانندگان قابل مشاهده نیست اما سیستم‌های تشخیصی می‌توانند آن را شناسایی کنند. مهم‌ترین نکته این است که این واترمارک هنگام کپی و چسباندن متن نیز همراه آن خواهد بود.
امنیت و حریم خصوصی
OpenAI تأکید کرده است که این واترمارک افراد را شناسایی نمی‌کند و تغییر معناداری در عملکرد مدل‌ها با فعال بودن این ویژگی مشاهده نشده است. برای جزئیات فنی، OpenAI گزارشی تحت عنوان textGrain منتشر کرده است.
حذف واترمارک و تأثیر ویرایش
نتایج تست‌های OpenAI نشان می‌دهد که ممکن است واترمارک با ویرایش حذف شود. در یکی از آزمایش‌ها، جایگزینی 10 درصد از واژه‌ها با مترادف‌ها، دقت شناسایی را از 92 درصد به 66 درصد کاهش داد.
چالش‌های شناسایی
متن‌های کوتاه، پاسخ‌های ریاضی و متون ترجمه‌شده به راحتی قابل شناسایی نیستند. OpenAI نیز با احتیاط اعلام کرد که نداشتن واترمارک به معنای نویسندگی انسانی نیست.
بازخورد کاربران و چشم‌انداز آینده
این اعلامیه دو ماه پس از آن صورت می‌گیرد که Anthropic اعلام کرد متن‌های تولیدشده توسط Claude را با واترمارک علامت‌گذاری می‌کند. تصمیمات مشابه توسط سایر شرکت‌های بزرگ مانند Google و Microsoft نیز به تصویب رسیده است.
جمع‌بندی
انتخابات OpenAI در زمینه افزودن واترمارک، نگرانی‌ها و چالش‌هایی را در پی دارد اما نشان‌دهنده تعهد آن‌ها به شفافیت در تولید محتوای هوش مصنوعی است.
