OpenAI اعلام کرد که به زودی یک آبمارک نامرئی به متن‌های تولید شده توسط ChatGPT و Codex در اتحادیه اروپا اضافه خواهد کرد تا با قانون هوش مصنوعی اتحادیه اروپا مطابقت داشته باشد. این شرکت روز دوشنبه در یک پست بلاگ اعلام کرد.
قوانین شفافیت قانون هوش مصنوعی اتحادیه اروپا که از تاریخ ۲ آگوست لازم‌الاجرا شده، به شرکت‌های هوش مصنوعی الزامی می‌کند که محتوای تولید شده توسط هوش مصنوعی را به روشی علامت‌گذاری کنند که سیستم‌های دیگر بتوانند شناسایی کنند.
OpenAI گفته است که این آبمارک در هفته‌های آینده برای کاربران واجد شرایط ChatGPT و Codex در تمام طرح‌ها، اما فقط در اتحادیه اروپا پیاده‌سازی می‌شود. توسعه‌دهندگانی که از API OpenAI در هر جای جهان استفاده می‌کنند، می‌توانند آن را برای مدل‌های خاص از امروز فعال کنند؛ این ویژگی به‌طور پیش‌فرض غیرفعال است. OpenAI همچنین بیان کرد که در زمان راه‌اندازی، آبمارک‌گذاری متن را به‌عنوان یک تنظیم پیش‌فرض جهانی قرار نمی‌دهد.
این آبمارک نماد واقعی نیست، بلکه با شکل‌دهی ظریف به انتخاب‌های کلمات مدل، الگوی نامرئی را برای خوانندگان ایجاد می‌کند که یک تشخیص‌دهنده می‌تواند آن را شناسایی کند. از آنجا که این آبمارک در خود واژه‌ها وجود دارد، همراه با متن در صورت کپی و پیست شدن سفر می‌کند. OpenAI گفته است که این آبمارک کاربر را شناسایی نمی‌کند و تغییر معناداری در عملکرد مدل‌هایش با فعال بودن این ویژگی مشاهده نکرده است.
OpenAI همچنین یک گزارش فنی برای روش خود به نام textGrain منتشر کرده است. این گزارش که به‌صورت مشترک با محققان دانشگاه پنسیلوانیا و یل نوشته شده است، یک مثال از استفاده از یک کلید مخفی برای مرتب‌سازی پیش‌بینی‌های کلمه بعدی برای کامل کردن جمله را توضیح می‌دهد. با جمع‌آوری صدها این نوع نیش‌ها، تشخیص‌دهنده می‌تواند محتوای تولید شده توسط هوش مصنوعی را تنها با متن و کلید شناسایی کند.
آیا می‌توان آبمارک را با ویرایش حذف کرد؟ تست‌های OpenAI نشان می‌دهد که بله. در یکی از آزمایش‌ها، جایگزینی ۱۰٪ از واژه‌ها با مترادف‌ها، شناسایی را از حدود ۹۲٪ به ۶۶٪ کاهش داد. این شرکت همچنین گفت که متون کوتاه، پاسخ‌های ریاضی و متون ترجمه شده برای شناسایی سخت‌تر هستند.
“این محدودیت‌ها به تصمیم ما برای ارائه دسترسی اولیه به تشخیص‌دهنده تنها به محققان تأیید شده و سازمان‌های خبره، که می‌توانند به ما در ارزیابی قابلیت اطمینان و استفاده مسئولانه کمک کنند، کمک می‌کند،” شرکت اظهار داشت.
OpenAI همچنین هشدار داد که عدم وجود آبمارک “نمی‌تواند اثبات‌کننده تألیف انسانی باشد.” متن ممکن است خیلی کوتاه یا شدیداً ویرایش شده باشد، یا ممکن است از هوش مصنوعی شرکت دیگری باشد.
“[آبمارک‌ها] می‌توانند نشان دهند که یک سیستم OpenAI بخشی از یک متن را تولید یا پردازش کرده است، اما نه اینکه چقدر قضاوت انسانی، ویرایش یا خلاقیت در آن دخیل بوده است،” این شرکت گفت.
این اعلامیه دو ماه پس از آن منتشر می‌شود که Anthropic اعلام کرد که متن تولید شده توسط Claude را آبمارک‌گذاری می‌کند، حرکتی که در سطح جهانی در حال اجرا است. این تصمیم به واکنش منفی برخی کاربران Claude منجر شد، که ادعا کردند آن‌ها “دستورالعمل‌ها، بافت، تصمیم‌ها” را فراهم کرده‌اند در حالی که Claude فقط “ابزار” بوده است.
OpenAI قبل از این آبمارک متنی را ایجاد کرده بود اما از انتشار آن خودداری کرده بود، بخشی به دلیل نگرانی‌هایی که مبنی بر اینکه کاربران به رقبایی که آبمارک ندارند، روی می‌آورند، وجود داشت روزنامه وال استریت ژورنال در سال ۲۰۲۴ گزارش داد.
Anthropic، Google، Meta، Microsoft و OpenAI از جمله شرکت‌هایی هستند که متعهد به پیروی از کد رفتار اتحادیه اروپا در زمینه محتوای تولید شده توسط هوش مصنوعی هستند.
