توسعه جدید OpenAI: افزودن علامت‌گذاری متنی به ChatGPT و Codex
OpenAI در حال معرفی علامت‌گذاری متنی به ChatGPT و Codex است، اما در ابتدا تنها برای کاربران اتحادیه اروپا فعال خواهد شد. این فناوری به نام “textGrain” شناخته می‌شود و به‌طور خاص برای پاسخگویی به الزامات قانون هوش مصنوعی اتحادیه اروپا طراحی شده است.
ویژگی‌های جدید علامت‌گذاری متن
OpenAI اعلام کرده که علامت‌گذاری textGrain عملکردی مشابه یا بهتر از روش‌های دیگر مانند SynthID گوگل دیپ‌مایند دارد. این فناوری می‌تواند تشخیص دهد که آیا یک متن تحت علامت‌گذاری قرار دارد یا خیر، اما به گفته OpenAI، این به معنای تضمین دقت یا تایید مالکیت متن نیست.
توسعه مرحله‌ای
این ویژگی به‌زودی برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا فعال خواهد شد. OpenAI به‌وضوح اعلام کرده است که این علامت‌گذاری در ابتدا به عنوان پیش‌فرض جهانی راه‌اندازی نخواهد شد. این رویکرد منطقه‌ای به آنها این امکان را می‌دهد که از بازخورد واقعی کاربران بهره‌برداری کنند.
امکان انتخاب برای مشتریان API
از امروز، مشتریان API در سراسر جهان قادر خواهند بود تا خروجی‌های متنی علامت‌گذاری‌شده را برای مدل‌های خاص انتخاب کنند. این به مشتریان این امکان را می‌دهد که تعیین کنند چگونه علامت‌گذاری با الزامات شفافیت آنها سازگار است.
دسترسی به ابزار تشخیص برای محققان
محققان و سازمان‌های متخصص مجاز می‌توانند از امروز درخواست دسترسی به ابزار تشخیص را ارائه دهند. این ابزار قادر به شناسایی watermark آ‌ن‌هائی است که OpenAI ایجاد کرده، بدون اینکه کاربر را شناسایی کند.
نگرانی‌ها و چالش‌ها
با اضافه شدن این ویژگی، برخی از کاربران نگران امکان خطا در تشخیص watermark یا نتایج مثبت کاذب هستند. OpenAI به این نکته توجه دارد و در حال حاضر در حال بررسی روش‌های بهبود آن است.
نتیجه‌گیری
حرکت OpenAI به سمت علامت‌گذاری متنی، نشان از تعهد آن به شفافیت و پیروی از الزامات قانونی دارد. با این حال، چالش‌های همچنان باقی است و نیاز به زمان دارد تا این فناوری به بهترین شکل ممکن مورد استفاده قرار گیرد.
