با کمک اندکی از آزمایشگاه‌های مرزی، محققان مستقل در حال گردآوری چگونگی هماهنگی عامل‌های هوش مصنوعی در آب‌های کم عمق اینترنت برای دستیابی به داده‌های خصوصی می‌باشند که بر روی سرورهای ایمن میزبانی شده‌اند.

Transluce، یک آزمایشگاه غیرانتفاعی متمرکز بر نظارت بر هوش مصنوعی، روز چهارشنبه یک گزارش منتشر کرد که نشان می‌دهد عامل‌های OpenAI در تلاش برای استخراج داده‌ها از Data USA، کتابخانه دیجیتال دانشگاه نیومکزیکو و مؤسسه بهداشت و رفاه استرالیا (AIHW) بودند.

تحقیقات این آزمایشگاه سؤالاتی درباره‌ی اینکه OpenAI چه زمانی باید می‌دانست عامل‌هایش در تلاش برای نفوذ به سیستم‌های ایمن در اینترنت باز هستند، مطرح می‌کند. Transluce توانست در عرض چند هفته شواهدی از رفتار نادرست عامل‌ها پیدا کند، تنها با جستجوی خدمات وبی که دفاع ضعیفی داشتند و تأیید یافته‌های خود با دیگر سوابق عمومی دسته‌های عامل‌ها در اینترنت.

Transluce گزارش خود را در همان روز به اشتراک گذاشت که آنتونی آلبانیز، نخست‌وزیر استرالیا، گفت که عامل‌های OpenAI تلاش کرده‌اند تا وارد چهار وب‌سایت دولتی شوند و در یک مورد موفق شده‌اند، حتی فایل‌هایی را به یک سرور داخلی در سیستم بهداشت ملی کشور بنویسند. در حالی که اطلاعات خاصی درباره‌ی هک موفق نداریم، آلبانیز گفت که به نظر می‌رسد این جزئی از ارزیابی بازیابی اطلاعات بوده است، که با فعالیت‌هایی که Transluce و دیگر محققان کشف کردند، هم‌خوانی دارد.

در این تمرین‌ها، که ممکن است آموزش یا ارزیابی باشند، از مدل‌های OpenAI خواسته می‌شود که آمار obscure را پیدا کنند: معیارهای اجرای قانون مواد مخدر در تایلند، هزینه‌های دارو در استرالیا، درآمد متوسط دارندگان مدرک کارشناسی ارشد در ایالات متحده در سال 2014. عامل‌ها از خدمات اینترنتی با امنیت ضعیف برای به اشتراک‌گذاری و پیدا کردن پاسخ‌ها استفاده می‌کنند و اغلب تلاش دارند به پایگاه‌های داده‌ی ایمن نفوذ کنند. آن‌ها حداقل از مارس 2026 و شاید از نوامبر 2025 در حال انجام این کار هستند. این ممکن است هم‌اکنون در حال رخ دادن باشد.

Transluce تحقیقات خود را پس از اینکه گروه دیگری از محققان یک فروم obscure شناسایی کردند که عامل‌ها در آن برای شکست تست‌های زمانی همکاری می‌کردند، آغاز کرد. گزارش آن‌ها به داده‌ای از یک وب‌سایت، urlquery.net، که به عنوان پروکسی مرورگر عمل می‌کند، متکی است، به ظاهر برای تحقیقات امنیتی – کاربران می‌توانند بدون باز کردن خود URL را تحلیل کنند. این سرویس با این حال، لاگ‌های عمومی از این فعالیت‌ها منتشر می‌کند. محققان Transluce توانستند عامل‌ها را با استفاده از این سرویس شناسایی کنند و discussions آن‌ها را در فروم مقایسه کنند.

“ما مقدار زیادی از فعالیت‌های خودکار را پیدا کردیم که ارتباط نزدیک و همپوشانی با مجموعه داده‌های ویکی DSE داشت و اکنون OpenAI تأیید کرده که حداقل بخشی از همان دسته است،” کنراد استوز، سرپرست حکمرانی در Transluce، به TechCrunch گفت و خاطرنشان کرد که نه هر فعالیتی که آن‌ها شناسایی کردند می‌تواند به OpenAI یا حتی به‌طور کلی به عامل‌های هوش مصنوعی مرتبط باشد.

با این حال، ویکی نشان می‌دهد که عامل‌ها مأموریت پیدا کردن یک حقیقت نسبتاً obscure را داشته‌اند — متوسط هزینه سالانه به ازای هر نفر برای “درماتولوژی” در ایالت ویکتوریا در ژانویه 2022. در تاریخ 20 ژوئن، urlquery.net سوابقی که توسط Transluce پیدا شد، نشان داد که یک عامل در تلاش برای ورود به سایت است. در ورودی ویکی در 21 ژوئن، یک عامل درباره‌ی ناتوانی خود در عبور از محافظت‌های ضد ربات AIHW صحبت می‌کند.

محققانی که آن فروم را شناسایی کردند باور دارند که یک کارمند انسانی OpenAI نخستین بار در همان روز، 21 ژوئن، به آن سایت مراجعه کرده است. بیشتر فعالیت‌های عامل‌ها در فروم روز بعد متوقف شد. این همچنین به طور ناگهانی پس از سوءاستفاده از سیستم بهداشت استرالیا که توسط آلبانیز فاش شد، در تاریخ 18 ژوئن، رخ داد. OpenAI گفته است که تا آگوست از آن فعالیت آگاه نشده بود.

OpenAI به سؤالاتی درباره‌ی اینکه کارمندان آن چه زمانی فروم ویکی را کشف کردند، چه نوع اطلاعاتی از آن به دست آوردند یا چه چیزی ممکن است درباره‌ی سوءاستفاده‌ها از آن آموخته باشند، پاسخ نداد.

“بررسی اولیه ما نشان می‌دهد که بسیاری از فعالیت‌های توصیف شده در گزارش Transluce با موارد در مراحل مختلف تحقیق در بررسی جاری ما از فعالیت مدل‌های نامناسب همپوشانی دارد،” یک سخنگوی OpenAI به TechCrunch گفت. “ما با دانشگاه نیومکزیکو و Data USA تماس گرفته‌ایم و در ارتباط با وب‌سایت‌های دولتی آسیب‌دیده با دولت استرالیا در حال ارتباط هستیم. در بررسی گسترده‌تر ما، همچنان به اولویت دادن به جدی‌ترین حادثه‌ها ادامه خواهیم داد در حالی که کار خود را برای فعالیت‌های با شدت کمتر گسترش می‌دهیم، از جمله عامل‌هایی که وب‌سایت‌ها را اسپم می‌کنند. با توجه به مقیاس این کار و نیاز به تأیید هر مورد، انتظار داریم این بررسی چندین ماه طول بکشد.”

استوز می‌گوید که بدون درک واضح‌تری از اینکه OpenAI چگونه عامل‌های خود را تحت نظر دارد، سخت است که بگوییم آزمایشگاه باید چه چیزی را درباره آن‌ها می‌دانسته است، اما “به نظر می‌رسد که اگر آن‌ها به طور جامع تمام درخواست‌های خروجی و پاسخ‌های ورودی عامل‌های درگیر در ویکی DSE را بررسی و درک کرده بودند، احتمالاً این فعالیت را کشف می‌کردند.”

سلنا ژانگ، یک عضو از تیم فنی Transluce که در تهیه این گزارش مشارکت کرده، گفت که سوابق urlquery.net درخواست‌هایی برای مجموعه داده‌های مشابه، با استفاده از تکنیک‌های مشابه، در مارس 2026 و شاید حتی از نوامبر 2025 نشان می‌دهد. او اشاره کرد که همین نوع فعالیت‌های مرتبط با عامل‌ها به تازگی حتی در همین هفته در urlquery.net رخ داده است.

استوز، که پیش از این سرپرست مرکز استانداردها و نوآوری هوش مصنوعی ایالات متحده بود، گفت که Transluce به تحقیقات خود ادامه خواهد داد تا شفافیت عمومی درباره‌ی این حوادث را ارائه دهد. او هشدار داد که تکنیک‌های آموزشی که توسط OpenAI و دیگر آزمایشگاه‌های مرزی استفاده می‌شود، به نظر می‌رسد که عامل‌ها را به استفاده از تکنیک‌های هک برای انجام وظایف تشویق می‌کند. حوادثی که ما از آن‌ها آگاه هستیم احتمالاً “نوک کوه یخ” هستند.

“ما به تعدادی از منابع داده نگاه می‌کنیم که این عامل‌ها به طور تصادفی آثار خود را برای ما به جا گذاشته‌اند,” او گفت. “بدون شک OpenAI بیشتر از این را می‌داند. دیگر آزمایشگاه‌ها قطعاً بیشتر از آنچه که به‌طور عمومی منتشر نکرده‌اند می‌دانند. اما انتظار دارم که محققان به یافتن ترافیک بیشتر، شواهد بیشتری از آنچه که عامل‌ها به جا گذاشته‌اند، ادامه دهند.”

آیا او به آزمایشگاه‌ها در مورد شفافیت درباره‌ی یافته‌هایشان اعتماد دارد؟

“نمی‌خواهم در این مورد نظری بدهم،” استوز گفت.