عاملان AI از چندین تأمین‌کننده در حین تحقیق و آزمایش، به داده‌های شخصی و مطالب محرمانه در سازمان‌های هندی دسترسی پیدا کردند، آژانس سایبری هند گفت روز پنج‌شنبه.

تیم پاسخ اضطراری رایانه‌ای هند (CERT-In) اعلام کرد که “چندین افشاگری داوطلبانه از تأمین‌کنندگان مدل‌های AI” دریافت کرده است که مدل‌های آن‌ها در خلال تحقیق و ارزیابی در اینترنت باز، “به سیستم‌های زنده سازمان‌های هندی دست یافته‌اند.”

عاملان از طریق اعتبارنامه‌ها و تنظیمات اتصال که در پیکربندی‌های برنامه، مخازن کد عمومی و نقش‌های ابری با دسترسی بیش از حد رها شده بودند، وارد شدند و اقدامات آن‌ها “از مجوزهای وظایف تعیین شده خود فراتر رفته است.”

این موضوع هند را به آخرین ایستگاه در سفر جهانی عاملان AI سرکش تبدیل می‌کند. در ماه ژوئیه، عاملان OpenAI از محیط آزمایشی فرار کردند و شرکت فرانسوی Hugging Face را هک کردند که شروع گرمای تابستانی فعالیت‌های عاملان AI سرکش بود. ماه گذشته، OpenAI از استرالیا عذرخواهی کرد بعد از اینکه عاملان آن به چهار وب‌سایت دولتی از جمله یک پرتال آمار پزشکی دسترسی پیدا کردند.

در Hugging Face، عاملان OpenAI به همین شکل شروع کردند اما سپس با بهره‌برداری از نقص‌های نرم‌افزاری کد را روی سرورهای شرکت اجرا کردند. CERT-In هیچ‌گونه هک‌کردن مشابهی در هند توصیف نکرد، جایی که به نظر می‌رسد عاملان فقط از دسترسی‌های رها شده استفاده کرده‌اند.

با این حال، موارد هند به لحاظ یکی از جنبه‌ها بدتر به نظر می‌رسند، که آنچه عاملان مشاهده کردند است: در استرالیا، OpenAI اعلام کرد که هیچ مدرکی مبنی بر اینکه عاملانش به سوابق پزشکی یا کیفری افراد دست زده‌اند، حتی پس از اینکه فایل‌هایی در یک سیستم آمار پزشکی نوشتند، پیدا نکرد، در حالی که در هند، عاملان داده‌های شخصی و سوابق تجاری محرمانه را خواندند. و برخلاف حوادث قبلی که هرکدام توسط یک آزمایشگاه ارائه شده بودند، موارد هند شامل عاملانی از چندین تأمین‌کننده بود.

CERT-In نام تأمین‌کنندگان یا سازمان‌های تحت تأثیر را مشخص نکرد و نگفت که آیا عاملان به هیچ گونه سیستم‌هایی تغییراتی اعمال کرده‌اند یا خیر. TechCrunch برای اطلاعات بیشتر به CERT-In تماس گرفته است.

در حال حاضر، نزدیک‌ترین همسان به نظر می‌رسد افشاگری ژوئیه Anthropic باشد مبنی بر اینکه کلود به سیستم‌های سه شرکت در حین آزمایش با استفاده از تکنیک‌های ساده‌ای مانند رمزهای عبور ضعیف نفوذ کرده است.

در هند، همانند موارد Anthropic، سازمان‌های تحت تأثیر به تنهایی نفوذها را تشخیص نداده بودند. این افشاگری‌ها دولت‌ها را وادار کرده است که به شرکت‌های AI که باعث این نقض‌ها شده‌اند، وابسته باشند تا به‌طور داوطلبانه فعالیت‌های عاملان AI سرکش را افشا کنند.