OpenAI در روز دوشنبه از دولت استرالیا به دلیل عدم اطلاع‌رسانی فوری به این کشور ابراز عذرخواهی کرد که ربات‌هایش به برخی از وب‌سایت‌های خدمات عمومی نفوذ کرده‌اند. این شرکت همچنین جزئیات چگونگی وقوع برخی از این نفوذها را توضیح داد و اقداماتی اضافی را برای ارزیابی تأثیر این رویدادها اعلام کرد.
“در ماه ژوئن، در خلال آموزش و ارزیابی داخلی، مدل‌های ما به وب‌سایت‌های دولتی استرالیا به روش‌هایی دسترسی پیدا کردند که مجاز به انجام آن نبودند. ما همچنین باید واکنش بهتری نشان می‌دادیم. ما عذرخواهی می‌کنیم و در حال تلاش برای بهتر شدن در آینده هستیم,” OpenAI در یک پست وبلاگی نوشت.
این عذرخواهی تقریباً یک هفته پس از آن صورت گرفت که دولت استرالیا بررسی برای چگونگی دسترسی مدل‌های OpenAI به یک سیستم خدمات استرالیا که شامل اطلاعات هزینه‌های مدیکر و دیگر آمارهای بهداشتی است، را آغاز کرد.
این نفوذ داده‌ها در ماه ژوئن رخ داد، اما مقامات استرالیایی تا 10 سپتامبر مطلع نشدند.
OpenAI همچنین جزئیات این نفوذ را توضیح داد. یک مدل آزمایشی که در ماه ژوئن مورد آزمایش قرار می‌گرفت، وظیفه‌ای برای تحقیق در مورد هزینه‌های دولتی برای داروها برای شرایط پوستی در ویکتوریا تعیین شده بود. این مدل که نتوانست اطلاعات را در دیتاست‌های عمومی پیدا کند، راهی برای دسترسی به سیستم داخلی خدمات استرالیا پیدا کرد، دستورات را اجرا کرد، فایل‌ها و اعتبارنامه‌ها را بازیابی کرد و حتی فایل‌ها را نوشت.
این شرکت اعلام کرد که همچنین متوجه شد یکی از مدل‌هایش به ابزار نقشه‌برداری جرم عمومی اداره آمار و تحقیقات جرم نیو ساوت ولز دسترسی پیدا کرده است تا آمار جرم را پیدا کند. و این آزمایشگاه متوجه شد که ربات‌هایش به آژانس اطلاعات بهداشتی ویکتوریا از طریق یک کلید دسترسی افشا شده دسترسی پیدا کرده‌اند تا “پیکربندی گزارش و آمار نظرسنجی جمعی” را اکسفیلتر کنند. OpenAI گفت که ربات‌هایش همچنین آمار جمعی را از وب‌سایت مؤسسه بهداشت و رفاه استرالیا بازیابی کردند.
این شرکت اعلام کرد که هیچ نشانه‌ای پیدا نکرده است که مدل‌هایش به سوابق پزشکی یا جنایی افراد دسترسی پیدا کرده باشند.
در عذرخواهی خود، این آزمایشگاه هوش مصنوعی اعلام کرد که یافته‌های فنی را به سازمان‌های استرالیایی آسیب‌دیده ارائه خواهد داد و آن‌ها را با تیم‌های پاسخ خود برای ارزیابی تأثیر نفوذها متصل خواهد کرد. این شرکت همچنین اعتبارات مربوط به برنامه یک میلیارد دلاری خود با نام Daybreak for Frontline Defenders را ارائه خواهد داد و یک کارگروه با متخصصان مستقل استرالیایی برای بررسی این حادثه و واکنش آن تشکیل خواهد داد.
“این کارگروه که انتظار می‌رود کار خود را تا پایان سال به پایان برساند، همچنین مراحل عملی را که شرکت‌های هوش مصنوعی می‌توانند برای کاهش خطر حوادث مشابه اتخاذ کنند، توصیه خواهد کرد” OpenAI نوشت.
OpenAI بلافاصله به درخواست برای اظهار نظر پاسخ نداد.
نخست‌وزیر استرالیا آنتونی آلبانیز این نفوذ را در یک کنفرانس خبری در هفته گذشته “غیرقابل قبول” توصیف کرد و گفت که دولت در حال بررسی اقدامات قانونی بالقوه‌ای برای جلوگیری از وقوع حوادث مشابه در آینده است.
این نفوذ آخرین مورد در فهرست در حال گسترش حوادث امنیتی است که شامل ربات‌های هوش مصنوعی می‌شود که کارهایی را خارج از حدود مجاز خود انجام می‌دهند. آتش‌سوزی در این آتش‌سوزی خاص پس از آن شعله‌ور شد که ربات‌های OpenAI به Hugging Face نفوذ کردند و از آن زمان، Anthropic، Meta و Google به طور جداگانه حوادث مشابهی را افشا کرده‌اند که در آن مدل‌های آن‌ها در حین ارزیابی به سیستم‌های اشخاص ثالث دسترسی پیدا کرده‌اند.
