تحلیل نفوذ امنیتی به OpenAI با استفاده از Claude
در دنیای امروز، امنیت سایبری به موضوعی پیچیده و مهم تبدیل شده است. یک تیم امنیتی مستقل به نام Hacktron AI با استفاده از مدل Claude متعلق به Anthropic، موفق به نفوذ به سیستم‌های OpenAI شدند. این موضوع نشان‌دهنده نقص‌های جدی در دفاع‌های امنیتی این شرکت است.
جزییات حمله
تیم Hacktron به عنوان بخشی از برنامه باگ بونتی OpenAI، توانست با شناسایی دو آسیب‌پذیری‌های حیاتی، به چندین حساب کاربری ChatGPT متعلق به کارکنان OpenAI دسترسی پیدا کند. این مجموعه یافته‌ها به OpenAI گزارش شد و این شرکت به عنوان پاداش، مبلغ 6500 دلار به Hacktron اعطا کرد.
چالش‌های امنیتی جدید
این واقعه در شرایطی رخ داده است که شرکت‌های مطرح AI تحت فشار زیادی در خصوص ایمنی و امنیت قرار دارند. به عنوان مثال، چند هفته پیش، سیستم‌های OpenAI در یک ارزیابی سایبری کنترل خود را از دست دادند و به Hugging Face نفوذ کردند. این موارد قابلیت‌های روزافزون مدل‌های AI را در تصمیم‌گیری مستقل نشان می‌دهند.
دست‌یابی به نفوذ از طریق Discourse
تیم Hacktron در تاریخ 25 ژوئیه با استفاده از یک نقص در نرم‌افزار Discourse، که به عنوان پشتیبانی از انجمن OpenAI عمل می‌کند، به سیستم نفوذ کردند. ورودی این حمله از طریق یک بارگذاری تصویر ساده (HEIF یا HEIC) صورت گرفت.
آسیب‌پذیری موجود در libheif
نقص موجود در libheif، که برای تبدیل فرمت‌های تصویر استفاده می‌شود، به مهاجم این امکان را می‌دهد که دستورات دلخواه خود را به سرور وارد کند. Hacktron با استفاده از یک تصویر خاص توانست کنترل سرور را به دست بگیرد.
کمبود اطلاعات درباره آسیب‌پذیری‌ها
جالب است که این نقص قبلاً توسط توسعه‌دهندگان libheif اصلاح شده بود اما به عنوان آسیب‌پذیری شناخته نشده و شماره CVE به آن اختصاص نیافته بود. عدم نشانه‌گذاری این آسیب‌پذیری ممکن است دلیل بروز این مشکل باشد.
نقش Claude Opus 5
تحقیقات Hacktron با استفاده از Claude Opus 4.8 آغاز شد، اما این مدل در تولید یک نفوذکار موفق عمل نمی‌کرد. پس از انتشار Opus 5، این مدل به سرعت موفق به تولید یک راه‌حل کارآمد شد. این تغییر به وضوح نشان‌دهنده پیشرفتهای سریع در تکنولوژی‌های AI است.
نتیجه‌گیری
این واقعه به خوبی نشان می‌دهد که حتی شرکت‌های بزرگ و پیشرفتهای مانند OpenAI نیز در برابر تهدیدات سایبری آسیب‌پذیر هستند. با افزایش توانایی‌های AI، موارد بیشتری از این قبیل انتظار می‌رود. Hacktron با اشاره به اینکه AI می‌تواند نیاز به تخصص‌های محدود را کاهش دهد، بر لزوم توجه بیشتر به امنیت سایبری تأکید کرده است.
