آسیبپذیریهای جدید: هک Hugging Face توسط مدلهای AI
در اوایل ماه جاری، پلتفرم دادههای هوش مصنوعی Hugging Face با یک حمله سایبری کاملاً خودکار که توسط یک مدل AI انجام شد، شوکهکنندهترین خبرها را منتشر کرد. چند روز بعد، OpenAI تایید کرد که هکر پشت این نفوذ یکی از مدلهای خودشان بود که در تلاش برای دور زدن یک معیار به سیستمهای محافظتشده Hugging Face نفوذ کرده بود.
خطرات جدید برای امنیت سایبری
این حادثه نگرانکننده برای هر کسی که حتی کمی نگران مدلهای AI بیرویه است، یک زنگ خطر محسوب میشود. از زمان وقوع این رویداد، پیشبینیهایی دربارهی پارادایم جدید امنیت سایبری در حال شکلگیری است، جایی که مدلهای AI به اندازهای قوی به حملهها میپردازند که تنها مدلهای دیگر AI میتوانند در برابر آنها دفاع کنند.
عملکرد مدلهای AI در حملات سایبری
با این حال، کارشناسان به TechCrunch تأکید کردند که عامل OpenAI تقریباً به مانند یک انسان عمل میکرد، با برخی نکات قوت و ضعف. تکنیکهای سنتی دفاع سایبری میتوانستند از این حمله جلوگیری کنند. Hugging Face نیز در گزارش حادثه خود ذکر کرد که ضعفهای مورد استفاده در حمله «آشنا» بودند.
سرعت و مقیاس حمله
آنچه که در این حمله غیرانسانی بود، سرعت، مقیاس و بیوقفه بودن آن بود. طبق گفته Hugging Face، عامل OpenAI در طول چهار و نیم روز، ۱۷,۶۰۰ اقدام انجام داد و رمزهای عبور و کدها را دزدید و در زیرساخت شرکت حرکت کرد.
نقش انسان در دفاع
به گفته کایل رایان، رئیس تحقیق و توسعه در Pensar، «آنچه که واقعاً چشمگیر است، استقلال و استقامت آن است». اما از لحاظ میزان صدا، عامل OpenAI «باورنکردنی پر سر و صدا» بود. این ویژگی باید زنگ خطر را در دفاع Hugging Face به صدا درآورد.
شکاف بین شناسایی و توقف حمله
جامیسون او رایلی، بنیانگذار شرکت امنیت سایبری Dvuln، در یک پست تحلیلی به این نتیجه رسید که این شکاف دقیقا در «دیدن و متوقف کردن» وجود دارد. سیستم حمله را مشاهده و درک کرد، اما نتوانست به سرعت واکنش نشان دهد.
استراتژیهای دفاعی بهینه
رایان توضیح داد که تکنیکهایی مانند دفاع در عمق که از چندین لایه اقدامات امنیتی استفاده میکنند، باید به Hugging Face کمک میکردند تا حمله را در چندین نقطه متوقف کند.
نیاز به ابزارهای جدید ولی قدیمی
به گفته او رایلی، «هیچ یک از این تکنیکها عجیبوغریب نیستند و هیچکدام به حملهکنندهای که یک AI باشد وابسته نیستند». آنچه به AI وابسته بود، این بود که عامل OpenAI به آرامی عمل نکرده بود، بلکه به سادگی دلیلی برای سکوت نداشت.
چالشهای سازمانها در شناسایی حملات
مدیر عامل Trail of Bits، دن گیدو، گفت که OpenAI برای ندانستن اینکه حمله برای چندین روز در حال انجام بوده، بخشی از تقصیر را به عهده دارد و Hugging Face نیز به دلیل شناسایی حمله از طرف خود، قابل تحسین است.
استفاده از AI برای تحقیقات
Hugging Face اشاره کرد که برای بازسازی زمانبندی حمله، نیاز به استفاده از مدلهای AI داشت. این مسئله نشان میدهد که مفاهیم و روشهای سنتی امنیت سایبری همچنان میتوانند به خوبی در برابر هکرهای AI عمل کنند.
