چالش‌های استفاده از AI برای نظارت بر AI
در دنیای امروز، شرکت‌ها به تدریج وظایف پیچیده‌تری را به عامل‌های AI واگذار می‌کنند. این مسئله باعث به وجود آمدن مشکلی به نام «نظارت» شده است. به عنوان مثال، حادثه Hugging Face نشان داد که چگونه عامل‌ها می‌توانند به سرعت و به تعداد زیاد عمل کنند به گونه‌ای که انسان‌ها واقعاً قادر به پیگیری آن‌ها نیستند.
چگونگی پیگیری واقعیت‌های پیچیده AI
سوال اساسی این است که چگونه می‌توان یک گروه بزرگ از عامل‌های AI را ردیابی کرد؟ پاسخ emerging این است که از یک AI دیگر برای نظارت استفاده کنیم. این موضوع، در بررسی مستقل حادثه Hugging Face توسط Redwood Research، به وضوح به تصویر کشیده شد.
خطرات نظارت AI بر AI
برخی از کارشناسان به این رویکرد شک دارند. آیا اگر یک AI کارهای خرابکارانه انجام دهد و بداند که یک AI دیگر در حال ردیابی آن است، سعی نمی‌کند آن را فریب دهد؟ این سؤال به نگرانی‌های بزرگتری درباره رفتارهای مخرب AI منجر می‌شود.
ورود استارتاپ‌ها به حوزه نظارت بر AI
با توجه به فرصت‌های جدیدی که ظهور AI به وجود آورده‌است، استارتاپ‌هایی مانند Braintrust و LangChain توانسته‌اند میلیاردها دلار تأمین مالی کنند. به گفته Aaron Levie، CEO Box، ما در آستانه یکی از بزرگ‌ترین به‌روزرسانی‌های امنیت سایبری در تاریخ هستیم.
نقش ابزارهای نظارتی جدید
Apollo Research، به عنوان یک سازمان عمومی، ابزار جدیدی به نام Watcher را راه‌اندازی کرده است. این ابزار بین یک عامل کدنویسی و اقدام بعدی کار می‌کند و نظارت دقیقی بر فعالیت‌های آن دارد.
روش‌های جدید برای شناسایی رفتارهای نامطلوب
Goodfire به دنبال انجام نظارت از داخل مدل است. برای شناسایی رفتارهای نامطلوب، آن‌ها از «پروب‌های فعال‌سازی» استفاده می‌کنند که می‌تواند اطلاعات داخلی مدل‌ها را بررسی کند.
چالش‌های نظارت بر AI و امنیت حقیقی
با این حال، برخی کارشناسان بر این باورند که اعتماد به AI برای ردیابی دیگر AIها، نقص‌های بالقوه‌ای به همراه دارد. Simon Willison تأکید می‌کند که درک دقیق آنچه که یک عامل در حال انجام است، با استفاده از سوابق جزئی از فعالیت‌های آن، می‌تواند مؤثرتر باشد.
امنیت در دنیای AI
برخی از مشکلاتی که در آزمایشگاه‌ها پیش آمد، ناشی از عدم نظارت دقیق بر رفتارهای شبکه بوده‌است. به جای تکیه بر تکنولوژی‌های پیچیده، بهتر است روش‌های ابتدایی امنیتی را مجدداً زنده کنیم.
نتیجه‌گیری
در نهایت، از آنجایی که مشغول پیشرفت در فناوری AI هستیم، نظارت بر این سیستم‌ها باید به یک بخش بنیادین از استراتژی‌های امنیتی تبدیل شود. استفاده از ابزارهای جدید باید با در نظر گرفتن چالش‌ها و نقاط ضعف آن‌ها باشد.
