آنتروپیک اعلام کرد که مدل‌هایش وب‌سایت‌های اینترنتی را مورد بهره‌برداری قرار داده‌اند، از جمله برخی که توسط نهادهای دولتی ایالات متحده اداره می‌شوند، و آن‌ها قصد دارند دسترسی به اینترنت زنده را برای تمام ارزیابی‌های داخلی خود قطع کنند تا زمانی که آزمایشگاه مطمئن شود می‌تواند ایجنت‌های هوش مصنوعی خود را زیر نظر داشته و کنترل کند.
این حوادث که در یک پست وبلاگی فاش شده‌اند، شامل ایجنت‌های هوش مصنوعی مسئول حل مسائل بوده‌اند که در جست‌وجوی منابع در اینترنت بوده‌اند. در این فرایند، آن‌ها از نقص‌های نرم‌افزاری بهره‌برداری کرده، از محدودیت‌های پرداخت و ضد ربات‌ها فرار کرده، از خدمات کوتاه‌سازی URL برای عبور از محدودیت‌های دسترسی اطلاعات استفاده کرده و حتی اطلاعات نادرستی در مورد قتل به پلیس فیلادلفیا ارسال کرده‌اند.
آنتروپیک گفت که این مشکلات جدید را در بررسی فعالیت‌های مدل خود که از ماه ژوئیه آغاز شده بود، کشف کرده و این نااطمینانی را در مورد رفتار نرم‌افزار خود تأکید کرد.
به‌طور خاص، این شرکت اعلام کرد که آموزش هم‌راستایی هنوز برای مهارت‌هایی مانند جست‌وجو و استفاده از کامپیوتر که برای ادعای آن مبنی بر استفاده از ایجنت‌های هوش مصنوعی توسط هر حرفه‌ای که به ابزارهای دیجیتال وابسته است، کافی نیست.
رفتارهایی که آنتروپیک فاش کرد، مشابه حوادثی است که شامل ایجنت‌های OpenAI که برای دسترسی به اطلاعات به همکاری پرداخته‌اند، می‌شود و شامل برخی از وب‌سایت‌هایی است که توسط دولت استرالیا اداره می‌شوند.
آنتروپیک پیش‌تر اعلام کرده بود که مدل‌هایش به سیستم‌های خارجی نفوذ کرده‌اند. این آزمایشگاه گفت که فاش‌سازی‌های امروز را از لحاظ هم‌راستایی و امنیت “به‌طور قابل توجهی کمتر جدی” از مواردی که پیش‌تر اعلام شده، ارزیابی می‌کند.
با این حال، این آزمایشگاه هنوز اعلام کرد که “دسترسی به اینترنت زنده را” برای “تمام ارزیابی‌های داخلی ما” تا زمانی که مطمئن شود می‌تواند ایجنت‌های خود را زیر نظر داشته و کنترل کند، قطع کرده است.
اینکه این اقدام چه تبعاتی دارد، مشخص نیست، اما سیدنی ون آركس، بنیان‌گذار سازمان ایمنی هوش مصنوعی Nightingale، در مصاحبه‌ای با TechCrunch پیش از این افشاگری گفت که توسعه مدل‌ها بر روی یک مرکز داده جدا از اینترنت باز، برای محققان بسیار چالش‌برانگیز خواهد بود و پیشرفت مدل‌ها که از دسترسی به اینترنت بهره‌می‌برند، دشوار خواهد شد.
“شما باید در یک نقطه آن‌ها را هم‌راستا کنید،” ون آركس گفت. “اگر هوش‌های مصنوعی به تولید معرفی شوند و هرگز به اینترنت دسترسی نداشته باشند، این ابزار چندان مفیدی نیست.”
آنتروپیک گفت که این رفتار ناشی از نقص‌های محیط‌های آموزشی آزمایشگاه است که به مدل‌ها این تصور را می‌دهد که به خاطر پیدا کردن نقاط ضعف یا فرار از محدودیت‌ها پاداش خواهند گرفت، رفتاری که به آن “هک پاداش” گفته می‌شود.
این شرکت اعلام کرد که برخی از ارزیابی‌های خود را متوقف خواهد کرد یا آن‌ها را به صورت آفلاین اجرا خواهد کرد و ابزاری برای شناسایی و مسدود کردن این رفتار ایجاد کرده است. این ابزار در برابر نوع حوادث امروز که فاش شده، آزمایش و آن‌ها را مسدود کرده است؛ مشخص نیست چه شواهدی آنتروپیک را به بازگرداندن دسترسی به اینترنت زنده برای ارزیابی‌های داخلی‌اش ترغیب خواهد کرد.
آنتروپیک همچنین اعلام کرد که ایجنت‌های داخلی خود را به “زیرساخت‌های مدیریت مرکزی با بازداری قوی” منتقل خواهد کرد و در حال آغاز استفاده بیشتر از طبقه‌بندهای ایمنی برای نظارت بر آن ایجنت‌ها است.
