شرکت آنتروپیک به شش محقق از METR، یک سازمان غیرانتفاعی که مدل‌های پیشرفته هوش مصنوعی را آزمایش می‌کند، دسترسی در سطح کارمندی ارائه می‌دهد تا به طور مستقل مدل‌ها، شیوه‌های ایمنی و مدیریت ریسک آنتروپیک را ارزیابی کنند. این خبر در یک پست وبلاگ در روز پنجشنبه اعلام شد.

این توافق در زمانی صورت می‌گیرد که حوادثی از بروز رفتارهای غیرمجاز توسط عوامل هوش مصنوعی افشا شده است که هر هفته یا دو از اواخر اوت رخ داده‌اند. این حوادث تقاضا برای بررسی‌های مستقل در مورد شرکت‌های هوش مصنوعی را افزایش داده است.

آنتروپیک در پست وبلاگ اظهار داشت: “ما می‌خواهیم به طور عمومی پاسخگو باشیم برای تصمیماتی که اتخاذ می‌کنیم. هدف ما کاهش فاصله بین آنچه ارزیاب‌ها درباره سیستم‌های یک شرکت پیشرفته هوش مصنوعی درک می‌کنند و آنچه خود شرکت درک می‌کند، است.”

در شرایط جدید، تیم METR دارای لپ‌تاپ‌های شرکتی صادر شده توسط آنتروپیک، فضای اداری و دسترسی به ابزارهای داخلی تقریباً مشابه آنچه که تیم‌های ارزیابی ریسک خود آنتروپیک استفاده می‌کنند، می‌باشد. آنتروپیک گفت: “کارمندان آنتروپیک تشویق می‌شوند تا اطلاعات را با آنها به اشتراک بگذارند، درست مانند اینکه با یک همکار در حال کار بر روی ریسک هماهنگی این کار را انجام دهند.”

آنتروپیک این توافق را به نظام بانکی مقایسه کرد، مشابه نحوه‌ای که نهادهای نظارتی بازرسان مقیم را در بزرگ‌ترین بانک‌ها قرار می‌دهند.

METR ارزیابی‌های خود را از خطرات، حوادث و شیوه‌های آنتروپیک منتشر خواهد کرد و این شرکت حق مسدود کردن آنها را واگذار کرده است.

این شرکت گفت: “آنتروپیک نمی‌تواند انتشار را وتو کند، اما می‌توانیم از آنها بخواهیم که اطلاعات را سرّی کنند اگر در دسته‌های باریک و از پیش تعیین‌شده قرار گیرند،” مانند داده‌های مشتریان، هر چیزی که در حوزه حقوقدان-مشتری قرار داشته باشد، یا اطلاعات مربوط به معماری مدل‌هایش. آنتروپیک اضافه کرد: “METR آزاد است که عمومی به توصیف سرّی‌سازی ما بپردازد و بگوید آیا اعتقاد دارد که سرّی‌سازی‌ها توجیه‌پذیر هستند، مشروط بر اینکه این کار را بدون افشای اطلاعات سرّی‌شده انجام دهد.”

METR تاکنون تنها ارزیاب در بالای یک سیستم سه‌سطحی است که آنتروپیک در حال ساخت آن است. ارزیاب‌های سطح پایین، مانند سازمان غیرانتفاعی امنیت زیستی SecureBio، بررسی‌های محدودی انجام می‌دهند و نیاز به تأیید آنتروپیک برای انتشار دارند. سطح میانی اطلاعات بیشتری دریافت می‌کند و می‌تواند بدون تأیید منتشر کند، در حالی که سطح بالا دسترسی در سطح کارمندی METR را اضافه می‌کند.

اعلامیه روز پنجشنبه به وعده‌ای که داریو آمودئی، مدیرعامل آنتروپیک در یک مقاله سپتامبر داده بود، عمل می‌کند، که در آن پیشنهاد کرده بود که ارزیاب‌های خارجی در آزمایشگاه‌های هوش مصنوعی قرار گیرند تا به عنوان نخستین گام به سوی کاهش سرعت توسعه این فناوری اقدام کنند. OpenAI به سرعت همین را وعده داد و هر دو شرکت به همراه گوگل، متا، انویدیا و xAI، از آن زمان توافقنامه‌ای از سوی کاخ سفید را امضا کرده‌اند که به بررسی مستقل متعهد شده‌اند.