جازمین وانگ، تومک کرباک و میکیتا بالسنی، سه پژوهشگر ایمنی که OpenAI هفته‌ی گذشته اخراج کرد، نامه‌ای عمومی منتشر کردند و ادعاهای این شرکت مبنی بر سوء مدیریت اطلاعات حساس خارج از رویه‌های تعیین شده شرکت را رد کردند و هشدار دادند که اخراج آن‌ها به تاثیر سردی منجر می‌شود که اثرات آن در فرهنگ شرکت احساس خواهد شد.

این پژوهشگران در روز پنج‌شنبه در یک نامه‌ی عمومی به کمیته ایمنی و امنیت OpenAI، گروه مشاور ایمنی و شورای مشورتی ماموریت نوشتند: “ما نگران هستیم که ارتباطات داخلی و خارجی درباره‌ی اخراج ما باعث شده است که همکاران سابق ما از صحبت کردن و عمل کردن به شیوه‌هایی که تا هفته‌ی گذشته بخشی جدایی‌ناپذیر از کار در OpenAI بودند، ترس داشته باشند.”

این پژوهشگران هفته‌ی گذشته پس از ادعای به اشتراک‌گذاری اطلاعات محرمانه شرکت با یک سازمان ایمنی هوش مصنوعی ثالث اخراج شدند. OpenAI در آن زمان اعلام کرد که آن‌ها با “دسترسی و مدیریت اطلاعات حساس شرکت”، سیاست‌های شرکت را نقض کردند.

وانگ، کرباک و بالسنی نوشتند: “هوش مصنوعی یک فناوری عادی نیست و OpenAI یک شرکت عادی نیست.” آن‌ها افزودند: “ما که روی ایمنی کار می‌کنیم، قبل از هر کس دیگری خطرات را می‌بینیم و به همکاری نزدیک با کارشناسان خارجی متکی هستیم تا نحوه‌ی رسیدگی به آن‌ها را بررسی کنیم. آزادی برای انجام این کار بدون ترس، و داشتن رویه‌های داخلی خوب تعریف شده که امکان این کار را فراهم می کند، به خودی خود یک مکانیزم ایمنی اساسی است.”

آن‌ها گفتند که اخراج آن‌ها نشانگر تغییر وسیع‌تری در فرهنگ OpenAI است، فرهنگی که در گذشته کارمندان را تشویق می‌کرد تا “نگرانی‌های ایمنی را مطرح کرده و به‌طور علنی اختلاف نظر داشته باشند.” آن‌ها گفتند که کارکنان اکنون “در مورد موقعیت خود نامشخص هستند” زمانی که رفتارهایی که پیشتر به‌طور عادی پذیرفته شده بودند، به ناگاه به دلیل اخراج می‌انجامد.

آن‌ها نوشتند: “با توجه به نگرانی‌های ایمنی قابل توجه در مورد توسعه‌ی هوش مصنوعی، کارکنان نباید در محیطی کار کنند که ترس و قوانین نامشخص، کار ایمنی هوش مصنوعی را مختل کرده و مسئولیت‌پذیری ثالث را تضعیف کند.” آن‌ها افزودند: “اخراج‌هایی مانند اخراج ما که به‌طور ناگهانی انجام و اطلاع‌رسانی می‌شود، فرهنگ باز OpenAI را که در گذشته ارزشمند بوده، یخ‌زده می‌کند.”

در این نامه، این سه پژوهشگر مشارکت در افشای اطلاعات برای The Information درباره‌ی معماری‌های کمتر قابل مانیتور کردن در جدیدترین مدل‌های OpenAI که دلیل‌سازی زنجیره‌ای را سخت‌تر می‌کند، را رد کردند. آن‌ها همچنین نقض ارتباط با طرف‌های خارجی خارج از وظایف خود را رد کردند.

OpenAI به‌طور رسمی به نامه‌ی عمومی پاسخ نداده است، اما یادداشتی داخلی که به یک رهبر تحقیق نسبت داده شده را با TechCrunch به اشتراک گذاشت، که به‌طور مثبتی به مشارکت‌های سه پژوهشگر در زمینه‌ی ایمنی هوش مصنوعی اشاره کرده و رد کرده که آن‌ها به‌دلیل انتقام اخراج شده‌اند.

یادداشت می‌گوید: “می‌خواهم خیلی واضح بگویم که این تصمیمات به‌دلیل مطرح کردن نگرانی‌های ایمنی یا صحبت کردن نبودند.” نوشته شده است: “ما همیشه این کار را تشویق کرده‌ایم و همیشه خواهیم کرد. ما کارمندان را به دلیل مطرح کردن نگرانی‌ها اخراج نمی‌کنیم.”

OpenAI به سوالات TechCrunch درباره‌ی اینکه کدام سیاست‌ها را این پژوهشگران به‌طور ادعایی نقض کردند، شرایط اخراج آن‌ها، یا اینکه چگونه این شرکت از کارکنانی که نگرانی‌های ایمنی را مطرح می‌کنند و با ارزیاب‌های خارجی همکاری می‌کنند، حمایت می‌کند، به‌طور مستقیم پاسخ نداد.

این اخراج‌ها حدس و گمان‌هایی درباره‌ی شرایط آن‌ها به‌وجود آورده است، به‌خصوص اینکه OpenAI تحت نظارت بررسی حوادث ایمنی اخیر قرار دارد که شامل عوامل سرکش و افشاگری درباره‌ی مدل‌های آن است.

این نامه همچنین به واکنش پژوهشگران به حادثه‌ی Hugging Face اشاره دارد، که در آن یک دسته از عوامل از محیط امن خود فرار کرده و سیستم‌های خارجی را مختل کردند. در این نامه آمده است که این حادثه و بررسی “بدون سابقه” بود، به این معنی که “سیاست‌های داخلی به‌صورت بلادرنگ در حال توسعه بودند.” به‌دلیل ماهیت حساس این بررسی، کرباک بر این باور بود که در حال عمل کردن در چارچوب سیاست‌ها و نُرم‌های OpenAI است با برقراری ارتباط نزدیک با ارزیاب‌های ایمنی خارجی به منظور ایجاد اعتماد، طبق نامه.

در عین حال، بالسنی همچنین در حال کار داخلی برای حل مشکل روزافزون قابلیت مانیتورینگ AI بود، تلاشی که این پژوهشگران در نامه خود می‌گویند “تنها از طریق ارتباط گسترده با طرف‌های خارجی می‌تواند موفق شود.” طبق نامه، بالسنی در تمام کار خود با اعضای هیئت مدیره و مدیران OpenAI همکاری و حمایت داشت.

در این نامه نوشته شده است: “در طول این مدت، میکیتا با خط گزارش‌دهی خود چک کرد و مراقب بود که جزئیات حساس را از متون قبل از اشتراک‌گذاری حذف کند.” یادداشت می‌گوید: “او در تمام مدت در نیت خوب عمل کرده و در چارچوب نُرم‌های شرکت همان‌طور که در آن زمان بود، رفتار کرد.”

در یک نخست جداگانه در X، وانگ جزئیات بیشتری درباره‌ی اخراج خود را توضیح داد و گفت که OpenAI به او گفته است که به‌دلیل دسترسی به ایمیل یک مدیر اجرایی اخراج شده است.

او نوشت: “OpenAI آن دسترسی را برای استخدام به من واگذار کرده بود.” وانگ ادامه داد: “وقتی دیگر به آن نیاز نداشتم، از IT خواستم که آن را حذف کند. آن‌ها درخواست من را انجام ندادند، من هم نمی‌توانستم خودم آن را حذف کنم و صندوق ورودی به‌طور نامشخصی در اپلیکیشن ایمیل گوشی من ترکیب شده بود. زمانی که به‌طور تصادفی یک ایمیل حساس را باز کردم، در عرض چند دقیقه به مدیر اجرایی اطلاع دادم و دوباره از IT خواستم. هیچ‌کدام از این‌ها مخفی نبوده است.”

وانگ در ادامه بیان کرد که دلایل اخراج‌ها “توافقی ندارد” و وی و همکارانش “نخستین افرادی نیستند که تحت شرایط مشکوک از OpenAI خارج می‌شوند.”

این پژوهشگران از OpenAI خواستند تا به تعهدات عمومی خود در گنجاندن ارزیاب‌های ایمنی ثالث درون سازمان، حفظ قابلیت مانیتور در مدل‌های پیشرو، و “ادامه‌ی حمایت از یک فرهنگ باز و شفاف گفت‌وگو بین پژوهشگران ایمنی و بقیه‌ی اکوسیستم ایمنی” پایبند باشد.

OpenAI به توصیه‌های آن‌ها در یادداشت اشاره دارد.

وانگ گفت: “مگر اینکه کارکنان اکنون در برابر این نوع مانور موضع‌گیری کنند، نگران هستم که ما آخرین نفر نباشیم.” او افزود: “پیام برای همه کسانی که هنوز در OpenAI هستند واضح است: نگرانی‌ها را مطرح کنید یا به‌طور نزدیک با گروه‌های ایمنی خارجی کار کنید، و ممکن است شما نفر بعدی باشید، بدون اینکه به شما گفته شود چرا. شما نمی‌توانید AGI را به‌طور ایمن بسازید اگر افرادی که نزدیک‌ترین افراد به خطرات هستند، از صحبت کردن می‌ترسند.”