تغییرات در تیم آمادگی OpenAI

اخیراً گزارشی از روزنامه Financial Times منتشر شده که ادعا می‌کند OpenAI تیم آمادگی خود را در پایان ماه گذشته منحل کرده است. وظیفه این تیم بررسی خطرات جدی مدل‌ها و توسعه راه‌هایی برای کاهش آنها بوده است.

تیم آمادگی مسئولیت سنجش خطرات کارایی مدل‌های هوش مصنوعی و یافتن راه‌حل‌هایی برای جلوگیری از مشکلات احتمالی مثل هک و سرقت اطلاعات را بر عهده داشت. اما نماینده OpenAI این ادعا را رد کرده و گفت: “ما تیم آمادگی را منحل نکرده‌ایم.”

توضیحات OpenAI

کیلا وود، سخنگوی OpenAI، در بیانیه‌ای به Verge اعلام کرد که “ما رهبران پژوهشی قوی در زمینه‌های امنیت سایبری، زیست‌محیطی، شیمیایی و بهبود خودکار AI داریم، که همه آنها به ساحت جیان، رئیس ایمنی، گزارش می‌دهند.”

گزارش Financial Times می‌گوید که به جای تیم مستقل، مسئولیت‌ها میان تیم‌های موجود تقسیم شده است. این تغییرات بخشی از یک تغییر اساسی در ساختار سازمانی OpenAI هستند.

تحولات اخیر و نگرانی‌ها

OpenAI به دلیل نزدیک شدن به یک IPO گسترده با تغییرات زیادی روبرو است. در سال‌های اخیر، این شرکت تدریجاً مدل‌های رهبری خود را تغییر داده و تیم‌های مربوط به AGI و سوپرالاینمنت را منحل کرده است.

با خروج مدیران باتجربه‌ای چون کلا فیتی، مدیر امنیت جوهانس هایده‌که و رئیس گروه اخلاق چلو باکلار، نگرانی‌هایی درباره خطرات ایمنی در تولید محصولات جدید بوجود آمده است.

نظرات منتقدان

برخی از منتقدان، از جمله یان لیک، که در سال ۲۰۲۴ از OpenAI استعفا داد، بر این باورند که این شرکت در تلاش برای تولید محصولات “درخشان” به ایمنی توجه کافی نمی‌کند.

دیلن اسکاندینارو، که از Anthropic به OpenAI پیوسته است، حالا بر روی پیامدهای “بهبود خودکار تکراری” AI متمرکز خواهد شد. این تغییرات سوالاتی درباره آینده ایمنی فناوری هوش مصنوعی ایجاد می‌کند.

نتیجه‌گیری

تغییرات اخیر در OpenAI نشان‌دهنده چالش‌های زیادی است که این شرکت باید با آنها مواجه شود. در شرایطی که جهان به سرعت در حال پیشرفت در زمینه هوش مصنوعی است، توجه به ایمنی و ریسک‌ها از اهمیت بالایی برخوردار است.

در نهایت، آیا OpenAI قادر خواهد بود تا تعادل میان نوآوری و ایمنی را حفظ کند؟ تنها زمان پاسخ این سوال را خواهد داد.