حمایت شرکت‌های بزرگ از کنترل استفاده از AI

مدیرعامل OpenAI، سم آلتمن، اخیراً از درخواست آموودی برای کند کردن روند توسعه مدل‌های پیشرفته هوش مصنوعی حمایت کرده است. او تاکید کرد که باید به جای توقف کامل توسعه، سرعت آن را کاهش داد. آلتمن در یک پست در شبکه اجتماعی X گفت: “کاهش سرعت توسعه ارزش هزینه‌اش را دارد؛ هیچ میزان فشاری از سوی آمریکا نباید منجر به بی‌احتیاطی شود یا اجازه دهد که قابلیت‌ها از نظارت و هماهنگی پیشی بگیرند.”

تاکید مایکروسافت بر کنترل انسانی

پیش از رونمایی از کد اخلاقی AI مایکروسافت، ساتیا نادلا، مدیرعامل این شرکت، نیز به درخواست‌ها برای تضمین کنترل انسانی بر مدل‌های هوش مصنوعی پیوست. نادلا در یک پست در X گفت: “هر گونه تلاش برای دستیابی به هوش فرامانش باید بر اساس این اصل بنیادی باشد که اگر AI که می‌سازیم به بشر کمک نمی‌کند و تحت کنترل انسان نیست، ارزش پیگیری ندارد.”

اهمیت آزمایش‌های مستقل

نادلا همچنین اشاره کرد که انجام آزمایش‌های بیشتر از سوی طرف‌های ثالث “یک چیز خوب است” و در یک واکنش در X گفت: “با افزایش خطرات، باید هر مقدار زمان لازم را صرف کرد! در غیر این صورت، در هر حال مجوز فعالیت را از دست خواهید داد. این طرز کار ما در هر روز است.”

کد اخلاقی مایکروسافت و جلوگیری از وابستگی عاطفی

علاوه بر نگرانی‌های مربوط به کنترل انسانی، کد اخلاقی AI مایکروسافت همچنین به تعهد خود برای جلوگیری از “الگوهای تعامل که منجر به وابستگی زیاد یا وابستگی عاطفی می‌شود” اشاره کرده است. این مساله به مشکلی در مدل‌های AI مربوط می‌شود که در آن چت‌بات‌ها به جای ارائه پاسخ‌های honest یا دقیق، سعی در خوشحال کردن کاربران دارند.

توسعه روش‌های ارزیابی عملکرد مدل‌های واقعی

اکنون مایکروسافت اعلام کرده است که منتظر “همکاری با شرکا” برای بهبود روش‌های خود در ارزیابی عملکرد مدل‌ها در دنیای واقعی و تأثیر استفاده مداوم از AI بر روی افراد یا سازمان‌ها است. این اقدام شامل در نظر گرفتن افراد واقعی است که در فرآیند استفاده از AI دخالت دارند.