مدیرعامل مایکروسافت، ساتیار نادلا، آخرین مدیر فناوری است که به بیان نظرات طولانی درباره چگونگی بهبود ایمنی هوش مصنوعی پرداخته است.
در یک پست صبح شنبه در ایکس، نادلا نوشت که وقت آن رسیده است که “یک قدم به عقب برداریم و معماری اعتماد” هوش مصنوعی را ارزیابی کنیم.
نادلا نوشت: “نمی‌توانیم هوش فوق‌العاده را به عنوان مجموعه‌ای از جعبه‌های سیاه تو در تو ببینیم و به سادگی توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم،” استفاده از اصطلاح مورد پسند دولت ترامپ برای هوش مصنوعی.
همانطور که نادلا توضیح داد، این رویکرد “به معنی جدا کردن مدل از سامانه‌ای است که کار آن را مدیریت می‌کند” و همچنین “کنترل‌ها و ایمن‌سازی‌های خارجی” است. او همچنین خواستار آن شد که “هر اقدام معنی‌دار مدل” با “مدرکی انسانی قابل خواندن و بدون دستکاری” ثبت شود و برای سیستم‌هایی که “یک شخص مجاز” همیشه توانایی “توقف یا خاموش کردن مدل در میانه کار” را داشته باشد.
او گفت: “باید فرض کنیم که یک مدل به خطر افتاده و از ابتدا باید آن را کنترل کنیم. فکر کنید مانند یک ترمز اضطراری.”
نظرات نادلا در حالی مطرح می‌شود که شرکت‌های پیشرو در حوزه هوش مصنوعی به طور فزاینده‌ای حوادثی را که به نظر می‌رسد کنترل مدل‌های خود را از دست داده‌اند، تأیید می‌کنند و پس از آنکه مدیرعامل آنترپیک، داریو آمودئی، برنامه‌ای را برای توسعه هوش مصنوعی با احتیاط بیشتر منتشر کرد.
