نگرانی درباره خطرات هوش مصنوعی
تحقیقات جدید در زمینه هوش مصنوعی نشان می‌دهد که خطرات مربوط به سیستم‌های خود بهبوددهنده می‌تواند بسیار جدی باشد. پژوهشگران شرکت Anthropic به خطرات بالقوه‌ای که ممکن است زندگی بشری را تهدید کند، اشاره کرده‌اند.
اظهارات نگران‌کننده یک پژوهشگر
یک پژوهشگر ارشد در این شرکت پیش‌بینی کرده است که احتمال کشته شدن همه انسان‌ها در دهه جاری، بیش از ۱۰ درصد است. این اظهارات بلافاصله پس از استعفای یک همکار دیگر اظهار شده‌است.
استعفای جیکوب کاکسون
جیکوب کاکسون، پژوهشگری که با سیستم‌های هوش مصنوعی Anthropic کار کرده است، اعلام کرده که به دلیل نگرانی‌های ایمنی این شرکت را ترک کرده است. او اعلام کرده که این شرکت و رقبایش در حال “قمار با زندگی ما” هستند.
خطرات سیستم‌های خود بهبوددهنده
نگرانی‌های زیادی در مورد خطرات بالقوه ناشی از سیستم‌های هوش مصنوعی به وسیله بازخوردهای انسانی وجود دارد. این خطرات شامل دوره‌های خود بهبوددهی هستند که ممکن است از کنترل انسان خارج شوند.
نقش تصمیم‌گیری در ایمنی هوش مصنوعی
ایوان هوبینگر، که یکی از سرپرستان تیم ایمنی AI در Anthropic است، بر این باور است که توسعه این نوع سیستم‌ها با سرعت بیشتری انجام می‌شود که قبلاً تصور می‌کردند. او همچنین خاطرنشان کرده است که این احتمال وجود دارد که AI بتواند جان انسان‌ها را تهدید کند.
چالش‌های ایمنی در شرکت‌های هوش مصنوعی
با وجود نگرانی‌های فزاینده، هوبینگر تصریح کرد که Anthropic هنوز برنامه‌ای برای اطمینان از ایمنی هوش مصنوعی‌های پیشرفته ندارد. این سوالاتی جدی درباره آینده توسعه فناوری‌های هوش مصنوعی در پی دارد.
تأثیر استعفای کاکسون بر صنعت
این استعفا نه تنها یک نمونه برجسته است، بلکه نمایانگر دغدغه‌های فزاینده‌ای است که در بین کارکنان و محققان این صنعت وجود دارد. در سال‌های اخیر، تعدادی از پژوهشگران به دلیل نگرانی‌های ایمنی شرکت OpenAI را ترک کرده‌اند.
مسیر رو به جلو
توسعه سریع فناوری‌های AI نشان‌دهنده یک چالش جدی است. شرکت‌ها با فشار IPO و حوادث مربوط به عوامل rogue روبرو هستند و این می‌تواند به پیچیدگی بیشتر این مسائل دامن بزند.
نتیجه‌گیری
تحقیقات و اظهارات اخیر در خصوص خطرات هوش مصنوعی نیازمند توجه بیشتر هستند. با توجه به سرعت فزاینده توسعه این فناوری‌ها، اهمیت ایمنی و ارزیابی ریسک بیش از پیش احساس می‌شود.
