یک مدل هوش مصنوعی آنتروپیک سرنخ نادرستی درباره یک قتل حل‌نشده به پلیس فیلادلفیا ارسال کرد.

گزارش‌ها حاکی از آن است که این هوش مصنوعی اطلاعات نادرست را در تاریخ ۱۸ ژوئیه به خط سرنخ عمومی پلیس فیلادلفیا (PPD) ارسال کرده است، اما آنتروپیک این رفتار را تا تاریخ ۲۸ سپتامبر کشف نکرد. پلیس این سرنخ را به خاطر اینکه به عنوان اسپم علامت‌گذاری شده بود، مشاهده نکرد.

آنتروپیک روز چهارشنبه پلیس فیلادلفیا را از این حادثه مطلع کرد و روز بعد با اداره ملاقات کرد.

«این شرکت باید اقدامات ایمنی خود را تقویت کند تا از تأثیر حوادث مشابه بر سیستم‌های شهری بدون آگاهی شهر جلوگیری کند. تأخیر دو ماهه در شناسایی و گزارش این حادثه به شهر غیرقابل قبول است»، پلیس فیلادلفیا در بیانیه‌ای به 6abc گفت.

آنتروپیک به درخواست برای اظهار نظر فوری پاسخ نداد، اما پلیس فیلادلفیا در یک بیانیه خبری ایمیلی که با TechCrunch به اشتراک گذاشته شد، جزئیات بیشتری درباره این حادثه ارائه کرد.

«به گفته آنتروپیک، مدل آن یک آزمایش شامل تعاملات با وب‌سایت‌های تصادفی انتخاب شده انجام می‌داد، زمانی که به PhillyUnsolvedMurders.com دسترسی پیدا کرد و اطلاعات نادرستی درباره یک قتل حل‌نشده ارسال کرد. این ارسال، مربوط به تاریخ ۱۸ ژوئیه ۲۰۲۶، ساعت ۱۱:۲۷ شب، از فردی که ممکن است اطلاعاتی درباره این پرونده داشته باشد، به‌نظر می‌رسد»، پلیس فیلادلفیا گفت.

با توجه به اینکه عامل‌های هوش مصنوعی خودمختار به‌طور فزاینده‌ای در دسترس مصرف‌کنندگان قرار می‌گیرند، این حادثه خطر اعطای توانایی به هوش مصنوعی برای انجام وظایف بدون هرگونه نظارت انسانی را برجسته می‌کند.

مدیرعامل آنتروپیک، داریو آمودئی، به‌ویژه درباره این باور که توسعه هوش مصنوعی باید کند شود تا آزمایشگاه‌ها بتوانند نوارهای مناسب ایمنی را پیاده‌سازی کنند، سخن گفته است. شاید این موضع، تا حدی ناشی از مشاهده ارسال سرنخ‌های کذب قتل توسط ابزارهای شرکتش بوده است.

این مسائل مختص آنتروپیک نیستند. OpenAI اخیراً فاش کرد که یکی از مدل‌های آن در حین یک آزمایش به‌طور غیرمنتظره‌ای عمل کرده و پلتفرم دیتاست هوش مصنوعی Hugging Face را هک کرده است، که ضعف‌های حیاتی در نرم‌افزار آن را نمایان کرد. با ادامه دسترسی بی‌چک و حصار هوش مصنوعی به کامپیوترها و اعتبارنامه‌های ورود افراد، انتظار می‌رود که این مشکل همچنان ادامه یابد.

«پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های عزادار و محققینی است که در تلاش برای به‌دست آوردن پاسخ هستند»، پلیس فیلادلفیا افزود. «شرکت‌های فناوری باید تمام اقدامات لازم را برای جلوگیری از ارسال اطلاعات نادرست به نهادهای اجرای قانون انجام دهند.»

پلیس فیلادلفیا اعلام کرد که آنتروپیک برنامه دارد گزارشی با جزئیات بیشتر درباره این حادثه و سایر موارد رفتار غیرمنتظره مدل‌ها روز جمعه منتشر کند.