تحول مهم متا در حمایت از نوجوانان
شرکت متا اخیراً اعلام کرد که اکنون به والدین اطلاع میدهد اگر فرزند نوجوانشان درباره خودکشی یا آسیب به خود با چتبات هوش مصنوعی متا صحبت کند. این تغییرات در پی نگرانیها و انتقادات والدین و ناظران از نحوه رفتار چتباتها با کاربران در بحران، به ویژه نوجوانان، انجام میشود.
سیستم شناسایی مکالمات حساس
متا اعلام کرده است که یک سیستم هوش مصنوعی تخصصی برای شناسایی مکالماتی که در آن نوجوانان بهوضوح به آسیب زدن به خود اشاره میکنند، ایجاد کرده است. این سیستم به والدین هشدارهایی ارسال میکند که ممکن است برای آنها ناراحتکننده باشد.
نحوه کار سیستم هشدار
متا در وبلاگ خود نوشته است که تمامی چتهایی که توسط هوش مصنوعی شناسایی میشوند، قبل از ارسال هشدار، بهصورت دستی بررسی خواهند شد. اگر نیت نوجوان مبهم باشد، والدین مطلع خواهند شد.
گستره جهانی و ویژگیهای جدید
این هشدارها اکنون برای والدین در آمریکا، بریتانیا، استرالیا و کانادا فعال است و تا پایان سال بهصورت جهانی به کاربران ارائه خواهد شد. این بروزرسانی بر اساس هشدارهایی است که متا پیشتر به والدین در صورت جستجوهای مکرر نوجوانان درباره خودکشی ارسال میکرد.
تنظیمات محتوای محدود
متا همچنین از تغییراتی در تنظیمات محتوای محدود خبر داده است که به والدین این امکان را میدهد تا فرزندان خود را در یک تجربه محدودتر در اینستاگرام قرار دهند. این تنظیمات به چتبات متا نیز تعمیم مییابد و از بیان موضوعات مربوط به الکل و روابط عاشقانه جلوگیری میکند.
تماس با خدمات اضطراری
علاوه بر این، متا اعلام کرده است که در صورتی که مکالمهای با چتبات متا نشان دهد که فردی ممکن است در خطر خودکشی باشد، خدمات اضطراری را در تماس خواهد گرفت. این اقدام قبلاً برای پستهایی که بر روی فیسبوک یا اینستاگرام منتشر میشوند، انجام میشد و حالا به مکالمات چتبات نیز گسترش مییابد.
جمعبندی
این تغییرات نشاندهنده توجه متا به امنیت و سلامت روان نوجوانان است. با وجود چالشهای موجود در استفاده از فناوریهای هوش مصنوعی، این شرکت در تلاش است تا با معرفی این ویژگیها و هشدارها، مسئولیتپذیری بیشتری را بهعنوان یک پلتفرم اجتماعی در زمینه حمایت از سلامت روان کاربران خود به نمایش بگذارد.
