متا روز چهارشنبه اعلام کرد که در نیمه اول سال 2026 علیه 33.2 میلیون قطعه محتوای سوء استفاده جنسی از کودکان در فیس‌بوک و اینستاگرام اقدام کرده است. در همین حال، این شرکت ابزارهای جدید هوش مصنوعی را برای یافتن تبلیغات و حساب‌هایی معرفی می‌کند که ممکن است برای هدایت مخفیانه افراد به محتوای غیرقانونی سوء استفاده از کودکان استفاده شوند.

متا اعلام کرد که بیش از 97% از محتوایی که علیه آن اقدام شده است، پیش از اینکه کاربران آن را گزارش کنند، توسط سیستم‌های خود شناسایی شده است. در هند، متا در همان دوره به 5.3 میلیون قطعه محتوای سوء استفاده جنسی از کودکان رسیدگی کرده است، که بیش از 98% آن قبل از گزارش کاربران شناسایی شده است.

متا گفت که ابزارهای هوش مصنوعی جدیدش به هدف شناسایی افرادی متمرکز است که از تبلیغاتی که به نظر بی‌خطر می‌رسند، برای ارسال کاربران به محتوای غیرقانونی در خارج از پلتفرم‌های متا استفاده می‌کنند.

این شرکت یک سیستم جدید مدلسازی زبانی بزرگ (LLM) برای شناسایی آنچه که به عنوان “نشانه‌گذاری” نامیده می‌شود، معرفی کرده است. این اصطلاح به تبلیغاتی اشاره دارد که ممکن است عادی به نظر برسند اما مشکوک به هدایت کاربران به محتوای غیرقانونی یا فعالیت‌های مضر دیگر در اینترنت هستند. متا می‌گوید این یک تاکتیک است که اخیراً در رفتارهای بد از آن استفاده شده، زیرا این افراد همچنان راهکارهای خود را تغییر می‌دهند تا از شناسایی دور بمانند. در حالی که خود تبلیغات ممکن است حاوی محتوای غیرقانونی نباشند، اما می‌توانند به عنوان دروازه‌ای به وب‌سایت‌های میزبان محتوای سوء استفاده جنسی از کودکان عمل کنند.

به همین دلیل، متا اعلام کرد که اکنون به جایی که تبلیغ کاربران را می‌فرستد، نه فقط به محتوای آن تبلیغ توجه می‌کند. این شرکت می‌تواند از این اطلاعات برای مسدود کردن وب‌سایت‌ها یا مقاصد دیگر که قوانین آن را نقض می‌کنند، استفاده کرده و علیه حساب‌های پشت این تبلیغات اقدام کند.

متا همچنین از اسکن‌های هوش مصنوعی اضافی برای یافتن محتوای سوء استفاده از کودکان که سیستم‌های قبلی ممکن است از دست داده باشند، استفاده می‌کند. این شرکت گفت که به یادگیری بیشتر درباره چگونگی عملکرد این شبکه‌ها، سیگنال‌های جدید بیشتری اضافه خواهد کرد.

ابزار جدید دیگری که متا معرفی کرده است، “عامل هوش مصنوعی تیم قرمز” است که اقدامات ایمنی خود متا را آزمایش می‌کند. این ابزار به دنبال ضعف‌هایی می‌گردد که بازیگران بد می‌توانند از آن‌ها برای دور زدن حفاظت‌های این شرکت استفاده کنند. متا گفت این می‌تواند به او کمک کند تا روش‌های جدید سوء استفاده را قبل از رواج بیشتر آن‌ها شناسایی کند.

علاوه بر این، این شرکت در حال بهبود سیستم‌های خود برای شناسایی افرادی است که پس از حذف حساب‌های قبلی خود، به پلتفرم‌هایش با حساب‌های جدید برمی‌گردند.

این اقدام‌ها در حالی انجام می‌شود که متا همچنان با فشارهایی در خصوص ایمنی کودکان در پلتفرم‌هایش مواجه است. این شرکت با شکایت‌ها و انتقادات از سوی قانون‌گذاران درباره خطرات خدمات رسانه‌های اجتماعی‌اش برای کاربران جوان روبرو بوده است. در آگوست، متا توافقی برای پرداخت تا 18 میلیارد دلار برای حل یک شکایت ایمنی کودکان مرتبط با 29 ایالت ایالات متحده انجام داد که به نگرانی‌ها در خصوص حفاظت از کودکان آنلاین پرداخته می‌شود.

متا امسال چندین ویژگی ایمنی کودکان را معرفی کرده است، از جمله کنترل والدینی برای متا رای، حساب‌های پیش‌نوجوانان در واتساپ، و هشدارها برای والدین زمانی که کودکان در اینستاگرام به جستجوی محتوای خودآزاری می‌پردازند.

در سپتامبر، واتساپ کنترل‌های بیشتری برای والدین اضافه کرد. آن‌ها می‌توانند محدود کنند که نوجوانان چگونه از کانال‌ها استفاده کنند، تعیین کنند که چه کسی می‌تواند به بروزرسانی‌های وضعیت آن‌ها دسترسی داشته باشد و تصمیم بگیرند که چه کسی می‌تواند فرزندانشان را به گروه‌ها اضافه کند. والدین همچنین می‌توانند گزینه دریافت اعلان درباره فعالیت‌های خاص گروه را انتخاب کنند.