شرکت Meta پس از توافق ۱۷.۱ میلیارد دلاری خود برای حلوفصل پروندههای مربوط به سوءاستفاده از کودکان در پلتفرمهای اجتماعیاش، اکنون با اتهامات جدیدی مبنی بر نمایش تبلیغات حاوی تصاویر سوءاستفاده جنسی از کودکان (CSAM) مواجه شده است. بر اساس گزارش نشریه Wired، برخی از این تبلیغات شامل تصاویری از کودکان واقعی بودهاند. این گزارش که بر پایه تحقیقات نهاد «پروژه شفافیت فناوری» (TTP) تنظیم شده، نشان میدهد که سیستمهای نظارتی این غول فناوری بار دیگر در شناسایی و حذف محتوای آسیبرسان ناکام ماندهاند و این تبلیغات در پلتفرمهای Facebook، Instagram، Messenger و Threads به نمایش درآمدهاند.
شکست سیستمهای هوش مصنوعی در فیلتر محتوای مخرب
ماه گذشته، تحقیقات اولیه TTP فاش کرد که Meta دهها تبلیغ پولی حاوی تصاویر صریح جنسی تولیدشده توسط هوش مصنوعی را که کاربران ساکن ایالات متحده و اروپا را هدف قرار میدادند، منتشر کرده است. برخی از این تبلیغات کاربران را به پیوندهایی برای برنامههای برهنهسازی مبتنی بر هوش مصنوعی هدایت میکردند. در واکنش به این گزارش، سخنگوی Meta اعلام کرد: «سوءاستفاده جنسی امری هولناک است و ما با تمام توان برای دور نگه داشتن آن از پلتفرم خود تلاش میکنیم.» این سخنگو مدعی شد که بیشتر این تبلیغات بازخورد بسیار محدودی داشته و بسیاری از آنها پیش از گزارش Wired غیرفعال شده بودند. وی همچنین افزود که این تبلیغات مربوط به دوره پیش از راهاندازی سیستم جدید شناسایی و مسدودسازی مبتنی بر هوش مصنوعی Meta بودهاند.
با این حال، گزارش جدیدتر Wired نشان میدهد که حتی سیستم ارتقایافته هوش مصنوعی Meta نیز در کاهش انتشار این تبلیغات سوءاستفادهگرایانه ناتوان بوده است. به گفته پژوهشگران TTP، نمایش این تبلیغات همچنان ادامه دارد. از آغاز ماه اوت، بیش از ۲۵۰ تبلیغ دیگر حاوی صحنههای جنسی صریح مربوط به کودکان در پلتفرمهای تحت مالکیت Meta اجرا شده است که برخی از آنها کاملاً با تبلیغاتی که اخیراً توسط این شرکت حذف شده بودند، مطابقت دارند.
استفاده از تصاویر کودکان واقعی و نقض سیاستهای بازبینی
برخلاف تبلیغات اولیه که توسط TTP شناسایی شده بودند و عمدتاً با هوش مصنوعی تولید شده بودند، این مجموعه جدید شامل تصاویر کودکان واقعی است. در میان این تصاویر، چهره یک کودک خردسال متعلق به یک خانواده سلطنتی اروپایی، کودکانی از ایالات متحده و همچنین یک نوجوان اینفلوئنسر دیده میشود. طبق سیاستهای رسمی بازبینی Meta، تمام تبلیغات باید پیش از انتشار بررسی شوند تا با استانداردهای تبلیغاتی شرکت مطابقت داشته باشند؛ اما یافتههای TTP نشان میدهد که ۳۳۲ مورد از این تبلیغات غیراخلاقی توانستهاند با موفقیت از فرآیند بازبینی عبور کنند.
بر اساس دادههای موجود در کتابخانه تبلیغات Meta، تبلیغات شناساییشده توسط TTP در مجموع به ۳۶ هزار حساب کاربری در اتحادیه اروپا و بریتانیا نمایش داده شدهاند. با این حال، حجم بسیار بزرگتری از این تبلیغات در کشورهای دیگر اکران شده است. طبق این تحقیقات، نزدیک به ۸۰ درصد از این تبلیغات (معادل ۲۶۲ مورد) در ایالات متحده، ۸۴ مورد در هند (که ۷۸ مورد آن پس از هشدار به Meta برای حذف تبلیغات مروج CSAM در اینستاگرام اجرا شد) و ۱۲۰ مورد نیز در استرالیا به نمایش درآمدهاند.
نقش آژانسهای تبلیغاتی دولتی چین در انتشار تبلیغات
پژوهشگران TTP بر این باورند که بخش عمدهای از این تبلیغات توسط برنامههای تولید تصویر و ویدیو با هوش مصنوعی ساخته شدهاند که توسعهدهندگان آنها چینی هستند. در این میان، دو آژانس واسطه فروش تبلیغات شناسایی شدهاند: گروه تبلیغاتی گوانگدونگ (GIMC) که یک آژانس تبلیغاتی بزرگ تحت کنترل دولت چین است، و شرکت BlueFocus که به عنوان آژانس تبلیغاتی همکار با بخش تبلیغات سیاسی دولت چین فعالیت میکند.
«آنچه ما در اینجا دربارهاش صحبت میکنیم، صرفاً محتوای سوءاستفاده جنسی از کودکان تولیدشده توسط هوش مصنوعی نیست. آسیبهای بسیار زیادی از این طریق ایجاد میشود، در حالی که Meta در تمام این مدت در حال کسب درآمد از این فرآیند است.»
— کیتی پاول (Katie Paul)، مدیر پروژه شفافیت فناوری (TTP)