این تحقیقات که با کمک محققان دانشگاه استنفورد و دانشگاه ماساچوست امهرست انجام شده است، از ضعف بزرگ الگوریتمهای توصیه محتوای اینستاگرام پرده برمیدارد.
به گفته این محققان، سیستم توصیه اینستاگرام با اتصال پدوفیلها به هم، آنها را به سمت فروشندگان محتوای جنسی کودکان هدایت میکند.
حسابهایی که در نتیجه این تحقیقات کشف شدهاند به شکل آشکار با استفاده از هشتگهای صریحی مانند preteensex (سکس پیشانوجوانی) محتوای خود را تبلیغ میکنند.
این حسابها یک مِنو برای خرید محتوا در اختیار کاربران اینستاگرام قرار میدهند که شامل فیلمها و تصاویر گوناگون با موضوعاتی مانند آسیب به خود و وحشیگری است.
هنگامی که محققان با ساخت یک حساب آزمایشی اینستاگرام، محتوای این حسابها را مشاهده کردند، الگوریتم این شبکه اجتماعی بلافاصله حسابهای مشابه دیگری را برای دنبال کردن به آنها توصیه کرد.
در گزارش روزنامه وال استریت ژورنال آمده است: «دنبال کردن تعداد انگشتشماری از این توصیهها کافی بود تا یک حساب آزمایشی با محتوای جنسی کودکان پر شود.»
میل جنسی به کودکان که به آن پدوفیلی یا «کودککامی» گفته میشود، نوعی ناهنجاری روانی است که در بسیاری از کشورها مجازات سنگینی برای مرتکبان به جرایم مربوط به آن اعمال میشود.
شرکت «متا» به عنوان مالک پلتفرم اینستاگرام در واکنش به نتایج این تحقیقات گفت یک کارگروه داخلی را برای بررسی موارد مطرح شده ایجاد میکند.
این شرکت سوءاستفاده از کودکان را «جنایتی وحشتناک» توصیف کرد و گفت بهطور مداوم در حال بررسی شیوههایی برای مقابله با این رویه است.
متا همچنین خاطرنشان کرد در ماه ژانویه امسال ۴۹۰ هزار حساب ناقض قوانین ایمنی کودکان را حذف کرده است.
این شرکت همچنین تاکید کرد طی دو سال گذشته ۲۷ شبکه مربوط به حسابهای پدوفیلی و هشتگهای مرتبط با این حوزه را شناسایی کرده و از بین برده است.
الکس استاموس، رییس رصدخانه اینترنت دانشگاه استنفورد و مدیر ارشد سابق امنیت شرکت متا به والاستریت ژورنال گفت که شرکت متا باید تلاش بیشتری در این زمینه انجام دهد.
به گفته او، وقتی یک تیم کوچک سه نفره از محققان دانشگاهی با دسترسی محدود میتوانند چنین شبکه عظیمی را بیابند، متا باید زنگ خطر خود را به صدا درآورد.