خلل في إنستاجرام يعرض مقاطع غير لائقة ويثير القلق لدى المستخدمين

بدأ مستخدمو أحد تطبيقات وسائل التواصل الاجتماعي الأكثر شهرة في العالم، يلاحظون شيئًا غريبًا يحدث في خلاصة الفيديوهات القصيرة الخاصة بهم. كانت مقاطع الفيديو التي تظهر لهم في قسم Reels تحتوي على محتوى لا يتماشى مع التوقعات أو المعايير التي اعتادوا عليها. وبكل أسف، كان هذا المحتوى يشمل مشاهد عنيفة جدًا، وبعضها كان يقترب من الحدود الصادمة التي يصعب تصديقها. كانوا يشاهدون مشاهد إطلاق نار في المدارس، جرائم قتل مروعة، وحتى مشاهد طعن وقطع رؤوس. لكن المثير للدهشة أن هناك أيضًا مقاطع كانت تحتوي على محتوى إباحي واضح وغير خاضع للرقابة.

مستخدمي التطبيق لم يكونوا وحدهم في هذا التحدي. سرعان ما امتلأت المنتديات على الإنترنت مثل Reddit بالعديد من الشكاوى حول هذا الموضوع، حيث أعرب الجميع عن دهشتهم من هذا الخلل الغريب الذي أصاب المنصة. بدأ بعضهم يتساءل: هل كان هذا يحدث فقط لي؟ أم أن هناك خطب ما في الخوارزميات؟

ثم جاء التصريح الرسمي من شركة ميتا، المالكة للتطبيق، التي اعترفت بوجود خلل في خوارزميات التوصية. وقال متحدث باسم الشركة: “نحن نعمل على إصلاح الخطأ الذي أدى إلى ظهور محتوى لا ينبغي أن يكون في التوصيات. نعتذر عن هذا الخلل.” ولكن رغم هذا الاعتراف، بقيت الأسئلة حول السبب وراء حدوث هذا الأمر قائمة دون إجابة واضحة. كيف يمكن لخوارزميات ذكاء اصطناعي أن تُخطئ بهذا الشكل؟ وكيف لم تتمكن من تجنب عرض هذا النوع من المحتوى الصادم؟

تأثير هذا الخلل على المستخدمين كان كبيرًا. على الرغم من أن الكثيرين قد قاموا بتفعيل إعدادات التحكم في المحتوى الحساس على حساباتهم، إلا أن الفيديوهات المزعجة ظلت تظهر لهم. حتى أولئك الذين اختاروا “غير مهتم” أو قاموا بإلغاء متابعة الصفحات التي تحتوي على هذا النوع من المحتوى، كانوا ما زالوا يعانون من ظهور المقاطع الصادمة بشكل متكرر.

ووسط هذا القلق، بدأ الكثيرون يطرحون التساؤلات حول إجراءات ميتا في الإشراف على المحتوى في تطبيقها. فعادةً، تنص سياسات الشركة على ضرورة إزالة المحتوى العنيف فورًا، أو على الأقل وضع تحذيرات قبل عرضه. كما يتم حظر أي صور أو مقاطع تحتوي على العري أو الأنشطة الجنسية الحقيقية. ولكن للأسف، هذا لم يحدث بشكل فعال مع الخلل الأخير. كانت الخوارزميات قد فشلت في التحقق من المحتوى قبل عرضه، ما جعل الأمور تزداد تعقيدًا بالنسبة للمستخدمين.

كانت القلق يتصاعد بين أولئك الذين يثقون في المنصة. كيف يمكنهم أن يثقوا في خوارزميات التوصية التي كانت تعرض لهم محتوى لا يتفق مع مبادئ السلامة والحماية؟ كانت المشكلة تتطلب حلولًا فورية، فحتى لو كانت الخوارزميات قد أخطأت، لا ينبغي أن يتكرر هذا النوع من الأحداث في المستقبل.

أخيرًا، أعلنت ميتا أنها بصدد إصلاح الخطأ التقني بأسرع وقت ممكن، وأن التوصيات المستقبلية ستتجنب عرض هذا النوع من المحتوى غير اللائق. ومع ذلك، لم تقدم الشركة تفاصيل دقيقة حول كيفية حدوث الخلل، مما ترك المستخدمين في حالة من التساؤل المستمر حول سلامة المنصة.

الدرس المستفاد من هذه الحادثة هو ضرورة تحسين الخوارزميات وتقوية أدوات الإشراف على المحتوى. فكما رأينا، اعتماد الشركات الكبرى على الخوارزميات لا يعني أن كل شيء يسير بسلاسة. وعلى منصات التواصل الاجتماعي أن تضمن حماية أفضل لمستخدميها من المحتوى غير اللائق، خاصةً في ظل تزايد الاعتماد على الذكاء الاصطناعي في التعامل مع المحتوى.

في النهاية، تظل هذه الحادثة تثير تساؤلات حول كيفية إدارة المحتوى في التطبيقات الكبرى مثل إنستاجرام. وإذا كانت الخوارزميات لا تستطيع ضمان عرض محتوى آمن، فعلى الشركات أن تتخذ إجراءات إضافية لتصحيح المسار وضمان بيئة آمنة للمستخدمين.