قام Instagram بمشاركة تفاصيل جديدة حول كيفية استخدام تطبيقه للتعلم الالي على المحتوى السطحي للمستخدمين، مشددا على أنه عند تقديم التوصيات، يركز على العثور على حسابات يعتقد أن الناس سيستمتعون بها، بدلا من النشرات الفردية.
منشور المدونة تقني بطبيعته ولا يحتوي على مفاجات كبيرة، لكنه يقدم منظورا مثيرا للاهتمام من وراء الكواليس في وقت تخضع فيه أنظمة التوصية الخوارزمية للتدقيق لدفع المستخدمين نحو المحتوى الخطير والكراهية والتطرف.
على الرغم من عدم انتقاد Instagram بنفس الضراوة التي يتعرض لها موقع YouTube (الذي يطلق عليه The New Radicalizer من قبل صحيفة New York Times)، إلا أنه يعاني من بعض المشاكل. يزداد المحتوى المشوهة والمعلومات المضللة على المنصة مثل أي شبكة اجتماعية أخرى، وقد تم عرض اليات معينة في التطبيق (مثل الميزة التالية المقترحة) لدفع المستخدمين نحو وجهات نظر متطرفة لموضوعات مثل مكافحة التطعيم.
يشدد المنشور على أن Instagram ضخم، وأن المحتوى الذي يحتويه متنوع للغاية، "مع مواضيع تتراوح من الخط العربي إلى نماذج القطارات إلى الوحل." وهذا يمثل تحديا للتوصية بالمحتوى، الذي يتغلب عليه Instagram من خلال التركيز على ما لا يمكن للمستخدمين نشره. أحب أن أرى، ولكن على ما الحسابات قد تهمهم بدلا من ذلك.
يحدد Instagram الحسابات المتشابهة مع بعضها البعض من خلال تكييف طريقة شائعة للتعلم الالي تعرف باسم "تضمين الكلمات". تدرس أنظمة تضمين الكلمات الترتيب الذي تظهر به الكلمات في النص لقياس مدى ارتباطها. لذا، على سبيل المثال، قد يشير نظام تضمين الكلمات إلى أن كلمة "fire" تظهر غالبا بجوار كلمتين "alarm" و "truck"، ولكن بشكل أقل تواترا بجوار الكلمات "pelican" أو "sandwich". يستخدم Instagram طريقة مشابهة عملية لتحديد مدى ارتباط أي حسابين ببعضهما البعض.
ولتقديم توصياته، يبدأ نظام Explore بالبحث في "الحسابات الأولية"، وهي حسابات تفاعل معها المستخدمون في الماضي من خلال إبداء إعجابهم بالمحتوى الخاص بهم أو حفظه. يحدد حسابات مشابهة لتلك، ومنه، يختار 500 قطعة من المحتوى. يتم تصفية هؤلاء المرشحين لإزالة البريد العشوائي والتضليل و "المحتوى المحتمل انتهاك السياسة"، ويتم تصنيف المشاركات المتبقية بناء على مدى احتمال تفاعل المستخدم مع كل واحدة. أخيرا، يتم إرسال أفضل 25 مشاركة إلى الصفحة الأولى من علامة التبويب "استكشاف" للمستخدم.
هناك بعض الأشياء التي يجب ملاحظتها هنا.
أولا: إن Instagram لا يتسم بالشفافية الكاملة بشأن عمليته. لا توجد تفاصيل حول الإشارات المستخدمة لتحديد الرسائل غير المرغوب فيها أو المعلومات الخاطئة، وهذا ليس مفاجئا جدا بالنظر إلى أن شرح هذا سيساعد الأفراد الذين يرغبون في نشر هذا النوع من المحتوى. كما أن الشركة غير واضحة بشأن درجة استخدام تعلم الالة لتصفية المحتوى غير المناسب، وهو تفصيل رئيسي بالنظر إلى أن Facebook يقدم غالبا الذكاء الاصطناعي باعتباره رصاصة سحرية للاعتدال (بينما يختلف الخبراء).
أولا: إن Instagram لا يتسم بالشفافية الكاملة بشأن عمليته. لا توجد تفاصيل حول الإشارات المستخدمة لتحديد الرسائل غير المرغوب فيها أو المعلومات الخاطئة، وهذا ليس مفاجئا جدا بالنظر إلى أن شرح هذا سيساعد الأفراد الذين يرغبون في نشر هذا النوع من المحتوى. كما أن الشركة غير واضحة بشأن درجة استخدام تعلم الالة لتصفية المحتوى غير المناسب، وهو تفصيل رئيسي بالنظر إلى أن Facebook يقدم غالبا الذكاء الاصطناعي باعتباره رصاصة سحرية للاعتدال (بينما يختلف الخبراء).
خذ مثالا على محتوى مكافحة vax. قام Instagram بحملة صارمة على هذا ولكن باستخدام الطرق اليدوية بشكل أساسي. إنه يحظر علامات التجزئة التي تحتوي على ما يقوله "معلومات خاطئة يمكن التحقق منها" مثل "المبيدات الحشرية" ويعتمد على الوكالات الصحية مثل منظمة الصحة العالمية للإشارة إلى المواقع الخطرة، التي تأخذها.
هل ستكون الذكاء الاصطناعي مفيدا؟ الأمر غير واضح، لكن ميدفيديف يقول إن الشركة تعمل على ذلك.
"إننا نقوم أيضا بتدريب نماذج الذكاء الاصطناعي للكشف بشكل خاطئ عن معلومات خاطئة عن اللقاح واتخاذ إجراءات تلقائية"
الطريقة الثانية من المشاركة هي أنه من خلال إخبار Instagram، فإن أفضل طريقة للمستخدمين لتشكيل المحتوى الذي يرونه في علامة التبويب "استكشاف" هي من خلال التفاعل مع الأشياء التي يحبونها. (هذا مفيد ل Instagram، أعتقد!). إذا كنت لا ترغب في رؤية أنواع معينة من المنشورات، فإن أفضل رهان لك هو استخدام أداة "رؤية عدد أقل من النشرات مثل هذه"، والتي يمكنك الوصول إليها من خلال النقر فوق القائمة نقطة في الزاوية العلوية اليمنى من كل وظيفة. ستلاحظ الخوارزمية.