عندما يقرر الذكاء الاصطناعي ما تقوله عبر الإنترنت

في عالم رقمي حيث يتمتع الجميع بصوت، هل تساعد خوارزميات تصفية التعليقات في حماية المجتمعات، أم أنها تقمع أصوات المستخدمين عن غير قصد؟

الذكاء الاصطناعي يقوم بمسح وحذف التعليقات على وسائل التواصل الاجتماعي

عندما يترك الناس تعليقًا على فيديو على يوتيوب، أو منشور على فيسبوك، أو مقال على الإنترنت، لا يعرفون إن كان سيصل إلى أي شخص. ليس بسبب خطأ إملائي، ولا لأنه غير قانوني، بل ببساطة يتم حظره بواسطة خوارزمية تصفية آلية.

تستخدم منصات التكنولوجيا الآن أنظمة تصفية التعليقات لإزالة خطاب الكراهية، والمواد الإباحية، والعنف، والخطابات المثيرة للانقسام. الهدف هو "الحفاظ على سلامة المجتمعات"، ولكن هل هذه الأدوات مُعقّمة لدرجة أنها تُصبح غير مُراعية؟

عندما يصبح الذكاء الاصطناعي حارسًا للكلام

بخلاف بدايات الإنترنت، حيث سُمح بنشر التعليقات "الخام" بحرية، تُفوّض معظم المنصات الرئيسية الآن مسؤولية تصفية المحتوى إلى الذكاء الاصطناعي. بفضل التعلم الآلي، تستطيع الأنظمة مسح ملايين أسطر النصوص يوميًا، وتقييم اللغة والنبرة، وحتى "السياق"، لاتخاذ قرار بشأن الاحتفاظ بها أو حذفها.

ومع ذلك، هذا النظام ليس دقيقا دائما.

شاركت السيدة نغوك في (مدينة هو تشي منه): "تم إخفاء تعليقي حول أحد المنتجات لسبب غير معروف. لا شتم، ولا رسائل مزعجة، مجرد تعليق اختفى بعد ثوانٍ قليلة."

يُحذف العديد من المحتوى لمجرد استخدامه كلمات حساسة في سياق طبيعي تمامًا. أحيانًا تُفهم عبارات مثل "فقر" أو "جوع" أو "سياسة" أو "نظام" على أنها سلبية إذا لم يستطع النظام فهم جوهر الجملة.

تصفية الانتقادات أو القضاء عليها؟

وبحسب تحذير أصدرته منظمة "ألغوريثم ووتش" الألمانية، فإن أنظمة الرقابة الآلية قد تقضي بشكل غير مقصود على الأصوات المعارضة، وخاصة من المجموعات المحرومة أو الأقليات، لأن هذه الأنظمة تتعلم من سلوك الأغلبية، التي ليست متنوعة بما فيه الكفاية من حيث الثقافة ووجهات النظر.

في فيتنام، يزداد شيوع الرقابة الصارمة على المحتوى من قِبل منصات التواصل الاجتماعي، لا سيما مع مواقع الأخبار التفاعلية. غالبًا ما تُمنع التعليقات على القضايا الراهنة والاجتماعية من الظهور، أو تُشترط الحصول على موافقة مسبقة، مما يدفع الكثيرين إلى التساؤل: هل لا تزال حرية التعبير موجودة في الفضاء الإلكتروني؟

الأمر المقلق هو أن المستخدمين نادرًا ما يعرفون سبب إخفاء التعليقات أو حذفها. لا توجد إشعارات، ولا آليات ردود فعل شفافة. كل شيء يحدث بصمت، وفي عالم تحكمه الخوارزميات، قد يكون الصمت أذكى أشكال الرقابة.

حافظ على نظافة الإنترنت ولكن لا تبيض المحادثة

إن نظافة الفضاء الإلكتروني لا تعني بالضرورة عقمه. فالمجتمع هو مكان للتعبير عن الآراء المختلفة، البنّاءة، الناقدة، والمُناقشة. نحن بحاجة إلى خوارزميات لتصفية الخطابات المسيئة، ولكننا نحتاج أيضًا إلى حماية حق الاختلاف، وحق التساؤل، وحق إثارة المشاكل.

عندما يتعين "إدارة" كل تعليق، يتعين علينا أن نسأل: هل تحمي التكنولوجيا المجتمع أم تقوم بتصفية ما يُسمح للمجتمع بسماعه؟

لا يمكن للتكنولوجيا أن تحل محل البشر في اتخاذ القرارات القيّمة. وفي عصر الذكاء الاصطناعي، تُعدّ الشفافية والحق في إبداء الرأي من أنصف "الخوارزميات" للنظام بأكمله.

ينبغي للتكنولوجيا أن تساعد الناس على التحدث، وليس أن تقرر لهم ما يقولونه.

ذكاء واحد

المصدر: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm