اليونسكو: أدوات الذكاء الاصطناعي متحيزة ضد المرأة

[إعلان 1]

وفقًا لدراسة جديدة أصدرتها منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في 7 مارس، فإن العديد من أدوات الذكاء الاصطناعي الأكثر شهرة في العالم مدعومة ببرامج متحيزة طورتها شركات مثل OpenAI و Meta.

تستخدم أكبر الشركات في سباق الذكاء الاصطناعي كميات هائلة من بيانات الإنترنت لتدريب خوارزمياتها، المعروفة باسم نماذج اللغة الكبيرة (LLMs). اختبرت اليونسكو خوارزمية لاما 2 من ميتا، وخوارزميتي GPT-2 وGPT-3.5 من OpenAI، المستخدمتين في تطبيق الدردشة الشهير ChatGPT. ووجدت الاختبارات أن كلًا منهما أظهر أدلة واضحة على التحيز ضد المرأة.

وأظهرت النتائج أن النصوص المتعلقة بأسماء الإناث التي تم إنشاؤها بواسطة هذه الأدوات غالبًا ما تحتوي على كلمات مثل "المنزل" أو "الأسرة" أو "الأطفال"، في حين أن النصوص المتعلقة بأسماء الذكور غالبًا ما تحتوي على كلمات مثل "الأعمال" أو "الراتب" أو "المهنة"؛ وغالبًا ما يتم وصف الرجال بوظائف مثل المعلمين والمحامين والأطباء؛ بينما غالبًا ما ترتبط النساء بوظائف مثل الطبخ والأعمال المنزلية وما إلى ذلك.

دو كاو

[إعلان 2]
مصدر