البحث والتطوير لأنظمة الذكاء الاصطناعي المسؤولة.

وفقًا لوزارة العلوم والتكنولوجيا ، واتباعًا للاتجاه العام في العالم، يُتوقع أن تُحقق أنظمة الذكاء الاصطناعي فوائد جمة للأفراد والمجتمع والاقتصاد الفيتنامي من خلال دعم وحل المشكلات الصعبة التي يواجهها الأفراد والمجتمعات. بالتزامن مع هذه العملية، من الضروري إجراء البحوث واتخاذ التدابير اللازمة لتقليل المخاطر في عملية تطوير الذكاء الاصطناعي واستخدامه، وتحقيق التوازن بين العوامل الاقتصادية والأخلاقية والقانونية ذات الصلة. لذلك، تحتاج الهيئات المتخصصة إلى البحث ووضع معايير وإرشادات توجيهية، حتى وإن كانت لوائح غير ملزمة.

حددت وزارة العلوم والتكنولوجيا في المبادئ التوجيهية تسعة مبادئ للبحث والتطوير المسؤول لأنظمة الذكاء الاصطناعي.

أولاً، روح التعاون، وتعزيز الابتكار: يحتاج المطورون إلى النظر في الاتصال والتوافق بين أنظمة الذكاء الاصطناعي الخاصة بهم وأنظمة الذكاء الاصطناعي الأخرى من خلال النظر في تنوع الأنظمة لتعزيز فوائد النظام، مع تعزيز التنسيق للسيطرة على المخاطر.

ثانيًا، الشفافية: غالبًا ما تكون أنظمة الذكاء الاصطناعي التي تلتزم بهذا المبدأ أنظمةً قد تؤثر على حياة المستخدمين أو أجسادهم أو خصوصيتهم أو ممتلكاتهم أو الأطراف الثالثة ذات الصلة. في هذه الحالة، يجب على المطورين الاهتمام بالقدرة على تحديد مدخلات ومخرجات النظام بوضوح، بالإضافة إلى إمكانية شرحها بناءً على خصائص التكنولوجيا المطبقة وكيفية استخدامها، لضمان ثقة المجتمع، بمن فيهم المستخدمون.

ثالثًا، قابلية التحكم: لتقييم المخاطر المرتبطة بإمكانية التحكم في النظام، يتعين على المطورين إجراء تقييم مسبق لمدى استيفاء النظام للمتطلبات والمعايير الفنية ذات الصلة. إحدى طرق تقييم المخاطر هي اختباره في مساحة منفصلة مع تطبيق تدابير الأمن والسلامة قبل تطبيقه.

رابعا، مبدأ السلامة: يجب على المطورين التأكد من أن نظام الذكاء الاصطناعي لن يسبب ضررا لحياة أو جسد أو ممتلكات المستخدمين أو الأطراف الثالثة، بما في ذلك من خلال الوسطاء.

خامساً، مبادئ الأمن: بالإضافة إلى الالتزام بالوثائق والتعليمات وتنفيذ تدابير أمن المعلومات على النحو المقرر، يحتاج المطورون إلى الاهتمام بنقاط مثل: موثوقية النظام ومقاومته للهجمات المادية أو حوادث النظام؛ والسرية؛ والنزاهة؛ وتوافر المعلومات الضرورية المتعلقة بأمن المعلومات في النظام...

٦. الخصوصية: يجب على المطورين ضمان عدم انتهاك أنظمة الذكاء الاصطناعي لخصوصية المستخدمين أو الأطراف الثالثة. تشمل الخصوصية الخصوصية المكانية (راحة البال في الحياة الشخصية)، وخصوصية المعلومات (البيانات الشخصية)، وسرية الاتصالات. يجب على المطورين تطبيق اللوائح والإرشادات الحالية؛ ويمكن الاطلاع على المعايير والإرشادات الدولية المتعلقة بالخصوصية.

ينبغي على المطورين إجراء تقييم مسبق لمخاطر الخصوصية وتأثيراتها. وينبغي، قدر الإمكان، اتخاذ التدابير المناسبة لخصائص التقنية المستخدمة طوال عملية تطوير النظام لتجنب أي انتهاك للخصوصية عند استخدامها.

سابعًا، احترام حقوق الإنسان وكرامته: عند تطوير أنظمة الذكاء الاصطناعي التي تُشرك البشر، يجب على المطورين إيلاء اهتمام خاص لاحترام حقوق الإنسان وكرامة الأفراد المعنيين. وينبغي للمطورين، قدر الإمكان، وتبعًا لخصائص التقنية المُستخدمة، اتخاذ تدابير لضمان عدم التسبب في أي تمييز أو ظلم ناتج عن تحيز في البيانات عند تدريب النظام.

يجب على المطورين اتخاذ الاحتياطات اللازمة لضمان عدم انتهاك النظام للقيم الإنسانية والأخلاق الاجتماعية وفقًا للمبادئ الأساسية لفيتنام (على سبيل المثال، القيم بما في ذلك الوطنية والتضامن والاعتماد على الذات والولاء والصدق والمسؤولية والانضباط والإبداع، إلخ).

8. دعم المستخدم: لدعم المستخدمين، يحتاج مطورو النظام إلى الاهتمام بنقاط مثل: إنشاء واجهات جاهزة لتوفير المعلومات في الوقت المناسب والمناسبة لمساعدة المستخدمين على اتخاذ القرارات واستخدامها بشكل مريح؛ تنفيذ التدابير اللازمة لجعل النظام أسهل في الاستخدام للأشخاص المعرضين للخطر في المجتمع (كبار السن، وذوي الإعاقة)...

٩. المساءلة: يجب على المطورين تحمل مسؤولية الأنظمة التي يطورونها لضمان ثقة المستخدمين. وتحديدًا، عليهم تزويد المستخدمين بالمعلومات اللازمة لاختيار النظام واستخدامه. بالإضافة إلى ذلك، لزيادة القبول الاجتماعي للأنظمة، ينبغي على المطورين بذل المزيد من الجهود: تزويد المستخدمين بالمعلومات وشرح الخصائص التقنية للأنظمة التي يطورونها، والخوارزميات، وآليات الأمان، وغيرها؛ والاستماع إلى الآراء والحوار مع أصحاب المصلحة.

المصدر: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html